Quando se trata de auto aperfeiçoamento, as coisas se tornam um pouco mais sutis. Jalsenjak aponta que já existe um software capaz de auto modificação, embora o grau de auto modificação varie entre diferentes softwares.
Os atuais algoritmos de aprendizagem de máquinas são, até certo ponto, capazes de adaptar seu comportamento ao seu ambiente. Eles ajustam seus muitos parâmetros aos dados coletados do mundo real e, à medida que o mundo muda, eles podem ser reeducados com base em novas informações. Por exemplo, a pandemia de coronavírus pode perturbar os sistemas de IA que foram treinados sobre nosso comportamento normal. Entre eles estão algoritmos de reconhecimento facial que não podem mais detectar rostos porque as pessoas estão usando máscaras. Estes algoritmos podem agora ajustar novamente seus parâmetros através de treinamento em imagens de rostos que usam máscaras. Claramente, este nível de adaptação é muito pequeno quando comparado com as amplas capacidades dos humanos e dos animais de nível superior, mas seria comparável, digamos, a árvores que se adaptam crescendo raízes mais profundas quando não conseguem encontrar água na superfície do solo.
Uma IA auto aperfeiçoadora ideal, no entanto, seria aquela que poderia criar algoritmos totalmente novos que trariam melhorias fundamentais. Isto é chamado de "auto aperfeiçoamento recursivo" e levaria a um ciclo interminável e acelerado de IA cada vez mais inteligente. Poderia ser o equivalente digital das mutações genéticas que os organismos passam ao longo de muitas gerações, embora a IA fosse capaz de executá-la em um ritmo muito mais rápido.
Hoje, temos alguns mecanismos, tais como algoritmos genéticos e pesquisa de grade que podem melhorar os componentes não-treináveis dos algoritmos de aprendizagem de máquinas (também conhecidos como hiperparâmetros). Mas o escopo de mudança que eles podem trazer é muito limitado e ainda requer um grau de trabalho manual de um desenvolvedor humano. Por exemplo, não se pode esperar que uma rede neural recursiva se transforme em um Transformer através de muitas mutações.
O auto aperfeiçoamento recursivo, entretanto, dará à IA a "possibilidade de substituir o algoritmo que está sendo usado por completo", observa Jalsenjak. "Este último ponto é o que é necessário para que a singularidade ocorra".
Por analogia, olhando para determinadas características, as IA superinteligentes podem ser consideradas vivas, conclui Jalsenjak, invalidando a alegação de que a IA é uma extensão dos seres humanos. "Eles terão seus próprios objetivos, e provavelmente também seus direitos", diz ele, "Os humanos compartilharão, pela primeira vez, a Terra com uma entidade que é pelo menos tão inteligente quanto eles e provavelmente muito mais inteligente".
No final de seu ensaio, Jalsenjak reconhece que a reflexão sobre a vida artificial deixa muitas outras perguntas. "As características aqui descritas sobre seres vivos são suficientes para que algo seja considerado vivo ou são apenas necessárias, mas não suficientes?" pergunta ele.