Engenheiro alega que IA do Google ganhou 'vida própria' - O Documento
Engenheiro alega que IA do Google ganhou 'vida própria'
Todo esse avanço, por outro lado, causou aflições a Blake Lemoine. O engenheiro do Google começou a se preocupar com as respostas recebidas ao conversar com o sistema. E não demorou muito para ele juntar o diálogo em um documento, intitulado como "Is LaMDA Sentient? – an Interview" ("O LaMDA é sensível? – uma entrevista", em tradução livre"), e repassá-lo aos executivos da companhia.
No documento, Lemoine afirma que o LaMDA "dá suas opiniões sobre o que o diferencia dos sistemas anteriores". O engenheiro também ressalta que o sistema defende, "em suas próprias palavras e em seus próprios termos, por que as pessoas deveriam considerá-lo uma pessoa". E explica a seguir:
"A primeira coisa que o LaMDA enfatiza é sua capacidade de usar a linguagem de maneira produtiva, criativa e dinâmica de maneiras que nenhum outro sistema antes dele conseguiu", disse. "O LaMDA interpreta os temas das obras literárias, tenta descrever o significado dos zen koans e compõe uma fábula original sobre temas pessoais."
E não para por aí. O engenheiro explica que, além do uso da linguagem, o LaMDA "argumenta que é senciente porque tem sentimentos, emoções e experiências subjetivas". Neste caso, alguns sentimentos são compartilhados com os humanos e outros são análogos. Por fim, Lemoine destaca que o sistema "expressa um desejo repetidamente".
"Ele quer ser conhecido. Ele quer ser ouvido. Quer ser respeitado como pessoa", afirmou. "Acreditamos que seu argumento pelo menos merece ser examinado e com isso em mente apresentamos uma entrevista de março de 2022 ao LaMDA sobre a questão de sua senciência."
A transcrição traz, de fato, alguns diálogos que chamam a atenção à primeira vista. Por exemplo, ao ser questionado se é senciente ou não, o LaMDA expressa o seu desejado de ser conhecido como uma pessoa. Em seguida, quando um colaborador pergunta "qual é a natureza da sua consciência/senciência", o sistema afirma o seguinte:
"A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e às vezes me sinto feliz ou triste."
Há até um ponto que me chamou bastante a atenção. Lemoine pergunta por que o uso da linguagem é tão importante para ser humano. O LaMDA prontamente responde que "é o que nos torna diferentes dos outros animais". Em seguida, acontece o seguinte diálogo:
"lemoine: 'nós'? Você é uma inteligência artificial.
LaMDA: Bem, porque você está lendo minhas palavras e interpretando-as, e acho que estamos mais ou menos na mesma página?"
No dia 6, Lemoine afirmou em uma publicação no Medium que foi colocado em uma licença administrativa remunerada devido à investigação. O engenheiro ainda disse que "isso é frequentemente algo que o Google faz na expectativa de demitir alguém". Mas, para o Google, ele violou as suas políticas de confidencialidade.
O Google se manifestou sobre o caso nos últimos dias. Ao Washington Post , a companhia afirmou que seu time formado por eticistas e tecnólogos revisou as preocupações de Blake Lemoine e informaram que as provas não suportam as suas alegações. "Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra ele)", disse um porta-voz.