Tecnologias de inteligência artificial estão se tornando conscientes? Entenda o caso - Portal Cidade Luz
Engenheiro afirma que software do Google sabe o que quer e o que considera como direitos, contrariando a comunidade científica.
As tecnologias de inteligência artificial estão se tornando "conscientes"? Um engenheiro do Google foi suspenso por dizer que sim e despertou um debate que está longe de ser ficção científica.
A LaMDA, um software do Google que gera chatbots, robôs que conversam virtualmente, "sabe claramente o que quer e o que considera como direitos enquanto pessoa", escreveu o engenheiro Blake Lemoine na plataforma Medium.
Programas baseados em aprendizagem automática são "treinados" a partir de conjuntos de dados que abordam os conceitos de consciência ou identidade e são capazes de causar essa ilusão.
"Os programas que acessam a internet podem responder a qualquer pergunta", mas isso não os torna confiáveis, diz a professora Susan Schneider, fundadora de um centro de pesquisa na Universidade Atlântica da Flórida.
O Google tende a "tentar silenciar questões éticas", disse Schneider. "Precisamos de debates públicos sobre essas questões espinhosas", acrescentou.
"Centenas de pesquisadores e engenheiros conversaram com a LaMDA e, até onde sabemos, ninguém fez essas alegações ou antropomorfizou a LaMDA como Blake fez", comentou Brian Gabriel, porta-voz do Google.
De Pinóquio ao filme Ela, sobre o romance de um escritor com um chatbot, a ideia de uma entidade não humana ganhando vida "está presente em nosso imaginário", diz Mark Kingwell, professor da Universidade de Toronto, no Canadá.
"É difícil respeitar a distância entre o que imaginamos possível e o que é realmente possível", estima.
Os sistemas de inteligência artificial são avaliados há muito tempo com o teste de Turing: se o avaliador fala com um computador sem perceber que não está falando com uma pessoa, a máquina está "aprovada".
"Mas em 2022 é muito fácil para uma IA conseguir isso", destaca o autor.
"Podemos fazer, por exemplo, uma IA neurótica" com as conversas que pode ter com uma pessoa deprimida, explica Shashank Srivastava, professora de ciência da computação da Universidade da Carolina do Norte.
"Estamos em um hype midiático em torno da IA", adverte Bender.
"E muito dinheiro é investido. Assim, os funcionários desse setor sentem que trabalham em algo importante, algo real, e não necessariamente têm a distância necessária".
"Futuro da humanidade"
"Se conseguíssemos substituir tecidos neurais por chips, seria um sinal de que as máquinas podem ser potencialmente conscientes", aponta Schneider.
A especialista acompanha de perto o progresso da Neuralink, uma empresa fundada por Elon Musk para fabricar implantes cerebrais para fins médicos, mas também para "garantir o futuro da humanidade, como civilização, em relação à IA", segundo o magnata.