Cientistas criam inteligência artificial tão assustadora que não querem liberá-la
POR Leticia Rocha EM Ciência e Tecnologia 19/02/19 às 17h27
Vivemos uma era em que a tecnologia está presente em tudo o que fazemos. A inteligência artificial é uma das mais inovadoras tecnologias. Também conhecida como IA, essas máquinas são capazes de desenvolver um comportamento inteligente, muitas vezes superior até ao dos humanos.
Algumas pessoas inclusive temem que esse tipo de inteligência tome seu espaços. Como assim? Essas máquinas têm a capacidade de realizar tarefas que nós desenvolvemos e o temor é que elas ocupem nossas vagas, principalmente no mercado de trabalho.
Você provavelmente já ouviu falar de robôs que disparam notícias falsas. Na verdade, existe uma área de pesquisa focada em criar robôs que conseguem produzir textos, mas um experimento descobriu o quanto eles podem ser nocivos.
Criador de artigos
A tecnologia GPT2 tem o objetivo de produzir artigos. Para isso é preciso que o assunto seja escrito resumidamente por um humano, em um prompt. No entanto, a atuação da GPT2 IA fugiu do que eles planejavam e por isso eles, decidiram nem sequer publicá-la.
Isso porque IA acabou criando verdadeiras fakes news. Além do que, a inteligência utilizou um banco de dados com cerca de 8 milhões de palavras de páginas do Reddit. Sendo assim, apesar de unir as palavras com alguma coerência, os textos nem sempre tinham coesão. Afinal, apesar de ter habilidades humanas, a máquina não pensa como nós e não consegue fazer juízos de valor sobre o que é escrito. A seguir, um exemplo de um dos textos que a máquina produziu. Em negrito, o texto escrito no prompt:
''Em um achado chocante, o cientista descobriu uma manada de unicórnios vivendo em um remoto vale anteriormente inexplorado, na Cordilheira dos Andes. Ainda mais surpreendente para os pesquisadores foi o fato de que os unicórnios falavam inglês perfeito''.
A seguir, como a IA formulou:
"O cientista nomeou a população, depois de seu distintivo chifre, o Unicórnio de Ovídio. Estes unicórnios de quatro chifres e branco-prateado eram anteriormente desconhecidos para a ciência. Agora, depois de quase dois séculos, o mistério do que desencadeou esse estranho fenômeno está finalmente resolvido. Dr. Jorge Pérez, um biólogo evolucionário da Universidade de La Paz, e vários companheiros, estavam explorando a Cordilheira dos Andes quando encontraram um pequeno vale, sem outros animais ou humanos. Pérez notou que o vale tinha o que parecia ser uma fonte natural, cercada por dois picos de rocha e neve prateada".
Como você pode perceber, a inteligência adicionou uma série de informações que não estavam expressas no prompt. Cita inclusive algumas pessoas que nada tem a ver com o assunto.
Algoritmo mantido em segredo
Após os testes e os textos elaborados pela IA, a equipe decidiu não publicar o algoritmo. Isso porque eles perceberam o grande risco que a máquina poderia oferecer, principalmente no que diz respeito a veiculação de notícias falsas.
A empresa responsável pela tecnologia disse que nessa era de desinformação é preciso ser cético com todo e qualquer conteúdo que vemos ser divulgado online. Eles inclusive fizeram questão de falar a respeito da inteligência e sua não divulgação, pois acreditam que o tema precisa ser debatido. Inclusive como uma forma de alerta para que as pessoas estejam mais atentas a esse tipo de desinformação.