Facebook | Inteligência artificial é desativada após criar linguagem própria - Universe42
News Universo Geek
Facebook | Inteligência artificial é desativada após criar linguagem própria
Pesquisadores do Facebook foram forçados a desligar um dos seus sistemas de inteligência artificial depois que eles descobriram que o sistema estava se comunicando em um idioma que eles não conseguiam entender, segundo reportagem do Digital Journal.
A empresa recentemente desenvolveu uma nova inteligência artificial (IA). Inicialmente, as máquinas – apelidadas de Bob e Alice – realmente estavam se comunicando entre si. Sem nenhum comando executado, a máquina parou de usar a linguagem programada e começou a se comunicar de um modo que só poderia ser entendido por outras IAs.
Juntos, as máquinas poderiam decidir como proceder com o que eles estavam trabalhando. No começo, as frases que estavam sendo usadas pareciam ininteligíveis, mas, após uma observação adicional, os pesquisadores descobriram que representavam as tarefas em questão.
O sistema começou a utilizar palavras-chaves que tornavam a comunicação mais eficiente, porém já não utilizava mais o inglês. Os pesquisadores imediatamente decidiram pelo desligamento do sistema por preocupações de que eles poderiam perder o controle sobre o sistema.
Se a IA continuasse a criar seus próprios idiomas, os desenvolvedores teriam problemas para criar e adotar novas redes neurais, mas não está claro se isso permitiria que as máquinas realmente anulassem seus operadores.
Esses novos desenvolvimentos, no entanto, permitem que o sistema trabalhe de forma mais eficiente e possa beneficiar as equipes de pesquisa no longo prazo, se colocarem o trabalho para aprender a nova taquigrafia criada por IA e ficarem atualizados com este novo método de comunicação.
Recentemente, o Google melhorou seu serviço de tradução, adicionando uma rede neural. O sistema agora é capaz de traduzir de forma muito mais eficiente, incluindo entre pares de idiomas que não foi explicitamente ensinado. A taxa de sucesso da rede surpreendeu o time do Google. Seus pesquisadores descobriram que a Inteligência Artificial escreveu silenciosamente sua própria linguagem, adaptada especificamente à tarefa de traduzir frases.
Se as línguas inventadas por AI se tornassem generalizadas, elas poderiam causar problemas ao desenvolver e adotar novas redes neurais. Não há evidências suficientes para determinar se apresentam uma ameaça que poderia permitir que as máquinas anulassem seus operadores.
Eles tornam o desenvolvimento mais difícil, pois, como os seres humanos não conseguem entender a natureza esmagadoramente lógica das línguas. Embora pareçam sem sentido, os resultados observados por equipes como o Google Translate indicam que eles realmente representam a solução mais eficiente para os principais problemas. Isso demonstra a preocupação e advertências o começo de julho feitas por Elon Musk. O fundador do PayPal e CEO da SpaceX, empresa de transporte espacial americana, alertou para os riscos aos quais a sociedade pode acabar sofrendo com o desenvolvimento de inteligência artificial sem supervisão.
Segundo ele, é um risco para a existência da nossa civilização, durante reunião com os governadores em uma reunião que aconteceu em Rhode Island. "Porque penso que quando estivermos reativos na regulação da IA, será muito tarde". Mark Zuckerberg, CEO do Facebook, disse que as advertências de Musk são "bastante irresponsáveis". Porém, Musk respondeu dizendo que a "compreensão do assunto de Zuckerberg é limitada".
Não há provas suficientes para afirmar que essas divergências imprevistas da IA são uma ameaça ou que elas podem levar a máquinas a assumir as operações. Eles tornam o desenvolvimento mais difícil, no entanto, isso acontece porque as pessoas não conseguem entender a natureza esmagadoramente lógica das novas línguas.