A guerra da inteligência artificial | Superinteressante
Os robôs estão ficando mais espertos. Este ano, passaram no principal teste de inteligência artificial, rompendo uma barreira de décadas. E isso preocupa. Bill Gates, Stephen Hawking e um grupo de mil cientistas alertam: se não forem contidas a tempo, as máquinas hiperinteligentes vão escravizar a humanidade. Mas será mesmo? Quem vai dominar o futuro? Nós ou elas?
access_time 4 nov 2016, 19h07 - Publicado em 4 jan 2016, 17h45
Dimitre Lima (/)
"Eu me preocupo com ela." "Ela é mais perigosa do que as armas nucleares." "Ela pode significar o fim da nossa espécie ". Ela, no caso, é a inteligência artificial (IA). E as frases, que parecem tiradas de um filme, são ponderações reais, feitas por alguns dos maiores nomes da ciência e da tecnologia – respectivamente, Bill Gates, Elon Musk e Stephen Hawking. Musk, dono da empresa de carros Tesla e da fabricante de foguetes SpaceX, foi além: está financiando 37 projetos de pesquisa destinados a compreender melhor a inteligência artificial – e criar mecanismos de defesa contra ela. "Nós não devíamos estar entrando de cabeça em algo que não entendemos", disse. Em julho, um grupo de mais de mil pesquisadores de robótica e inteligência artificial assinou uma carta aberta pedindo a mesma coisa. Cautela.
Enquanto isso, a inteligência artificial parece estar progredindo rápido. Em junho, os jornais noticiaram uma façanha inédita. Um programa de computador finalmente passara no Teste de Turing: a prova que determina se uma máquina pode enganar um humano, levando-o a pensar que está conversando (via chat) com outro humano. O software convenceu os juízes da Royal Society de Londres de que era Eugene Goostman, um garoto ucraniano de 13 anos. Caíram na lábia de Eugene, que se dizia filho de ginecologista e dono de um porquinho-da-Índia. Em julho, pesquisadores do Rensselaer Polytechnic Institute, de Nova York, realizaram um teste de consciência com robôs: e um deles, pela primeira vez, passou. Pouco tempo depois, em setembro, um software conseguiu ler e resolver sozinho uma prova do Scholastic Assessment Test (SAT), o vestibular americano. Outro, criado pela Microsoft, teve desempenho similar ao humano num teste de inteligência verbal. E talvez você esteja impressionado com a qualidade do papo da secretária robótica que mora dentro do seu iPhone, ou com a argúcia do Google Now – que às vezes parece adivinhar o que você está pensando.
Em suma, tem muitas coisas acontecendo no campo da inteligência artificial. Mas elas são motivo para preocupação? O que temem, exatamente, os cientistas? E qual a chance de esses cenários acontecerem?
01110010 01100101 01100010 01100101 01101100 01101001 11000011 10100011 01101111
Eugene não é bem o que parece. Ele não pensa; só solta frases pré-programadas. Quando não entende uma pergunta, responde com outra, do tipo: "O que faz você me perguntar isso?" Eugene não presta atenção ao contexto da conversa, só à última pergunta, e às vezes repete a mesmíssima resposta que deu minutos antes. Tanto que muitos cientistas discordam que Eugene tenha passado no Teste de Turing. Primeiro porque ele levou vantagem ao fingir que era ucraniano, o que fez os juízes serem menos rigorosos na avaliação (um menino ucraniano tenderia a falar mal inglês). E segundo porque tudo depende de como interpretamos a previsão feita em 1950 pelo matemático Alan Turing, o pai da computação. Turing disse que, ao redor do ano 2000, uma máquina poderia imitar tão bem uma conversa humana que o examinador não teria "mais de 70% de chance de fazer a identificação certa após 5 minutos de questionário". Vago, não? Essa era a intenção de Turing. E como Eugene enganou mais de 30% dos juízes, os organizadores do teste o declararam "aprovado". Sem reconhecer que, na verdade, ele não passa de um bot idiota.
O robô do teste de Rensselaer, o que demonstrou consciência, também não é nenhum gênio. Ele se chama NAO, foi criado em 2010 pela empresa francesa Alderaban Robotics e consegue manter conversas simples. Não é um modelo de vanguarda – mas conseguiu fazer algo extraordinário. Na experiência, os cientistas pegaram três robôs desse tipo, e programaram a seguinte instrução na memória deles: "Dois de vocês ficaram mudos". Os cientistas não informaram quais. Em seguida, perguntaram a cada robô: quem está mudo aqui? Normalmente, os robôs ficam quietos (porque estão mudos), ou respondem "não sei". Até que, após várias tentativas, um deles teve a sacada: "Desculpe. Eu sei a resposta agora. Eu não estou mudo". Logo, os mudos são os outros dois. O robô conseguiu enxergar a si próprio 'de fora' e raciocinar a respeito. Ou seja, tomou consciência de que existe, e pensou sobre isso. De forma rudimentar, claro. Mas que, até onde se sabe, nenhuma máquina tinha conseguido fazer antes.
O NAO só conseguiu fazer isso porque foi construído usando o modelo de rede neural artificial – que tenta criar máquinas capazes de pensar por si mesmas. Em vez de programar um conjunto de regras rígidas na memória do robô, ensinando o que ele deve ou não fazer, você deixa que ele aprenda sozinho, por tentativa e erro – o robô experimenta todas as ações possíveis, vê as que apresentam o resultado correto (determinado por você), e passa a adotá-las, eliminando as que não funcionam. É uma estratégia semelhante à da seleção natural. E significa que, quando as circunstâncias mudam, a máquina é capaz de se ajustar a elas e evoluir sozinha, repetindo o processo de tentativa e erro. As redes neurais já estão presentes em algumas coisas do dia a dia (são usadas pelos robôs do Google Images para classificar e agrupar as fotos da internet, por exemplo), e são consideradas o caminho mais promissor para a inteligência artificial.
Mas a capacidade de aprender sozinho também permite agir de forma diferente do esperado. Em junho deste ano, um software de rede neural desenvolvido por dois pesquisadores do Google teve uma reação imprevista. Ele foi treinado para conversar – coisa que aprendeu lendo e analisando 62 milhões de legendas de filmes, baixadas do site opensubtitles.org. Os pesquisadores fizeram dezenas de perguntas ao robô, como "quantas patas tem um gato?", "qual a cor do céu?", "o que é altruísmo?". Ele acertou, sempre dando respostas bem diretas. Exceto numa das questões. Quando perguntado "de que cor é o sangue?", a máquina disse: "da mesma cor que um olho roxo". Uma ameaça velada – que ela certamente aprendeu nos filmes, mas que não tinha sido programada para fazer. Em 2013 o supercomputador Watson, da IBM, passou por um caso parecido. Seus criadores o colocaram para ler o site urbandictionary.com, que explica os significados de gírias. Não acabou bem. Watson se tornou boca-suja. Um dia, respondeu a um pesquisador dizendo que a pergunta dele era bullshit (expressão chula que significa papo-furado). Ele não tinha sido programado para falar palavrão. Acabou falando.
Xingar não é o fim do mundo. Mas quando máquinas inteligentes estiverem envolvidas em situações críticas, qualquer surpresa poderá ter consequências graves.
01100100 01101111 01101101 11000011 10101101 01101110 01101001 01101111
No ano passado, mais de 75% das transações nas bolsas de valores dos EUA foram feitas automaticamente por robôs. Eles seguem diretrizes predefinidas, mas também são capazes de analisar circunstâncias e mudar de ideia. É isso o que os torna bons no que fazem. Mas também significa que, em tese, os robôs financeiros têm condições de assumir o controle do mercado – e causar um estrago enorme em segundos, antes mesmo que os humanos percebam. Isso já aconteceu. Em 2013, um software da corretora americana Knight Capital desatou a comprar ações caro e vender barato, e queimou US$ 440 milhões até ser detido. Em 2010, os robôs causaram o que ficou conhecido como Flash Crash: uma 'quebra-relâmpago' das bolsas americanas, que caíram US$ 1 trilhão em menos de meia hora. Uma investigação revelou que o crash começou com humanos mal-intencionados tentando manipular o mercado, mas foi alimentado explosivamente pelo comportamento das máquinas.
As máquinas autônomas, capazes de tomar decisões sozinhas, também têm ganho espaço no setor militar. Um exemplo disso é o robô SGR-A1, criado pela Coreia do Sul para uso na fronteira com a Coreia do Norte. Ele possui uma metralhadora e um lança-granadas, é capaz de identificar alvos a até 3 km de distância e, o mais importante, tem capacidade de tomar decisões e disparar sozinho (embora, oficialmente, tenha sido configurado para só atirar após receber o OK de um humano). Israel possui uma tecnologia similar. Os EUA estão desenvolvendo robôs autônomos, que conseguem se orientar e andar sozinhos no campo de batalha, e um documento divulgado pelo Pentágono não deixa dúvidas: fala em "reduzir gradualmente a quantidade de controle e decisão humana". O uso da inteligência artificial na guerra é uma tendência tão clara que já chegou à ONU, que este ano começou a discutir regras para ela.
"Devemos retardar a adoção da tecnologia para garantir a segurança humana", acredita Wendell Wallach, especialista em bioética da Universidade Yale e autor de dois livros sobre os riscos da inteligência artificial. Também há quem esteja sendo muito otimista. "Você poderá ter uma relação humana com os computadores daqui a 15 anos", diz o futurista Ray Kurzweil, guru de inteligência artificial e consultor do Google. Para ele, em 2029 as máquinas serão tão inteligentes quanto nós – e nos passarão em 2045.
Mas a história da inteligência artificial está cheia de previsões que deram errado. Em 1956, um grupo de cientistas se reuniu na Universidade Darthmouth, em uma conferência que é tida como o marco zero da inteligência artificial, e fez uma promessa: em dois meses, conseguiria lançar as bases de um computador inteligente. "Hoje sabemos que o problema é muito mais complexo", diz a portuguesa Manuela Veloso, professora da Universidade Carnegie Mellon e ex-presidente da Associação para o Avanço da Inteligência Artificial. O maior desafio ainda é entender como funciona a mais complexa das máquinas: o cérebro humano. Não existe nem um consenso sobre o que é inteligência. Pergunte a dez cientistas e terá dez definições. Uns dirão que inteligência é raciocínio. Outros falarão que inclui consciência, conhecimento, flexibilidade, planejamento, experiência. Se não há consenso sobre o que é "I", como chegaremos à "IA"? Por isso, há quem diga que a inteligência artificial virá agregada ao corpo humano. "Eu tenho lentes artificiais implantadas nos olhos. E cada vez mais gente tem joelhos e quadris artificiais. Talvez parte do cérebro se torne máquina, também", diz o pesquisador David Cope, da Universidade da Califórnia (Santa Cruz). E se Eugene e seus amigos dominarem o planeta, ainda teremos uma chance. Poderemos desligar a tomada. Pelo menos enquanto estivermos no comando dela.
01100011 01110010 01101111 01101110 01101111 01101100 01101111 01100111 01101001 01100001 —->
1950 – Vida real
O matemático inglês Alan Turing faz uma previsão: no ano 2000, os computadores saberão falar e conversar tão bem quanto os seres humanos.
1950 – Ficção
Isaac Asimov publica Eu, Robô, romance sobre a convivência entre humanos e robôs inteligentes. O livro se torna um dos mais influentes do século.
1956 – Vida real
Pesquisadores americanos lançam o primeiro projeto da inteligência artificial. Num documento, que ficou conhecido como Declaração de Darthmouth, afirmam que conseguirão criar uma máquina inteligente – em dois meses.
1966 – Vida real
Cientistas do MIT criam o ELIZA, software que finge ser um psicólogo e dá conselhos. É rudimentar, mas engana várias pessoas em testes.
1968 – Ficção
Estreia nos cinemas o filme 2001: Uma Odisseia no Espaço. Seu personagem principal é HAL 9000, um computador hiperinteligente (e sinistro).
1971 – Vida real
Lançado o Intel 4004, considerado o primeiro microprocessador da era moderna. Ele tem 2.300 circuitos.
1982 – Ficção
Estreia Blade Runner, filme em que os Nexus 6 – robôs idênticos a seres humanos – se rebelam e praticam atos violentos.
1984 – Vida real
Fundado o Projeto CYC, que tenta criar um computador equivalente à mente humana. Isso supostamente seria conseguido ensinando à máquina 250 mil fatos, e as relações entre eles.
1997 – Vida real
O supercomputador Deep Blue, da IBM, derrota Garry Kasparov, então campeão mundial de xadrez.
2002 – Vida real
60 mil fatos é o que o CYC tem programados na memória, após 18 anos de esforço de seus criadores. O robô não é nem remotamente inteligente, e seu desenvolvimento é abandonado.
2005 – Vida real
Fundado o projeto Blue Brain, que adota uma nova estratégia: tenta reproduzir digitalmente a rede de neurônios do cérebro, na expectativa de que eles se conectem – e aprendam coisas – sozinhos.
Google contrata pesquisadores da Universidade Stanford e começa a desenvolver carros inteligentes, que se dirigem sozinhos.
2010 – Vida real
Google lança o primeiro celular da linha Nexus – nome que faz referência explícita, e bem humorada, a Blade Runner.
2011 – Vida real
O supercomputador Watson, da IBM, vence o programa Jeopardy (um game show de perguntas e respostas da TV americana), derrotando competidores humanos.
Apple lança a Siri, uma assistente virtual que entende comandos de voz e é capaz de executar tarefas simples.
2012 – Vida real
1 milhão de neurônios são simulados digitalmente pelo projeto Blue Brain. Isso é o equivalente a aproximadamente 5% do cérebro de um rato.
2013 – Vida real
1% da atividade neuronal de um cérebro humano é simulada, em um supercomputador, por cientistas alemães. A máquina levou 40 minutos para criar a simulação de 1 segundo de atividade desse pedacinho de cérebro.
2013 – Ficção
Estreia Ela, filme em que o protagonista se apaixona por um software de conversação – uma versão hiperinteligente da Siri.
Google compra a Boston Dynamics, empresa que desenvolve robôs militares.
2014 – Vida real
IBM lança o TrueNorth, chip com 5,4 bilhões de circuitos (2,3 milhões de vezes mais que o Intel 4004). Sua arquitetura tenta imitar a do cérebro.
Carros do Google completam 1,6 milhão de km rodados em testes – segundo a empresa, sem nenhum acidente.
2015 – Ficção
Estreia Ex-Machina, filme em que um robô é alimentado pelas buscas das pessoas na internet. E – adivinhe só – ele se rebela contra o criador.
2015 – Vida real
Grupo de cientistas pede providências contra o avanço descontrolado da inteligência artificial. Bill Gates também se manifesta, e diz estar preocupado com a questão.