As vozes que advertem contra a pesquisa, em grande parte não regulamentada, sobre inteligência artificial, nos laboratórios de grandes empresas internacionais de alta tecnologia, estão a fazer-se ouvir cada vez mais ultimamente – e vêm de uma grande variedade de figuras proeminentes da comunidade da ciência e da alta tecnologia. (1)
Para o mundialmente conhecido físico Stephen Hawking, a descoberta qualitativa crucial na pesquisa de inteligência artificial – muitas vezes referida como singularidade, nos círculos da IA – poderia ser o “fim da humanidade”. (2) Ela “se destacaria sozinha, se modificaria a uma velocidade cada vez maior. Os seres humanos, limitados pela evolução biológica, não poderiam competir com ela e seriam eliminados”. Bill Gates advertiu que a inteligência artificial poderia ser potencialmente mais perigosa do que um desastre nuclear. Nick Bostrom, professor de filosofia da Universidade de Oxford, vê, em seu livro Superintelligence, um futuro cheio de milagres técnicos e económicos, em que não há mais pessoas. (3) Seria uma “Disneylandia sem crianças”, com cuja implantação a IA simplesmente eliminaria o factor humano.
Vernor Vinge, matemático e criador do termo singularidade, vê como inevitável que a formação da inteligência artificial supere o potencial intelectual dos seres humanos em todas as áreas relevantes – e considera possível a “extinção física da humanidade”. O especialista em IA, James Barrat, autor do livro Our Final Invention: Artificial Intelligence and the End of the Human Era, (4) vê, como linha de conflito mais provável, uma luta pelos recursos entre humanos e máquinas inteligentes: sem instituições que se lhe oponham nem mecanismos de segurança, “um sistema autoconsciente, em auto-aperfeiçoamento e autónomo na definição de objectivos prosseguiria o seu caminho, com meios que teriam de nos parecer insanos”.
O conhecido multimilionário da alta tecnologia Elon Musk é considerado um dos mais veementes críticos da inteligência artificial. Em entrevista à Vanity Fair (5), ele deu um exemplo do potencial destrutivo dos sistemas de inteligência artificial que se anunciam, resultantes de uma auto-optimização algorítmica ilimitada. Mesmo uma inteligência artificial encarregada da optimização autónoma de actividades inofensivas poderia vir a constituir um assassinato em massa: “Vamos supor que se criou uma IA que deveria apanhar morangos de modo auto-optimizado. Ela quer melhorar sempre, quer colher cada vez mais morangos, melhorando-se constantemente nessa tarefa. Tudo o que ela quer é apanhar morangos. Gostaria de transformar o mundo inteiro num campo de morangos. Strawberry fields forever”. (6) Não haveria espaço para as pessoas.
O pioneiro da alta tecnologia Musk, que é a força motriz por trás da Tesla-Motors, e quer acelerar a colonização da espaço com a empresa espacial SpaceX, tem estado na sua “cruzada” contra a IA desde 2014, como a Vanity Fair disse na longa reportagem acima mencionada, de Março de 2017.
Nessa altura, Musk avisou, no M.I.T. (Instituto de Tecnologia de Massachusetts), que a IA pode tornar-se a “maior ameaça existencial para a humanidade”, pelo que terá de haver instituições nacionais e internacionais de regulação e vigilância – coisa que não existe até agora – para evitar que a indústria de IA de Silicon Valley destrua acidentalmente a humanidade.
Ninguém – com excepção dos envolvidos – sabe exatamente o que os deuses da alta tecnologia da era da Internet estão a maquinar, nas suas instalações de pesquisa e laboratórios altamente secretos. Em qualquer caso, Musk comparou o actual boom de pesquisa de sistemas de IA com a invocação de demónios em filmes de terror. Está-se seguro de conseguir manter tudo sob controlo – até que a coisa se escape. Em resposta a essas advertências, Musk foi descrito como um ludita em Silicon Valley, como alguém que quereria evitar o progresso tecnológico através da sabotagem.
Mesmo o conceito de singularidade é controverso e pouco claro, porque se trata de uma hipótese que seria um ponto de viragem fundamental no processo de civilização. As ideias sobre um indivíduo portador de inteligência artificial, como Blade Runner ou Ex-Machina, geralmente são consideradas anacrónicas. Nesta hipótese, frequentemente pressupõe-se que o portador da singularidade é um software altamente complexo, que atinge a consciência, que continua a desenvolver-se por si, baseado em algoritmos. Estaria em toda a parte e em lado nenhum, a singularidade não poderia estar localizada num indivíduo artificial, num exterminador implacável ou num andróide – embora também pudesse controlá-los.
De acordo com muitos cenários futuros, a IA seria uma abstracção real, residindo na rede, na nuvem global. Um software que ganharia consciência. Essa inteligência artificial, que se desenvolveria exponencialmente por si só, desencadearia uma explosão de inteligência e de progresso tecnológico, transformando fundamentalmente a civilização humana de um modo sem precedentes, ou extinguindo-a (especialmente neste ponto, as opiniões divergem). Consequentemente, após o acto de singularidade, a IA tornar-se-ia independente, tenderia a escapar ao controlo e superaria a capacidade intelectual da humanidade em pouco tempo.
A singularidade simplesmente seria incontrolável – e assumiria ela o controlo do processo de civilização. Uma inteligência artificial totalmente treinada seria semelhante a uma ruptura civilizacional, como um “desembarque de extraterrestres”, disse à Vanity Fair Peter Thiel, investidor em Silicon Valley. Mesmo os cientistas envolvidos na pesquisa de inteligência artificial não saberiam exatamente como controlá-la. “Na verdade, ainda não sabemos o que IA será em concreto. É muito difícil saber como controlá-la.”
Os defensores da busca pela realização da singularidade gostam de contestar tais avisos, apontando que as máquinas artificiais não seriam dotadas de “inclinações e características humanas”, como a ambição, a autopreservação, o poder. Yann LeCun, líder em pesquisa de sistemas de IA e “deep learning“, actualmente chefe do programa de IA do Facebook, disse à BBC que um cenário de Exterminador Implacável não seria possível. Nas máquinas artificiais simplesmente não se implementaria nenhum instinto de autopreservação, pelo que esses problemas estariam resolvidos, disse Yann LeCun. (7)
O cientista de computação Stuart Russell, em declarações à Vanity Fair, considera tais afirmações simplesmente como “matematicamente erradas”. É óbvio que a inteligência artificial teria a vontade de autopreservação, mesmo que esta não fosse implementada explicitamente. Se se desse a uma máquina inteligente a instrução para obter um café, ela desenvolveria um instinto de autopreservação para cumprir essa missão. “E se alguém a ameaçasse no caminho para o café, ela iria matá-lo, para evitar qualquer risco para o café. Muitas pessoas explicaram isso a LeCun de uma maneira muito simples”.
Seria possível rever a singularidade? O cientista Eliezer Yudkowsky, que trabalha na Universidade de Berkeley, lida com o problema do desligamento da inteligência artificial. Não será de todo claro como incorporar um mecanismo de desligamento, numa inteligência mecânica que pudesse modificar-se e evoluir, alertou Yudkowsky. Ela poderia eliminá-lo ou pressioná-lo. Se se construir algo mais inteligente do que o construtor, então esses mecanismos de segurança teriam que ser implementados correctamente na primeira vez. O perigo real não vem de robots malvados, com olhos vermelhos (que, de acordo com antigas profecias perdidas (8), destruiriam a humanidade em 2084), explicou Yudkowsky:
“A questão da IA é que não é um robot. É o algoritmo de computadores em rede. Assim, o robot é apenas uma externalidade, apenas uma série de sensores e modificadores. A IA está na rede. Ora a questão decisiva é que a inteligência humana colectiva pudesse parar um algoritmo autonomizado. Mas se existir uma IA grande e centralizada, que tome as decisões, então já não pode ser parada”.
Dentro da indústria global de alta tecnologia, existem influentes intervenientes e grandes empresas que acreditam, pelo menos, poderem criar nos próximos anos ou décadas algo que possa escapar ao seu controlo: uma inteligência artificial que ultrapassaria a humanidade e se desenvolveria exponencialmente, de modo independente. Indivíduos que se tornaram ricos a resolver problemas banais, como os sistemas de pagamento on-line, agora acreditam ter sido chamados para “criar um mundo novo, uma nova espécie”, comentou a Vanity Fair. A próxima década foi chamada de época da inteligência artificial em Silicon Valley, com a indústria de alta tecnologia a ser tomada com dinheiro por um pequeno número de “feiticeiros” que estariam familiarizados com as “fórmulas de invocação” da IA.
O principal player da indústria emergente de IA é a fornecedora de motores de busca Google, que é conhecida por ter crescido com modelos comerciais tão triviais como a publicidade online. A partir de 2014, a Google investiu fortemente no campo da inteligência artificial. A empresa também comprou, por 650 milhões de dólares, a DeepMind – uma empresa pioneira da inteligência artificial. O futurista e conselheiro militar dos Estados Unidos, Ray Kurzweil, que prevê a criação de divinais sistemas híbridos de humanos e máquinas para as próximas três décadas, também está na folha de pagamentos da Google. Nesses febris sonhos tecnológicos, presume-se que os seres humanos “carregariam” a sua consciência na singularidade residente na rede, eles se tornariam parte da matriz, seriam Borg. (9) O próprio Kurzweil se alimenta principalmente de “pílulas vitais” e leite de amêndoa – para viver o mais possível e poder fundir-se com a “máquina”.
Até que ponto a inteligência artificial prosperou foi demonstrado recentemente pelo programa Alpha Go, da DeepMind, que derrotou os melhores jogadores do mundo no jogo mais complexo do mundo, Go, por 60 a zero. Outro sistema de IA provou que poderia fazer bluff – derrotando os melhores jogadores num torneio de poker em Las Vegas. (10)
Além disso, o problema do “esquecimento catastrófico” parece estar resolvido, pelo menos em princípio. Este termo implica a incapacidade dos sistemas IA existentes de transferirem a experiência adquirida num campo de trabalho para outro problema. Um programa desenvolvido pela DeepMind foi capaz de realizar uma série de tarefas diferentes, usando a experiência adquirida anteriormente. Até agora, a inteligência artificial tinha de executar uma “reinicialização” para cada nova tarefa, de modo que o processo de aprendizagem começasse novamente. (11)
Além da Google, também o Facebook é líder na pesquisa de inteligência artificial. Em 2016, o fundador do Facebook, Mark Zuckerberg, lançou a sua iniciativa de IA, na qual uma inteligência artificial amigável deve monitorizar e gerir a casa do multimilionário. Deve tornar-se uma espécie de “Jarvis de Iron Man”, segundo Zuckerberg. No entanto, de acordo com os críticos, essa abordagem não é tão avançada quanto os avanços da DeepMind, já que o Facebook, de facto, apenas desenvolveu e conectou sistemas de assistência existentes, como Cortana e Siri.
Aliás, a DeepMind foi cofundada por Demis Hassabis – tem graça que o autor do jogo de computador Evil Genius, no qual um cientista louco toma conta do mundo. E é em jogos de computador clássicos, como Pong ou Breakout, que os sistemas de IA de Hassabis demonstraram as suas habilidades.(12) Mesmo para capitalistas calejados, as ideias do guru da IA parecem ir muito longe, relatou a Vanity Fair. “Deveria ter disparado imediatamente”, teria sido “a última chance de salvar a humanidade”, brincou um investidor, após o encontro com o pioneiro da IA, que prossegue o estudo da inteligência artificial com um fervor religioso.
À medida que uma pessoa se desloca pelos gabinetes envidraçados das startups de IA de Silicon Valley, para questionar os “príncipes da nuvem” sobre as suas ideias do admirável mundo novo, a ser moldado pela inteligência artificial, faz-se então notar, com o tempo, um “sentimento assustador”, relatou a Vanity Fair. Com todas as garantias de tornar o mundo um lugar melhor, através da inovação, as pessoas são vistas como meras cobaias, como “tecnologia antiga, que em breve será eliminada”.
Muitos elementos de Silicon Valley conformaram-se com a realidade que aí vem: “Teremos 150 anos de idade, mas também teremos governantes-máquinas”. Steve Wozniak, co-fundador da Apple, fala sobre um futuro em que os humanos serão “animais domésticos” de máquinas inteligentes. (13)
E muitos gurus da alta tecnologia também estão prontos para aceitar o poder das máquinas que se aproxima, com todas as consequências. Há muitas pessoas na cena da IA que argumentam que, se as máquinas são mais inteligentes do que os humanos, “então elas devem tomar conta do planeta e nós devemos ir embora”, explicou Stuart Russell. Também é generalizada a crença de que as pessoas poderiam transferir a sua consciência para as máquinas, para continuarem a existir, para além do seu invólucro material. “Nós teríamos consciência, mas então seríamos máquinas”, o que é completamente improvável, disse Russell. Neste contexto, Musk falou de um “fio neuronal” entre o ser humano e a máquina, que poderia impedir a “obsolescência humana”, conectando o cérebro humano diretamente à IA em rede. Seria uma “fusão de consciência”, na qual o indivíduo ficaria totalmente absorvido no Nós colectivo da IA.
Obviamente que este debate sobre a IA também se caracteriza por um materialismo flagrantemente vulgar. O crítico francês do transumanismo, Jean-Michel Besnier, comentou: “A deflação semântica do termo inteligência é em si mesma um sintoma, a saber, o esmorecimento, ou, se se quiser, uma simplificação preocupante da ideia que o ser humano faz de si mesmo.” (14) Historicamente, a simples ideia de inteligência artificial surgiu na sequência da disciplina da fábrica, quando o ser humano foi obrigado pelo capitalismo a ser uma máquina. Por exemplo, Emil Post (junto com Alan Turing, um dos pioneiros teóricos do computador) costumava chamar a um trabalhador de linha de montagem o modelo de uma máquina programável. (15)