Mesmo enxergando a ficção científica como uma excelente forma de estímulo ao surgimento de novas ideias e de desenvolvimento científico real, entendo esse medo como uma fetichização direta com base no que vemos em muitos filmes por aí.
Antes de considerar que máquinas com altíssimo potencial cognitivo seriam capazes de nos dominar e nos escravizar, precisamos mergulhar num outro sentido, buscando entender melhor quais motivações seriam necessárias para robôs assumirem um comportamento hostil em relação a seus criadores.
Diferentemente dos filmes que, em geral, apresentam motivações rasas ou improváveis para que máquinas tentem assumir algum tipo de controle, não consigo imaginar como robôs poderiam ser movidos na direção do poder, dinheiro ou raiva.
Alguns experimentos recentes ensinaram robôs a simular raiva, o que faz muita gente sinalizar sua preocupação com um futuro onde teríamos máquinas raivosas andando por aí. No entanto, devemos lembrar que sentir e simular são duas coisas bem distantes, não podendo nem ser comparadas entre si.
Simular é apenas o ato de se comportar de maneira falsa, tentando reproduzir um resultado sem necessariamente possuir a condição causadora. Se eu simulo que amo uma pessoa, estou agindo como quem ama, mas sem que o sentimento exista. Se finjo que estou com raiva, eu simplesmente grito e jogo coisas por aí, mas sem ter a emoção originária que me levaria a esse comportamento.
Por isso, simular raiva pode ser algo que nos assuste, mas que não representa uma motivação para que robôs se voltem contra os seres humanos. Eles saberiam demonstrar alguma raiva contra nós, mas faltaria a motivação - o sentimento de raiva - que os levassem a nos agredir. Lembrando também que máquinas poderiam nos atacar sem necessariamente demonstrar algum tipo de raiva ou emoção. Até o atual momento, simular algum sentimento não parece ser um indicador de que algo pode ser bom ou ruim no futuro.
Alguns cientistas de renome estão se juntando para pedir que a sociedade internacional passe a banir possíveis armas-robôs autônomas, capazes de mirar e atirar sem um controle humano significativo. Para muitos, esse pedido soa como um reforço de que máquinas poderiam se voltar contra os seres humanos no futuro, mas que no geral é apenas um apelo para o uso de inteligência artificial na construção de armas que poderiam matar alguém por algum tipo de engano. Nesse caso, imaginemos algum tipo de arma estacionária que identifica movimento e atira sozinha, não um robô andando por aí e matando tudo o que acha pela frente - sabendo que, se o primeiro pode ser feito, o segundo também pode.
Isaac Asimov - como sempre - foi capaz de prever tal preocupação em seus livros, desenvolvendo uma lógica simples, mas que aparenta grande eficiência na resolução desse problema. Asimov propôs o que ficou conhecido como as Leis da Robótica, um texto que inicialmente era contido por três leis básicas que deveriam estar embutidas na construção de todo robô:
2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
Posteriormente uma lei foi adicionada acima de todas as outras, sendo conhecida como a Lei Zero: Um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.
Por mais que a lei zero seja mais abstrata, até mesmo para nós humanos - sabemos mesmo como uma ação nossa afeta a humanidade? - as três leis originais são bem objetivas e simples de serem compreendidas como pré-requisito de ação para robôs.
É possível que determinadas instruções sejam implantadas em robôs num nível mais baixo, permitindo que não fiquem acessíveis à humanos ou até mesmo ao próprio robô. Seria como um chip ROM - memória apenas de leitura - integrado ao robô, que ao ser removido interromperia completamente o funcionamento da máquina.
É claro que determinados tipos de controle seriam passíveis de fraude, algum fabricante poderia eventualmente produzir um robô com uma falha em algum desses chips ou organizações criminosas poderiam simplesmente fabricar seus próprios ciborgues sem nenhum tipo de controle.
Não podemos esquecer que criar algoritmos capazes de desenvolver consciência e operar com autonomia é um trabalho científico extremamente avançado e que seria necessário uma quantidade de recursos - humano e financeiro - incrivelmente alta, sendo proibitivo em muitos níveis. Uma organização criminosa capaz de desenvolver e aplicar uma tecnologia dessas, já seria capaz de fazer estrago muito maior com bem menos esforço, fazendo uso de armas químicas e outras ameaças de destruição em massa com logística bem menos complicada.
O uso por forças militares é, provavelmente, onde mora a maior preocupação, já que deixaria de ser possível enviar tropas e gastar material humano, substituindo toda frente de batalha por robôs armados.
Esse tipo de movimentação já vem acontecendo. Aviões, que antes eram vulneráveis a ataques, foram substituídos por drones, aeronaves não-tripuladas. Este é um indicativo de que, com advento de robôs autônomos eficientes, humanos deixariam definitivamente de ir para guerra e dariam lugares a avatares robóticos.
O debate sobre esse tipo de ataque vem ganhando corpo. Entende-se que drones reduzem a empatia entre quem ataca e quem sofre o ataque, podendo elevar o número de vítimas inocentes.