Mas a evolução na tecnologia robótica militar, juntamente com o mercado militar agora secando, poderia causar outra mudança. “Essas empresas vão precisar de alguma coisa para vender”, disse Oschler.
“O que eles vão fazer com os departamentos de desenvolvimento e pesquisa, o que eles vão projetar e vender agora que os mercados estão secando? Eles vão se voltar para o mercado consumidor”, disse ele.
O surgimento de robôs está criando uma nova lista de questões sobre a ética, seja nas Forças Armadas, nos hospitais, em brinquedos, ou em espaços públicos.
Para uso militar, um prato inteiro de debates já esta sendo entregue ao Congresso americano, cheio de preocupações sobre quais serão as consequências da remoção de humanos, e da empatia humana, dos campos de batalhas. Quem vai ser responsabilizado pelas mortes injustificadas? E se os robôs entrarem em curto-circuito ou forem hackeados? Qual é a probabilidade de erro?
O Comitê Internacional da Cruz Vermelha, encarregado de proteger as vítimas de conflitos armados sob a Convenção de Genebra, já está no caso.
“A implantação de tais sistemas poderia refletir (…) uma grande mudança qualitativa na condução das hostilidades”, disse o presidente do comitê internacional, Jakob Kellenberger, numa conferência, segundo o Los Angeles Times. “A capacidade de discriminar, como exigido pelo [direito internacional humanitário], vai depender inteiramente da qualidade e da variedade de sensores e da programação empregadas dentro do sistema.”
E além de potenciais erros de computador (erros de programação), o erro humano será sempre um fator. Há o caso relevante do Mariner 1, da NASA, a primeira nave espacial do programa Mariner. A nave, lançada em 22 de julho de 1962, foi concebida para realizar um sobrevoo ao planeta Vênus, mas foi dado um comando de destruição pela NASA logo após o seu lançamento.
A causa da falha foi um erro de código de programação: a falta de um hífen “permitiu a transmissão de sinais de orientação incorretos à espaçonave”, afirmou a Nasa em seu site.
Além disso, “… a omissão do hífen no programa de edição de dados fez com que o computador incorretamente aceitasse a frequência de varredura do receptor de solo. Isso fez com que o computador mudasse automaticamente a uma série de correções de curso desnecessários com comandos de direção errôneos que finalmente jogou a nave espacial para fora do curso”, afirma a Nasa.
No entanto, a marcha vindoura de robôs militares pode ser inevitável, simplesmente devido à necessidade de combater ou superar um armamento superior. Aviões não-tripulados já estão sendo desenvolvidos em todo o mundo, até mesmo encontrando espaço nos mercados doméstico e consumidor.