Ao longo da história humana, avanços tecnológicos sempre proporcionaram ganho na qualidade de vida da população e aumento da eficiência e produtividade geral. No entanto, com o advento da inteligência artificial, o que antes era um simples auxílio se torna cada vez mais independente e assustadoramente proativo. De um modo geral, os desafios éticos e morais envolvidos nessa inovação se dão por meio de dois pontos centrais: a gradativa perda da humanidade e o risco da singularidade tecnológica.
Em primeira análise, bots comandados por inteligência artificial estão se tornando cada vez melhores na modelagem de conversas e relacionamentos humanos. No Turing Challenge, por exemplo, um robô, em 2015, foi capaz de enganar mais da metade dos avaliadores de um desafio, que consistia em conversar via chat e adivinhar se do outro lado da tela havia um humano ou uma máquina. Dessa forma, levando em conta custos e disponibilidade, demonstra-se um grave cenário, no qual humanos falarão com cada vez menos humanos, tornando-se cada vez menos humanos.
Além disso, muito preocupa a possibilidade de a raça humana ser superada e dominada pela inteligência artificial fora de controle. Por exemplo, o matemático húngaro John von Neumann intitulou essa hipótese como "singularidade tecnológica", ainda na década de 50, e descreveu como o auto aperfeiçoamento das máquinas poderia inverter o domínio e tornar os humanos submissos à androides. Dessa forma, a evolução desse sistema de aprendizado antinatural representa um risco real às vidas humanas. Evidencia-se, assim, a urgente necessidade de frear e mudar a direção para qual caminha a tecnologia.
Por fim, para que os humanos não percam sua essência e não se tornem escravos de robôs aprimorados, faz-se necessário que o Estado, por meio do Congresso Federal, instaure uma legislação específica sobre inteligência artificial, utilizando de debates, nas casas legislativas, sobre os limites que devem ser impostos aos cérebros virtuais e as punições rigorosas à quem descumpri-las em ameaça à ordem na sociedade. Somente assim, poderá se fazer um uso benéfico das tecnologias, que irão ajudar em tudo que necessário, e a espécie humana continuará tendo seu honrado protagonismo em toda a vida na Terra.