Crônica do Mota: A máquina de moer corações e mentes
Ricardo Mota| 19/06/2022 07:00
Muita gente assustou-se, e com razão, ao se deparar com a notícia de que um engenheiro do Google, Blake Lemoine, revelou que um dos robôs (IA) da empresa é "autoconsciente", capaz de expressar sentimentos que seriam exclusivos dos humanos. Ao dialogar com a máquina, que ele ajudou a desenvolver, concluiu assustado:
- Se eu não soubesse exatamente o que era, que é um programa de computador que desenvolvemos recentemente, eu diria que era uma criança de 7 ou 8 anos, que também sabe física.
Ainda que nos pareça fantasioso, por enquanto, este é exatamente o maior objetivo do Google: criar a Inteligência Artificial superior, em "máquinas que repliquem o cérebro humano, para depois ir além", como revela o jornalista e escritor Franklin Foer, em O mundo que não pensa (ele também é autor de Como o futebol explica o mundo, uma análise sociológica e política do esporte mais popular do planeta).
Nós estamos acostumados a ver o Google como uma ferramenta de buscas, que é como o usamos cotidianamente - e cada vez mais. Eis, porém, meus caros e minhas caras, que este gigante do Vale do Silício é uma das megaempresas de tecnologia que monopolizam o conhecimento produzido pela espécie que pretende superar - ao lado do Facebook e da Amazon.
O Google, saibam, é muito mais do que isso: é uma indústria de software, de hardware, de infraestrutura de internet, operadora de telefonia, agência de publicidade, empresa de eletrodomésticos, automobilística, de mídias sociais e, grande objetivo do seu dono, Larry Page, dono do mais ambicioso projeto de desenvolvimento da IA (o tal que o engenheiro, suspenso pelo próprio Google, revelou ao mundo ante a sua própria perplexidade).
O Vale do Silício nasceu sob o signo da liberdade, da democratização da informação e do conhecimento – viagens astrais dos bichos-grilos que por lá aportaram. Chegaram, no entanto, ao momento de hoje, em que se tornaram monopólios que impedem o surgimento de qualquer coisa nova na área do conhecimento que não esteja sob o seu controle.
Quando isso acontece, por desenvolvimento de algumas das mentes mais privilegiadas na área de tecnologia – e só na área da tecnologia -, essas empresas se apossam rapidamente da novidade, da maneira mais fácil e clássica que se conhece, e sem deixar rastros: simplesmente compram. O próprio Google já adquiriu nos últimos dez anos mais de duzentas startups, com suas inovações.
Nunca esqueçamos: o problema não é nem será jamais a tecnologia, mas a natureza humana. Afinal, as máquinas de moer corações e mentes são produzidas por seres humanos. Quanto às empresas, cada vez mais monopolistas, não seguem nenhum código de ética ou têm qualquer preocupação com as consequências das suas ações – que não lhes parecem delas –, gerando problemas no mundo inteiro.
O Facebook, com seus mais de 2 bilhões de usuários – e usuários é a palavra correta, porque estamos falando de um vício catalogado –, espalha o ódio e aproxima odiadores em todo o planeta, porque "descobriu" que as emoções negativas se multiplicam com muito mais facilidade (o amor não dá dinheiro). Sempre a partir dos algoritmos, a mão invisível decide o que nós temos e devemos ver e ouvir. Eles "são um problema novo para a democracia", segundo Foer.
Chamath Paliphapitiya foi vice-presidente de crescimento de usuário do Facebook e deu a receita de como a gigante das redes sociais se aproveita da pouco admitida fragilidade humana:
- Criamos ciclos de feedback de curto prazo impulsionados pela dopamina que estão destruindo o funcionamento da sociedade. Nenhuma cooperação, apenas desinformação. Sinto uma culpa tremenda. Isso está erodindo o alicerce de como as pessoas se comportam umas com as outras.
Sean Parker, primeiro presidente do Facebook, ainda é mais fatalista: "Isso explora uma vulnerabilidade na psicologia humana, muda a relação de vocês com a sociedade, uns com os outros. Só Deus sabe o que as redes sociais estão fazendo com o cérebro dos nossos filhos".
E isso não é ludismo, é conhecimento de causa.
Está claro: não há limite para essa turma, exatamente porque não há limite para a estupidez humana. E eles – Zuckerberg, Bezos, Page – sabem disso e ainda possuem em demasia aquilo que move o mundo: dinheiro, em quantias inimagináveis às pessoas comuns. A sua força vem da nossa fraqueza - da nossa incapacidade de pensar e reagir à invasão da nossa alma.
Em Máquinas como eu, Ian McEwan (Ian Macabro), escritor britânico, propõe uma nova lógica na relação homem/robô, com as máquinas (cuidado: spoiler!) optando pelo suicídio ao convívio com as misérias humanas. Seria este o cenário mais otimista - do ponto de vista do Homo sapiens sapiens.
A esperança, de novo, está na arte. Chaplin, no definitivo O grande ditador (uma denúncia preventiva contra Hitler, que ele não pôde conter), nos trouxe uma lição que há de valer até o final dos nossos dias:
"Não sois máquinas! Homens é que sois!".
(O "último discurso" de O grande ditador foi morar na parede do meu apartamento, no Jardim Acácia, logo que eu me casei com Tania, aos 21 anos de idade. Esta semana, o calendário marcou 43 anos desde então.)