Cinco impactos da tecnologia deepfake para os próximos anos | Revista Segurança Eletrônica
Cinco impactos da tecnologia deepfake para os próximos anos
A tecnologia deepfake cria vídeos falsos que parecem ser reais a partir de inteligência artificial (IA). Em geral, esses conteúdos mostram celebridades e políticos fazendo ou dizendo algo que não aconteceu. O termo surgiu quando um usuário do Reddit com esse nome publicou vídeos pornográficos com o rosto de famosas. Desde então, a montagem de vídeos já gerou conteúdos satíricos e até mesmo criminosos, quando envolvem identidade falsa e informações que não são verdadeiras. Figuras públicas como Barack Obama, ex-presidente dos Estados Unidos, Mark Zuckerberg, um dos fundadores do Facebook e Donald Trump, atual presidente norte-americano, foram alvos do deepfake. Além deles, a atriz Gal Gadot e a cantora Taylor Swift tiveram suas faces associadas a vídeos pornográficos produzidos a partir dessa tecnologia.
Para produzir esses vídeos, softwares utilizam algoritmos com a face e a voz originais da pessoa que aparece no produto final. Por isso, é mais fácil produzir esse conteúdo com imagens de figuras públicas. Entretanto, a exposição da pessoas comuns nas redes sociais também facilita que qualquer um seja vítima da tecnologia deepfake. A seguir, selecionamos cinco impactos – positivos ou negativos – que a deepfake pode causar nos próximos anos.
Assim como as fake news, a tecnologia deepfake pode convencer uma multidão de que o conteúdo exibido no vídeo é real. Embora existam diferenças nítidas entre um vídeo real e outro feito a partir desse recurso (como a pele que se assemelha à cera, a falta de sincronia entre áudio e o movimento da boca e as raras vezes em que a personagem pisca), algumas pessoas acreditam na veracidade do conteúdo.
Até o momento, a IA não produz conteúdos em 3D e estica o rosto da personagem para disfarçar os movimentos. Por conta disso, o olho humano consegue perceber que as extremidades da face são bastante marcadas. Pensando no combate a informações falsas, a checagem de fatos deve verificar, no futuro, a veracidade desses vídeos.
Inclusive, o uso dessa tecnologia para moldar a opinião pública já é esperado nas eleições de 2020 nos Estados Unidos. Para barrar que esses conteúdos se espalhem, o Congresso norte-americano passou a exigir que os vídeos sejam devidamente classificados como deepfake, com marca d'água que os identifiquem.
Vídeo com discurso de Barack Obama parece real, mas as palavras são do diretor Jordan Peele — Foto: Reprodução/BuzzFeed
2. Tecnologia mais acessível
Embora alguns softwares cobrem para remover a marca d'água dos vídeos adulterados, programas gratuitos já são utilizados para produzir deepfakes. Entretanto, ainda é necessária uma boa placa de vídeo para que o conteúdo seja processado mais rapidamente, o que não é acessível a qualquer pessoa. Com as atualizações da inteligência artificial nos próximos anos, o uso desses softwares será mais fácil e acessível, o que proporcionará que qualquer pessoa produza esse conteúdo.
3. Conteúdo pornográfico
De acordo com um levantamento feito pelo Deep Trace, existem mais de 14 mil deepfakes com conteúdos pornográficos na web. Em 96% dos casos, o rosto de mulheres é utilizado nos produtos. Dessa forma, esses vídeos falsos podem ser utilizados para promover a pornografia de vingança e o linchamento dessas mulheres.
Atualmente são utilizadas duas técnicas para produzir os vídeos. A primeira utiliza imagens reais de pornografia e apenas altera a face das atrizes para a de uma pessoa conhecida. A segunda, conhecida como Deepnude, utiliza a foto comum de uma pessoa, remove as roupas dela e cria a imagem pornográfica.
4. Comprometimento na tecnologia de reconhecimento facial
Recriar a face de qualquer pessoa a partir da tecnologia deepfake não é muito complicado. A partir disso, o reconhecimento facial utilizado para desbloquear aparelhos e entrar em aplicativos também é comprometido. Quanto mais realística é a imagem exibida, melhor os aparelhos processam o reconhecimento e desbloqueiam os computadores e celulares. Dessa forma, as empresas devem investir em tecnologias que barrem essas imagens.
5. Tratamento de depressão
Embora os algoritmos do deepfake sejam muito utilizados para promover crimes na Internet, a tecnologia também pode ser empregada para tratar doenças como a depressão. Com o uso da imagem de outra pessoa, o paciente que não se sente confortável em expor seu problema pode relatá-lo a um psicólogo ou psiquiatra sem precisar se identificar. Além disso, a depressão também pode ser reconhecida pela IA a partir do tom de voz da pessoa.