6 de setembro de 2019 Augusto Ikeda Tech comentários
Você já ouviu falar a respeito do Zao? Esse é o novo aplicativo do momento na China e já viralizou com apenas alguns dias de lançamento. No entanto, ele usa a mesma inteligência do deepfake, tecnologia que troca o rosto de pessoas em vídeos com resultados convincentes – e isso já está causando preocupação.
O Zao foi lançado na última sexta-feira (30) na China, apenas para o iOS, pela empresa MoMo. Rapidamente, o aplicativo se tornou assunto nas redes sociais de lá.
O desenvolvedor de games Allan Xia usou seu perfil no Twitter para mostrar os resultados do aplicativo. Segundo ele, em questão de apenas oito segundos, a ferramenta conseguiu trocar o rosto do ator Leonardo DiCaprio pelo seu com uma única foto.
Já o especialista em tecnologia Matthew Brennan, que mora na China, usou o aplicativo e mostrou seu rosto no corpo de Sheldon, da série The Big Bang Theory.
Por mais que os resultados sejam impressionantes e quase realistas, a rápida popularidade do Zao reacendeu o alerta e a preocupação gerados pela inteligência deepfake. Uma delas é a produção de vídeos falsos que podem ser usados para propagar fake news e difamar a imagem de muitas pessoas.
PlayStation 5: CEO da PlayStation fala sobre preço do novo console
Zao: deepfake e privacidade
Vale lembrar que recentemente, muitas atrizes famosas de Hollywood se tornaram vítimas de vídeos pornográficos falsos por conta dessa tecnologia, o que fez o Congresso dos Estados Unidos criar leis que criminalizam a prática.
O aplicativo também gerou uma grande preocupação com relação à privacidade de seus usuários. De acordo com o portal Bloomberg, a primeira versão do Zao tinha em seus termos de uso uma cláusula que dava à MoMo o direto de usar as fotos dos usuário de forma "livre e irrevogável". Em outras palavras, elas poderiam ser usadas sem qualquer tipo de autorização.
Por conta disso, o aplicativo logo se tornou alvo de críticas do seus usuários. Em resposta, a MoMo disse que entende essa preocupação com a privacidade e que o problema será corrigido, mas pediu um pouco de tempo.
Se o prognóstico das deepfakes é pessimista, isso se dá, em grande parte, porque ainda não há técnica desenvolvida para identificar os audiovisuais falsos.
Em entrevista ao jornal 'O Estado de S. Paulo', o cientista da computação brasileiro Virgilio Almeida, professor associado de Harvard, aponta que a tecnologia de defesa contra deepfakes pode seguir dois caminhos. O primeiro seria a criação de uma assinatura digital em vídeos – análoga a marcas d'água em notas de dinheiro -, que garantiria a autenticidade da câmera que deu origem a um filme e a ausência de edições.
No entanto, uma assinatura digital seria invalidada por qualquer tipo de edição, mesmo os "benignos" – incluindo mudança de contraste e pequenos cortes. Além disso, não haveria como assegurar a veracidade de vídeos antigos, anteriores a uma possível implementação de assinaturas.
Outra solução vai na linha do "feitiço contra o feiticeiro": usar inteligência artificial e machine learning para criar detectores de vídeos falsos. A ideia é treinar computadores para identificar sinais de adulteração que seriam invisíveis a olhos humanos.