Deepfake- A tecnologia da manipulação de imagens/vídeos - Comunidade Sebrae
Deepfake- A tecnologia da manipulação de imagens/vídeos
Estamos vivendo na era do exibicionismo digital, o que tem levado cada vez mais pessoas a abrir mão de sua privacidade e divulgar detalhes da sua vida nas redes sociais, numa exposição sem limites e cercada de riscos. E é nesse contexto que entra a deepfake - a tecnologia da manipulação de imagens/vídeos.
Deepfakes são, basicamente, identidades falsas criadas com a aprendizagem profunda (deep learning), por meio do uso maciço de dados, utilizando a técnica da síntese de imagem humana baseada na inteligência artificial. Com a rede geradora antagônica ou tecnologia GAN (Generative Adversarial Network), as imagens e vídeos preexistentes são sobrepostos e transformados em imagens ou vídeos "originais".
A combinação de vídeos preexistentes e "originais" resulta em vídeos falsos, que mostram pessoas fazendo ou dizendo coisas que nunca aconteceram na realidade. Outra modalidade vista nos dias de hoje são as faces fakes, que, criadas por inteligência artificial, são capazes de retratar de maneira verossímil pessoas que não existem na realidade.
Será que estamos chegando na era Matrix?
Sabemos que no filme Matrix, Neo (um jovem programador) é constantemente atormentado por estranhos pesadelos, nos quais se vê conectado por cabos a um vasto sistema de computadores. Após encontrar Morpheus e Trinity, ele descobre que é vítima da Matrix, um sistema de inteligência artificial que manipula a mente das pessoas por meio da criação de um mundo real ilusório, e usa seus cérebros e corpos para a produção de energia.
Fazendo um paralelo ao filme, criar uma realidade deepfake é meio caminho andado para o potencial uso da combinação de imagens/vídeos e identidades deepfakes com as famosas fake news. O crescimento das deepfakes poderia resultar em uma "guerra desinformacional". Não ser capaz de diferenciar o que é real na internet já é um transtorno. Agora, imagine o que pode ocorrer caso as notícias, imagens e vídeos gerados por inteligência artificial alcancem um nível no qual sejam indistinguíveis de imagens e vídeos reais?
Aplicativos e a escuta não autorizada
O FaceTime é um aplicativo da Apple que faz chamadas de vídeo e áudio para quem possui seus produtos. As ligações são feitas pela internet.
Seu uso é restrito aos dispositivos da Apple, mas para as pessoas que possuem Android, aplicativos como o Hangouts, Viber e Skype são bons substitutos.
Recentemente, foram encontrados problemas de privacidade no FaceTime. O problema permitia que um usuário do iPhone ouvisse todos os sons ao redor do aparelho do destinatário da chamada, mesmo que a ligação não tivesse sido atendida. Essa falha foi detectada nas chamadas de vídeo em grupo. Por conta disso, as chamadas em grupo foram desativadas temporariamente.
Aplicativos que mudam a voz
Existem diversos aplicativos que capazes de modificar e modular a voz. Esse recurso pode ser utilizado para a caracterização de um personagem ou para modificar a voz de uma testemunha anônima, por exemplo. Tais aplicativos fazem sucesso entre usuários de celulares tanto Android como iOS. A variedade de filtros utilizados para modificar a voz é imensa. Alguns deles também permitem que o usuário edite o resultado para deixar mais divertido. A voz modificada pode ser usada em ligações telefônicas e enviada via aplicativos. Eis alguns aplicativos gratuitos:
· FunCalls: A plataforma do aplicativo permite que o usuário selecione diversos tipos de vozes engraçadas antes do início de uma ligação. É importante salientar que o telefone de quem está fazendo a ligação é ocultado pelo serviço. O aplicativo possui versões para Android e iOS.
· Call Voice Changer: Permite a mudança de voz durante a ligação. Para isso, basta ativar o discador, digitar o número e selecionar um dos efeitos de voz. Depois, é só se divertir com a ligação. Alguns sons hilários podem ser enviados durante a ligação. O aplicativo possui versões Android e iOS.
· Mudar a Voz: Possui diversos efeitos sonoros, desde a voz modificada por gás hélio, como de monstros e alienígenas. Primeiro, você grava a mensagem e escolhe uma das opções. Depois, é só enviar normalmente. O som alterado pode ser enviado por WhatsApp, por exemplo. O aplicativo possui versão Android.
Aplicativos que mudam o rosto
Alguns aplicativos alteram o rosto do usuário. São utilizados para dar um efeito especial à foto. Confira alguns:
· Snapchat: O Snapchat é uma rede social de compartilhamento de fotos e vídeos para seus contatos e seguidores. Também oferece funções para mudar o rosto. Recentemente, um filtro que transformava o rosto do adulto em rosto de bebê foi amplamente divulgado e compartilhado nas diversas redes sociais. O aplicativo é gratuito e possui uma ampla rede de usuários. Possui versões Android e iOS.
· Perfect365: Considerado um dos melhores aplicativos para a mudança de rosto, com o Perfect365 a pessoa pode aplicar maquiagem, esconder imperfeições e salientar as qualidades. Tudo isso para que as fotos fiquem perfeitas. O Perfect365 é gratuito e está disponível nas versões Android e iOS.
· Animal Faces: Capaz de transformar uma pessoa parcialmente ou completamente em um animal, o aplicativo também permite que os usuários escolham qual parte do corpo desejam mudar e a intensidade dessa transformação. Disponível somente na plataforma Android.
· Facetune: Este é um dos aplicativos mais famosos quando o assunto é beleza. O Facetune permite que os usuários façam, basicamente, uma "cirurgia plástica": é possível mexer no tamanho e posição das sobrancelhas, afinar nariz e tirar a famosa papada. O aplicativo possui as versões Android (gratuito) e iOS (pago).
A facilidade crescente em editar fotos e vídeos e usar inteligência artificial para criar materiais falsos pode causar um dano duradouro para a segurança pública, e também nas questões de confiança e privacidade. Mesmo diante de todas as influências positivas que a inteligência artificial traz, ainda há muito em que precisamos trabalhar.
Hoje, aquele famoso ditado "só acredito vendo" já não pode ser levado ao pé da letra. Por exemplo, mesmo que seja provada a falsificação de um vídeo de uma celebridade ou até mesmo de um político retratado em alguma atividade ilícita, os danos à reputação podem ser irreversíveis. Além de destacar a importância de averiguação dos fatos, isso mostra como as pessoas estão sujeitas aos ataques que utilizam tal tecnologia.
Como a tendência de um vídeo falso escandaloso é se tornar viral, eles podem espalhar malwares e lançar ataques de phishing. As deepfakes representam um novo tipo de ameaça à cibersegurança.
Uma das maneiras de nos protegermos das deepfakes é evitar o compartilhamento de vídeos com desconhecidos, ou mesmo não postá-los em redes sociais. Isso dificulta o trabalho do editor em pegar sua imagem e colocá-la em um vídeo comprometedor. Além do vídeos, notícias, áudios e textos também podem ser manipulados e se tornarem virais nas redes sociais, então é preciso tomar um cuidado especial ao expor a própria voz e ao consumir e compartilhar informações.
E qual o procedimento para quem foi vítima de uma deepfake?
Primeiramente, é necessário coletar as evidências do crime. Como se trata de um crime virtual, fazer a captura de tela, incluindo as imagens e vídeos é imprescindível.
O segundo passo é procurar uma delegacia especializada em crimes virtuais e registrar um boletim de ocorrência. Na falta de uma delegacia especializada, o boletim de ocorrência pode ser registrado em qualquer outra delegacia.
Como vimos, para fazer uma deepfake, é preciso que software seja alimentado com uma grande quantidade de vídeos reais. Esse procedimento serve para mapear o rosto da pessoa. Famosos têm sido alvo preferencial dessa técnica, pois é muito mais fácil encontrar fotos e vídeos de celebridades e figuras políticas.
O diretor americano Jordan Peele fez um vídeo do ex-presidente Barack Obama para chamar a atenção para o aumento das fake News e das deepfakes. No vídeo, Obama aparece fazendo várias declarações falsas, envolvendo o presidente Trump. Porém, Jordan Peele revela que o vídeo foi uma montagem e que as falas foram criadas e ditas por ele e posteriormente combinadas às imagens do ex-presidente americano.
Case Mark Zuckerberg
O fundador e CEO do Facebook, apareceu em um vídeo falando como manipula os dados dos usuários. O vídeo falso viralizou nas redes sociais.
Para garantir a realidade do vídeo e o tornar ainda mais convincente, a agência de publicidade Canny utilizou o logo da CBS, considerado um dos principais canais da TV norte-americana. A vinheta "estamos procurando transparência" também foi adicionada ao vídeo.
Soluções para a identificação das deepfakes
Ainda não há técnica desenvolvida para identificar os audiovisuais falsos com precisão (as técnicas de perícia digital estão engatinhando). Analistas apontam que dois caminhos podem ser seguidos: o primeiro seria a criação de uma assinatura digital em vídeos, que garantiria a autenticidade da câmera utilizada; a assinatura digital seria invalidada por qualquer tipo de edição feita. O segundo caminho seria a utilização da própria inteligência artificial para criar detectores de imagens e vídeos falsos.
A identificação das deepfakes por meio da inteligência artificial traz um risco: a criação de algoritmos para detectar fraudes e falsificações pode resultar em aperfeiçoamento das adulterações. Isso ocorre pelo processo chamado aprendizado automático ou aprendizado da máquina (machine learning).
Embora ainda não existam técnicas para desmascarar deepfakes elaboradas, é possível identificar com alguma precisão as mais "amadoras": estas podem ser descobertas pela qualidade da imagem e a maneira como as pessoas se movem nos vídeos. Esses vídeos também costumam mostrar tremores, oscilações e ter baixa resolução.