Fotos dos seus filhos estão alimentando a tecnologia de vigilância - 14/10/2019 - Tec - Folha
Kashmir Hill Aaron Krolik
"É horrível e desconfortável", disse Papa, que agora tem 19 anos e estuda no Oregon. "Eu gostaria que eles tivessem me perguntado primeiro se eu queria fazer parte disso. Acho que a inteligência artificial é bacana e quero que seja mais inteligente, mas geralmente você pede às pessoas para participarem da pesquisa. Aprendi isso na aula de biologia no ensino médio."
Chloe Papa em Reed College, em Portland - Amanda Lucier/The New York Times
Em junho de 2014, buscando promover a causa da visão computacional, o Yahoo divulgou o que chamou de "a maior coleção pública de multimídia já lançada", com 100 milhões de fotos e vídeos. O Yahoo obteve as imagens —todas com Creative Commons ou licenças de uso comercial— do Flickr, uma subsidiária.
Os criadores do banco de dados disseram que sua motivação era nivelar o campo do aprendizado mecânico. Os pesquisadores precisam de enormes quantidades de dados para treinar seus algoritmos, e os funcionários de algumas empresas ricas em informações --como Facebook e Google-- tinham grande vantagem sobre todos os demais.
"Queríamos capacitar a comunidade de pesquisa, fornecendo-lhe um banco de dados robusto", disse David Ayman Shamma, diretor de pesquisa do Yahoo até 2016 e que ajudou a criar o projeto Flickr. Os usuários não foram notificados de que suas fotos e vídeos foram incluídos, mas Shamma e sua equipe criaram o que consideravam uma salvaguarda.
Mas essa salvaguarda era falha. O The New York Times encontrou uma vulnerabilidade de segurança que permite que as fotos de um usuário do Flickr sejam acessadas mesmo depois que se tornem privadas. (Scott Kinzie, porta-voz da SmugMug, que adquiriu o Flickr do Yahoo em 2018, disse que a falha "afeta potencialmente um número muito pequeno de nossos membros hoje, e estamos trabalhando ativamente para implantar uma atualização o mais rápido possível". Ben MacAskill, diretor de operações da empresa, acrescentou que a coleção do Yahoo foi criada "anos antes de nosso envolvimento com o Flickr".)
Em 2015 e 2016, a Universidade de Washington realizou o "Desafio MegaFace", convidando grupos que trabalhavam com tecnologia de reconhecimento facial a usar o conjunto de dados para testar o desempenho de seus algoritmos.
A escola pediu às pessoas que baixariam os dados que concordassem em usá-los apenas para "pesquisas não comerciais e com fins educacionais". Mais de cem organizações participaram, incluindo Google, Tencent, SenseTime e NtechLab.
No total, de acordo com um comunicado de imprensa da universidade em 2016, "mais de 300 grupos de pesquisa" trabalharam com o banco de dados. Ele foi citado publicamente por pesquisadores da Amazon e, segundo Harvey, Mitsubishi Electric e Philips.
Dominique e George Papa com o filho Jasper Papa - Taylor Glascock/The New York Times
A diretora de marketing do SenseTime, June Jin, disse que os pesquisadores da empresa usavam o banco de dados MegaFace apenas para fins acadêmicos. "Os pesquisadores precisam usar o mesmo conjunto de dados para garantir que seus resultados sejam comparáveis", escreveu Jin em um email. "Como o MegaFace é o banco de dados mais amplamente reconhecido do gênero, tornou-se o treinamento e o teste de reconhecimento facial de fato para a comunidade acadêmica e de pesquisa global."
Um porta-voz da NtechLab, Nikolay Grunin, disse que a empresa excluiu o MegaFace depois de participar do concurso e acrescentou que "a estrutura principal do nosso algoritmo não foi treinada com essas imagens". O Google se recusou a comentar.
Uma porta-voz da Universidade de Washington não quis disponibilizar os principais pesquisadores do MegaFace para entrevistas, dizendo que "passaram para outros projetos e não têm tempo para comentar sobre isso". Os esforços para contatá-los individualmente não tiveram êxito.
Nos últimos anos, Kemelmacher-Shlizerman vendeu uma empresa de troca de imagens de rosto para o Facebook e avançou a tecnologia de fraudes, convertendo clipes de áudio de Barack Obama em um vídeo realista e sintético dele fazendo um discurso. Ela agora está trabalhando em um "projeto espacial" no Google.
"Que diabos? Isso é loucura"
"Que diabos? Isso é loucura", disse Nick Alt, empresário de Los Angeles, ao saber que suas fotos estavam no banco de dados, incluindo algumas que ele tirou de crianças em um evento público em Playa Vista, na Califórnia, uma década atrás.
"A razão pela qual entrei no Flickr originalmente foi que você podia definir a licença como não comercial. Absolutamente, eu não deixaria minhas fotos serem usadas em projetos de aprendizado mecânico. Sinto-me um idiota por ter postado aquela foto. Mas fiz isso 13 anos atrás, antes da privacidade ser uma grande coisa."
Desde o ensino médio, ele faz parte de um programa da Associação da Força Aérea chamado CyberPatriot, que tenta direcionar jovens com habilidades de programação para carreiras em inteligência e militares. "Sou muito protetor com minha pegada digital por causa disso", disse ele. "Tento não postar fotos minhas online. E se eu decidir trabalhar para a ANS?"
Em 2008, o Estado de Illinois aprovou uma lei que protege os "identificadores biométricos e informações biométricas" de seus residentes. Dois outros Estados, Texas e Washington, também aprovaram leis de privacidade biométrica, mas não são tão firmes quanto a de Illinois, que proíbe estritamente entidades privadas de coletar, captar, comprar ou obter dados biométricos de uma pessoa --incluindo uma verificação da "geometria facial"-- sem seu consentimento.
"As fotos em si não são cobertas pela Lei de Privacidade da Informação Biométrica, mas a digitalização das fotos deve ser. O mero uso de dados biométricos é uma violação do estatuto", disse Faye Jones, professora de direito na Universidade de Illinois. "Usar isso em um concurso algorítmico sem ter notificado as pessoas é uma violação da lei."
Residentes de Illinois, como os Papa, cujas impressões faciais são usadas sem sua permissão, têm o direito de processar, disse Jones, e têm direito a US$ 1.000 (R$ 4.125,70) por uso, ou US$ 5.000 (R$ 20.628,50) se o uso for "imprudente".
"Temos muitos advogados de ação coletiva ambiciosos aqui em Illinois", disse Jeffrey Widman, sócio-gerente da Fox Rothschild em Chicago. "A lei está em vigor em Illinois desde 2008, mas foi basicamente ignorada por uma década. Eu garanto que em 2014 ou 2015 essa responsabilidade potencial não estava no radar de ninguém. Mas a tecnologia agora foi além da lei."
"Quando a lei foi aprovada, ninguém que hoje se preocupa com ela estava pensando no assunto", disse Kugler. O Vale do Silício está ciente da lei agora. A Bloomberg News informou em abril de 2018 que lobistas do Google e do Facebook estavam tentando enfraquecer suas disposições.
Mais de 200 ações coletivas alegando uso indevido da biometria dos residentes foram iniciadas em Illinois desde 2015, incluindo um caso de US$ 35 bilhões (R$ 144,3 bilhões) contra o Facebook por usar o reconhecimento facial para marcar pessoas em fotos. Esse processo ganhou força em agosto, quando o 9º Tribunal de Apelações do Circuito dos EUA rejeitou os argumentos da empresa de que as pessoas não sofriam "danos concretos".
"É assustador você me encontrar. Eu sempre vivi com a filosofia de que o que eu colocava lá era público, mas não poderia imaginar isso", disse Wendy Piersall, editora e vereadora em Woodstock, Illinois, cujas fotos, junto com as de seus três filhos, estavam no banco de dados MegaFace.
"Nós não podemos usar o divertido aplicativo de arte. Por que vocês estão usando o rosto de nossos filhos para testar seu software?", acrescentou ela. "Minhas fotos lá são identificadas geograficamente em Illinois. Não é difícil descobrir onde essas fotos foram tiradas. Eu não sou uma pessoa que gosta de processar, mas gostaria que alguém fosse atrás disso."
Não está claro qual seria a responsabilidade legal de uma empresa que tira fotos postadas em Illinois, mas processa os dados faciais em outro Estado ou até em outro país. "Os réus serão criativos na busca de argumentos, porque ninguém quer ficar preso segurando essa batata quente e cara", disse ele.
Um porta-voz da Amazon Web Services disse que o uso do conjunto de dados é "compatível com a lei de privacidade", mas se nega a explicar como. Mario Fante, porta-voz da Philips, escreveu em um email que a empresa "nunca teve conhecimento de nenhum residente de Illinois incluído no conjunto de dados mencionado acima".
Victor Balta, porta-voz da Universidade de Washington, disse: "Todos os usos das fotos no banco de dados dos pesquisadores são legais. A UW é uma universidade pública de pesquisa, não uma entidade privada, e a lei de Illinois tem como alvo entidades privadas".
Alguns dos moradores de Illinois que encontramos no MegaFace e contatamos eram indiferentes ao uso de seus rostos. "Eu sei que quando você posta informações online elas podem ser usadas de maneiras inesperadas, então acho que não estou surpreso", disse Chris Scheufele, desenvolvedor web em Springfield. "Ao enviar informações para a Internet e disponibilizá-las para consumo público, você deve esperar que sejam usadas."
Scheufele riu. "Não conversei com minha mulher sobre isso", disse.
"Niilismo da privacidade" é um termo cada vez mais familiar para desistir de tentar controlar dados pessoais na era digital. O que aconteceu com Chloe Papa poderia, dependendo da sua perspectiva, ser motivo para uma extrema vigilância ou total resignação: quem poderia prever que um instantâneo de uma criança em 2005 contribuiria, uma década e meia depois, para o desenvolvimento de tecnologia de vigilância de ponta?
"Nós nos acostumamos a trocar conveniência por privacidade, e isso amorteceu nossos sentidos sobre o que acontece com todos os dados coletados sobre nós", disse Jones, a professora de direito. "Mas as pessoas estão começando a acordar."
https://www1.folha.uol.com.br/tec/2019/10/fotos-dos-seus-filhos-estao-alimentando-a-tecnologia-de-vigilancia.shtml