Falha mostra como a IA do Facebook trabalha
As informações vazadas indicam que essas informações podem estar sendo usadas para o direcionamento de anúncios
Nesta quarta-feira, 3/7, um falha nos servidores do Facebook tem causado problemas para todos os produtos da empresa. Isso quer dizer que Facebook, Instagram e WhatsApp estão com problemas para mostrar imagens, áudios e vídeos. Esse erro não apenas está servindo para atrapalhar os usuários, mas também revela algumas das ferramentas mais secretas da empresa.
Isso porque o problema está permitindo que nós vejamos, por assim dizer, o que se esconde "atrás da cortina" do Facebook. Apesar de não mostrar as imagens, a rede social tem deixado seus usuários visualizarem as tags inseridas automaticamente por sua IA em cada foto publicada em suas redes, permitindo que vejamos o quão avançada é a ferramenta de reconhecimento da empresa.
Ao invés de imagens, os usuários que navegam pelo Instagram e o Facebook verão apenas quadrados brancos com os dizeres "a imagem pode conter:" seguido de uma série de palavras chave como "cães", "óculos", "pessoas sorrindo", "área interna" e outros elementos que compõem aquela imagem.
Isso quer dizer que, basicamente, o Facebook está nos mostrando como o seu servidor enxerga e classifica nossas vidas, colocando-as em tópicos que podem ser facilmente indexados por mecanismos de busca. Além de revelar elementos, em algumas fotos o Facebook pode até mesmo identificar pessoas específicas através do software de reconhecimento facial da empresa, que pode identificar usuários em uma determinada foto mesmo que eles não tenham sido previamente marcados nela.
O Facebook tem treinado sua IA de reconhecimento de fotos pelo menos desde abril de 2016, e desde 2017 ele consegue reconhecer usuários em fotos onde eles não haviam sido anteriormente marcados, então isso não é uma grande novidade — mas é interessante ver os critérios de classificação que a empresa usa para essas publicações.
Ainda que a classificação de fotos tenha sido criado por motivos de acessibilidade (como forma de facilitar a leitura dessas imagens por aplicativos de navegação usados por pessoas com problemas de visão), o modo como elas são classificadas poderiam muito bem também ser usado como informações para o direcionamento de anúncios, já que o programa consegue facilmente, a partir de suas fotos, descobrir quais são os seus hobbies, os lugares que você frequenta e até suas atividades mais rotineiras e gostos pessoais.
Melhorias na aprendizagem profunda nos últimos anos realmente revolucionaram o mundo da visão mecânica, e o conteúdo visual on-line é geralmente tão legível para as máquinas quanto o texto. Mas uma vez que algo é legível, é claro, fica fácil armazenar, analisar e extrair dados. É somente quando o sistema se rompe, como hoje, que percebemos que está acontecendo.
Até o momento da publicação, o Facebook não havia confirmado se essas informações são ou não usadas para o direcionamento de anúncios. Mas, independente disso, é interessante ter um pouco mais de acesso àquilo que o Facebook sabe sobre nós, e como cada publicação nossa — até mesmo uma simples foto — pode ser usada para montar um perfil completo de cada usuário.