Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos - 13/01/2020 - UOL TILT
Batizado de Projeto Artemis, programa tem o objetivo de detectar os criminosos a partir de padrões de conversas em chats Imagem: Estúdio Rebimboca/UOL
A pedofilia é um problema muito sério da internet, e os meios de moderação, humanos ou via programação, ainda deixam escapar essa prática em plataformas grandes, como o YouTube. Agora a Microsoft veio com mais uma ferramenta que seria capaz de identificar pedófilos que tentam assediar crianças na web.
Ela na verdade é uma versão de um recurso da Microsoft já usado em outros projetos seus. Mas como sabemos, a moderação não humana ainda enfrenta muitos desafios, como a precisão de seu julgamento, e não deverá ser diferente com esta aqui.
Batizado de Projeto Artemis, o programa tem o objetivo de detectar os criminosos a partir de padrões de conversas em chats online. A ferramenta avalia e classifica a probabilidade de uma pessoa estar assediando virtualmente uma criança em um canal de bate-papo. A empresa que usar o programa pode definir uma pontuação e, caso passe do número definido, eles são acionados.
A partir disso, a empresa recebe o alerta (análise humana) e escolhe qual será o rumo da possível denúncia. Depois, o moderador pode denunciar para a polícia ou para organizações de proteção a crianças que participaram da criação do projeto.
A Microsoft não divulgou quais são as palavras ou padrões que a ferramenta identifica. Isso porque os pedófilos podem mascarar suas atividades criminosas caso tenham informações como essa.
Tecnologias assim são essenciais, já que as crianças estão cada mais presentes em ambientes digitais. Essa ferramenta já é usada há anos pela Microsoft, na plataforma do Xbox, que também testa em serviços de bate-papo, como o Skype.
Segundo Courtney Gregoire, chefe de segurança digital da Microsoft, como uma empresa de tecnologia, eles têm a responsabilidade de criar softwares e serviços como este. "A exploração infantil online é um crime horrível que requer uma abordagem da sociedade. A Microsoft tem um compromisso de longa data com a proteção online infantil", escreveu Gregoire em um blog da companhia.
A ferramenta é gratuita e está disponível para as empresas que usam função de bate-papo online. A Thorn, organização sem fins lucrativos, está com a responsabilidade de distribuição e licenciamento da tecnologia, como informou a chefe de segurança digital.
Mas como nem tudo é perfeito, uma análise do MIT (Instituto de Tecnologia de Massachusetts) explica que um dos possíveis desafios que o programa deve enfrentar é que tenham muitos falsos positivos. Afinal, sistemas assim não entendem 100% o significado e contexto da nossa linguagem. "Empresas de mídia social vão precisar investir em mais moderadores caso eles estejam realmente comprometidos com a ferramenta", analisa o artigo.
Além disso, segundo o MIT, o sistema supõe que as mensagens não são criptografadas e que os usuários consentirão que suas conversas sejam lidas. Então a questão da privacidade dos dados também deve trazer alguma desconfiança à ferramenta quando ela for aplicada em maior escala.
O coronavirus reduziu ou até esvaziou escritórios, call centers e outras formas de atendimento humano aos seus...
Pesquisadores da Universidade de Massachussetts Amherst desenvolveram um sistema automatizado capaz de monitorar...