Google usa Inteligência Artificial em projeto contra comentários abusivos na Internet | VIANENSIDADES
Chamado de Perspective, novo projeto foi feito em parceria com a Jigsaw e só está disponível em inglês por enquanto
IDGNow! – DigitalNetwork, via Brasileiros *
A Internet é um lugar complicado para ter uma conversa. Os abusos on-line já fizeram com que muita gente abandonasse as redes sociais que não são bem equipadas para lidar com isso, e alguns sites de notícias desabilitaram as suas seções de comentários.
É por isso que o Google e a Jigsaw (uma incubadora da empresa mãe do Google, a Alphabet) estão trabalhando em um novo projeto chamado Perspective, que usa Inteligência Artificial (IA) para tentar identificar comentários tóxicos – e reduzi-los. Liberada nesta sexta-feira, 24/2, a API do Perspective fornecerá aos desenvolvedores uma pontuação de quão provável é que os usuários percebam um documentário como tóxico.
Em troca, essa pontuação poderia ser usado para desenvolver recursos como filtragem automática de posts ou fornecer feedback ao usuários sobre o que estão escrevendo antes que eles enviem para publicação. Desde ontem, 23/2, os desenvolvedores podem solicitar acesso à API para uso em projetos que estejam trabalhando, e a Jigsaw irá aprová-los com o tempo.
Muitos sites de notícias não possuem a disposição ou o tempo para passar o tempo moderando agressivamente os comentários em suas reportagens e, por isso, decidiram desabilitá-los completamente e liberar a discussão nas redes sociais. O The New York Times, que ajudou no desenvolvimento do Perspective, por exemplo, abre os comentários em apenas 10% das suas reportagens por conta do esforço necessário para moderá-los manualmente.
O Google também tem um interesse velado em um filtro melhor contra abusos. Suas seções de comentários no YouTube podem ficar cheias de ódio, deixando os criadores de conteúdos com mais uma tarefa pesada nas mãos. Usar a API do Perspective para filtrar os comentários pode ajudar a aliviar isso.
No entanto, a interpretação dos comentários pelo Perspective ainda está longe de ser perfeita. Uma série de afirmações profanas feita com a intenção de aprovar algo foi marcada como provavelmente tóxica. Por exemplo, o sistema classificou a frase "This is some kick-ass music right here" como 85% similar a comentários que outras pessoas afirmaram ser tóxicos.
A Jigsaw, por sua vez, reconhece os potenciais problemas. O site do Perspective dá aos usuários uma maneira de testar comentários e dizer se eles são tóxicos ou não. A implicação aí é que a equipe da empresa vai levar esse feedback em conta com interações posteriores na tecnologia de reconhecimento de abuso.
"Ainda estamos no começo e vamos entender muita coisa errada", afirmou a empresa em seu site.
Por enquanto, o Perspective só está disponível em inglês, apesar de aparentemente conseguir compreender contextualmente alguns comentários tóxicos em outros idiomas.
*IDGNow! é marca registrada da IDG (International Data Group), licenciada exclusiva no Brasil pela DigitalNetwork!Brasileiros, divisão de mídia digital da Brasileiros Editora