Assistentes de voz têm diferenças raciais, dizem pesquisadores - Link - Estadão
26/03/2020 | 05h00
Grant Hindsley/NYT
As caixas de som inteligente e seus assistentes de voz têm diferenças na hora de entender falas de brancos e negros, diz estudo
Com um iPhone, você pode ditar uma mensagem de texto. Com a Alexa da Amazon na mesinha de centro, você pode pedir para ela tocar uma música do outro lado da sala. Mas esses dispositivos podem entender algumas vozes melhor do que outras. Os sistemas de reconhecimento de fala de cinco das maiores empresas de tecnologia do mundo – Amazon, Apple, Google, IBM e Microsoft – cometem muito menos erros com usuários brancos do que com negros, segundo um estudo publicado na segunda-feira, 23, na revista Proceedings da Academia Nacional de Ciências dos Estados Unidos.
"Não entendo por que essas empresas não procedem com a devida diligência antes de lançar essas tecnologias", disse Ravi Shroff, professor de estatística da Universidade de Nova York que estuda preconceitos e discriminações nas novas tecnologias. "Não entendo por que continuamos vendo esses problemas".
O estudo de Stanford indicou que os principais sistemas de reconhecimento de fala podem ter falhas porque as empresas estão treinando a tecnologia com dados que não são tão diversos quanto deveriam – aprendendo principalmente com pessoas brancas e relativamente poucas pessoas negras.
"As cinco maiores empresas que fazem reconhecimento de fala estão cometendo o mesmo tipo de erro", disse John Rickford, um dos pesquisadores de Stanford por trás do estudo, especialista em fala afro-americana. "O pressuposto é que todos os grupos étnicos estão bem representados nessas empresas. Mas não estão".
O estudo testou cinco ferramentas disponíveis ao público – Apple, Amazon, Google, IBM e Microsoft – que qualquer pessoa pode usar para acessar serviços de reconhecimento de fala. Essas ferramentas não são necessariamente o que a Apple usa para criar a Siri ou que a Amazon usa para criar a Alexa. Mas podem compartilhar tecnologias e práticas subjacentes a serviços como a Siri e a Alexa.
Justin Burr, porta-voz do Google, disse que a empresa estava comprometida em melhorar a ferramenta. "Há muitos anos estamos trabalhando no desafio de reconhecer com precisão as variações de fala – e continuaremos trabalhando", disse ele.
Moradores de uma comunidade rural majoritariamente afro-americana no leste da Carolina do Norte, de uma cidade de médio porte no oeste do estado de Nova York e da capital, Washington, os negros testados falaram aquilo que os linguistas chamam de inglês vernacular afro-americano – uma variedade do inglês falada por muitos afro-americanos em áreas urbanas e outras regiões dos Estados Unidos. Os brancos eram da Califórnia, alguns da capital do estado, Sacramento, e outros de uma área rural e majoritariamente branca, a cerca de 480 quilômetros de distância.
O estudo constatou que a "diferença de raça" era igualmente grande quando se comparavam frases idênticas proferidas por pessoas negras e brancas. Isso indica que o problema está na maneira como os sistemas são treinados para reconhecer o som. As empresas, ao que parece, não estão treinando as máquinas com dados suficientes que representam o inglês vernacular afro-americano, segundo os pesquisadores.
"Os resultados não são de apenas uma empresa específica", disse Sharad Goel, professor de engenharia em Stanford e pesquisador envolvido no estudo. "Vimos padrões qualitativamente semelhantes em todas as cinco empresas".
Empresas como o Google podem ter problemas para coletar os dados corretos e podem não ter motivação o bastante para coletá-los. "É difícil consertar uma coisa dessas", disse Brendan O'Connor, professor da Universidade de Massachusetts Amherst, especialista em tecnologias de IA. "É difícil coletar esses dados. É uma batalha árdua". / TRADUÇÃO DE RENATO PRELORENTZOU