Assistentes virtuais e os vieses inconscientes de gênero - Itera
As Assistentes Virtuais - como a Sam da Samsung - escancaram um problema estrutural social. Isso pois, em sua maiora, são representadas como mulheres em posição de subserviência, além de todas possuírem aparêcias "socialmente aceitas". O porquê disso vê-se em uma construção histórica, que faz com que até hoje a mulher não possua equidade no mercado de tecnologia, e outros.
A inteligência artificial ou A.I. (artificial intelligence) é uma tecnologia cada vez mais presente no nosso cotidiano – sendo composta por etapas desde Machine Learning, Deep Learning e por fim o Processamento de Linguagem Natural, sendo as Assistentes Virtuais Inteligentes um produto em ascensão nos últimos anos: inteligências artificiais criada com o propósito de auxiliar a sociedade. E por facilitar a comunicação das marcas com os clientes. Grandes marcas já implementaram suas próprias assistentes: A Siri, da Apple; Alexa, da Amazon; Cortana, para o Windows; a Bia, do Bradesco; além da Lu, do Magalu; e a nova assistente da Samsung, a Sam.
E o que todas essas assistentes têm em comum? São todas figuras femininas. O porquê disso nos leva a uma pauta importantíssima: vieses inconscientes de gênero.
A associação do papel assistencial às mulheres evidencia a posição de subserviência imposta pelo machismo estrutural. Isso nos leva à como as figuras dos chatbots são representadas: em um padrão de beleza "socialmente aceito" (magras, majoritariamente brancas, jovens, peles perfeitas…), de voz calma e suave, respondendo de forma bem-humorada e comportada; sempre dispostas a ajudar, independente da pergunta. É importante olhar para a fala da diretora de igualdade de gênero da Unesco, Saniye Gulser Corat: "O mundo precisa prestar muito mais atenção a como, quando e se as tecnologias de Inteligência Artificial recebem um gênero e, o que é crucial, quem lhes dá um gênero.", atentando-nos para o processo de criação dessas assistentes virtuais e suas raízes estruturais.
A escolha da utilização de vozes femininas em assistentes virtuais é diretamente ligada à associação da mulher para com papéis de cuidado e submissão, como defende Valéria Vieira – linguista pela Universidade Federal de São Carlos, pós-graduada em Gestão de Negócios pela USP e fundadora da startup Langue, "Quando se pensa em assistente virtual, estamos muito acostumados com a imagem feminina da parte do acolhimento, da parte do 'eu vou trazer as respostas do seu cotidiano'", contudo, a depender da área do negócio, a voz feminina pode não ser vista como ideal, principalmente quando trata de assuntos vistos como suposta propriedade masculina. Dependendo da área da empresa, por exemplo, como financeira e investimento, provavelmente as pessoas vão confiar mais numa voz masculina. E aí estamos falando de toda uma questão estrutural", pontua.
Essa representação feminina escancara como o mundo da tecnologia ainda continua majoritariamente masculino, e mesmo que as mulheres tenham ganhado mais espaço dentro dessas áreas, ainda não possuem equidade em representatividade e salários. Segundo levantamento da Revelo com dados de 2017 e 2019 divulgados pelo UOL, os convites profissionais a mulheres para vagas no setor de tecnologia cresceram de 12% em 2017 para 17% em 2019. No entanto, a diferença de remuneração entre homens e mulheres era de 22,4% e passou para 23,4%, demonstrando a assimetria. Investir em mulheres para ocupar o mercado de tecnologia (e os demais) é uma forma de combater a desigualdade de gênero e garantir equipes diversas nas empresas, desenvolvendo produtos com consciência social cada vez maior.
O Bradesco, por exemplo, já se posicionou, deixando claro que a Bia não mais se calará diante de ataques; estes que denunciam a normalização da misoginia para com mulheres reais. No mercado de trabalho, receber assédios e ter de "manter a postura" é uma realidade, o que se reflete para com as Assistentes das marcas, que, diante disso, não podem se manter caladas. Conforme Solange Rezende, docente do Departamento de Ciências da Computação do Instituto de Ciências Matemáticas e de Computação da USP São Carlos e vice-coordenadora do MBA em Inteligência Artificial e Big Data, caso as assistentes virtuais não respondam a ataques, o usuário agressor pode continuar propagando esse tipo de ação com mulheres reais.
A Itera entende o cenário que nos encontramos e está disposta a lutar para um mercado tecnológico cada vez mais representativo e diverso. A discussão sobre representatividade de gênero acerca das IAs é uma pauta importantíssima dentro da Itera, pois estamos em busca de um futuro onde todos possam se sentir confortáveis e respeitados.
MORSSI, Júlia Lopes. O machismo presente na criação das assistentes virtuais e os consequentes assédios cibernéticos. Migalhas, 15 de jan. de 2021. Disponível em: <https://www.migalhas.com.br/depeso/339018/o-machismo-presente-na-criacao-das-assistentes-virtuais-e-os-consequentes-assedios-ciberneticos>. Acesso em: 11 de jun. de 2021.
OLIVEIRA, de Kaynã. Assédio contra assistentes virtuais revela ação do machismo estrutural da sociedade. Jornal USP, São Paulo, 03 de Jun. de 2021. Disponível em: <https://jornal.usp.br/atualidades/assedio-contra-assistentes-virtuais-revela-acao-do-machismo-estrutural-da-sociedade/>. Acesso em: 11 de jun. de 2021.