Assédio contra assistentes virtuais revela ação do machismo estrutural da sociedade - Agência Patrícia Galvão
A associação da mulher às funções assistenciais reflete a posição de subserviência imposta a elas pelo patriarcalismo e machismo que caracterizam a sociedade brasileira
(Jornal da USP | 03/06/2021 | Por Kaynã de Oliveira | Acesse a matéria no site de origem)
Assistentes virtuais têm sido cada vez mais populares. Talvez você conheça a Siri, da Apple, a Alexa, da Amazon ou o Google Assistente. A Inteligência Artificial também é usada para facilitar a comunicação com o cliente, seja por aplicativos de mensagens instantâneas ou personas que representam a empresa, como a Lu, do Magazine Luiza, ou a Bia, do Bradesco. O propósito dessa tecnologia é otimizar a burocracia de atendimento, contudo, majoritariamente, assistentes virtuais são representados pela figura feminina, o que levanta uma questão problemática: o machismo.
A associação da mulher às funções assistenciais reflete a posição de subserviência imposta a elas pelo machismo estrutural da sociedade. O fato de um chatbot ser imageticamente feminino acarreta que este seja submetido à misoginia, assim como as mulheres reais. O setor de tecnologia é majoritariamente masculino e isso impacta diretamente em como assistentes virtuais são desenvolvidos e também em como se posicionam contra a violência de gênero. O banco Bradesco chegou a se posicionar contra o assédio recebido por sua assistente, inclusive com campanhas publicitárias, comunicando os clientes que a Bia não tolera mais esse tipo de ataque.
"As assistentes são mulheres de uma certa idade, com uma certa carinha, geralmente são brancas, não têm mais de 30 e poucos anos e são magras. As assistentes têm a carinha que é a mais aceita pelo público e a ideia de quem faz um bot é servir o público com a menor fricção possível", argumenta Livy Real, doutora em Linguística pela Universidade Federal do Paraná, especialista no desenvolvimento de chatbots e integrante do grupo Brasileiras em Processamento de Linguagem Natural. "Quando se pensa que o mundo da tecnologia é majoritariamente masculino, com um público masculino, branco, heterossexual e, muitas vezes, de uma classe econômica com um certo poderio econômico, essas questões estruturais para a sociedade não são tão relevantes para essas pessoas que estão construindo o chatbot. Eu não diria que o problema é só quem faz, mas também para quem faz", complementa.
Misoginia sofrida por mulheres reais reflete em assistentes virtuais
Valéria Vieira, linguista pela Universidade Federal de São Carlos, pós-graduada em Gestão de Negócios pela USP e fundadora da startup Langue, aponta que a voz feminina utilizada em assistentes virtuais é devido à associação machista de que a figura da mulher é necessariamente ligada ao cuidado, afeto e subserviência. "Quando se pensa em assistente virtual, estamos muito acostumados com a imagem feminina da parte do acolhimento, da parte do 'eu vou trazer as respostas do seu cotidiano'", contudo, a depender da área do negócio, a voz feminina pode não ser vista como ideal, principalmente quando trata de assuntos vistos como suposta propriedade masculina. "Dependendo da área da empresa, por exemplo, como financeira e investimento, provavelmente as pessoas vão confiar mais numa voz masculina. E aí estamos falando de toda uma questão estrutural", pontua.
Os assistentes virtuais são robôs sem gênero e funcionam por um processo chamado de machine learning, reconhecendo padrões, sejam de som ou imagem, aprendendo a produzir respostas, além de reconhecer o que o usuário deseja. Os bots, populares atualmente, utilizam a tecnologia de linguagem natural, que busca uma certa humanização da máquina. "São técnicas que permitem às máquinas entenderem aquilo que falamos. No comércio, estão evoluindo muito, até chegar à situação que nós estamos hoje, com assistentes do tipo Alexa, que talvez seja a mais bem desenvolvida. Várias empresas acabaram se utilizando disso, porque facilita muito a comunicação. É uma diminuição de custos grande, facilita o contato com as pessoas e ajuda o consumidor a comprar", explica o professor Glauco Arbix, do Departamento de Sociologia da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, coordenador do Observatório da Inovação do Instituto de Estudos Avançados e membro do Centro de Inteligência Artificial da USP.
O machismo que agride assistentes virtuais é reflexo do comportamento de alguns homens na sociedade. "A pessoa vai tentar reproduzir o que eles fazem com essa figura feminina. Essa figura feminina tem que ser carinhosa e meiga para responder da melhor forma. Ela precisa ser assertiva e, muitas vezes, levar assédio para casa. Isso é uma realidade no mercado de trabalho para as mulheres, principalmente nesse setor. Quer dizer que, se a minha assistente virtual com essa imagem feminina está sofrendo assédio, significa que, muito provavelmente, uma outra mulher, dentro dessa empresa ou qualquer outra empresa com esse cargo de assistente, de servir o usuário final, está sofrendo", compartilha Karina Soares, graduada em Letras pela Universidade Estadual de Maringá, especialista no desenvolvimento de chatbots e integrante do grupo Brasileiras em Processamento de Linguagem Natural.
Assistentes virtuais não podem se calar diante de ataques
Para Valéria, é essencial que as empresas respondam a ataques sofridos por seus chatbots. A falta de respostas das assistentes virtuais contra o assédio ou qualquer outro tipo de preconceito é uma forma negativa de posicionar a marca na sociedade. "O silêncio das marcas também representa um posicionamento. É muito bom se lembrar disso, porque se o pessoal vai assediar o robô e ele se cala, sabemos muito bem que as pessoas têm no seu imaginário, só no imaginário mesmo, de que quem cala consente. Optar por não optar por nada é, no mínimo, extremamente negativo", pondera.
Conforme Solange Rezende, docente do Departamento de Ciências da Computação do Instituto de Ciências Matemáticas e de Computação da USP São Carlos e vice-coordenadora do MBA em Inteligência Artificial e Big Data, caso as assistentes virtuais não respondam a ataques, o usuário agressor pode continuar propagando esse tipo de ação com mulheres reais. "Se uma pessoa assediar uma assistente e não for repreendida, pode passar a imagem de que é normal, e que fazendo isso numa mensagem com alguém, a pessoa tem que tolerar e responder passivamente. O que nós precisamos é combater esse comportamento em todos os meios."
Como é viver na pele
A Langue, startup majoritariamente feminina fundada por Valéria, é responsável pela criação do e-cacto, Inteligência Artificial de Juliette Freire, ex-participante do Big Brother Brasil 21. Entre os diversos trabalhos já realizados pela empresa, a especialista se recorda de situações revoltantes em que o produto, o robô, sofreu assédio. Em um dos casos, a assistente virtual pertence a um restaurante e seu nome constitui um trocadilho com adorar atender, o que já tem peso sexual. Quando o estabelecimento foi questionado sobre uma possível mudança do nome, negou, porque a assistente gerava engajamento.
"Sabemos que o duplo sentido na cabeça do brasileiro é muito fácil de ser engajado. Quando fizemos a curadoria de conteúdo, monitorando o bot para identificar se existiam outros tipos de perguntas ou a quantidade de erros, verificamos diversas interações, no sentido sexual, falando para a assistente ter relação sexual com eles. Estamos falando de uma assistente virtual ali, pelo WhatsApp, eles só tinham acesso àquela imagem do app. Era uma mulher padrão, jovem adulta, cuja foto era do ombro para cima. […] Nós precisávamos tomar cuidado até com os emojis escolhidos para responder, porque se enviava um beijinho ou uma carinha com coração, alguns usuários entendiam que ela estava flertando, então eles devolviam. Estou falando de um robô que, no geral, pedia a refeição desejada, o endereço e perguntava se ia pagar com cartão", compartilha a especialista.
Livy e Karina concordam quanto às dificuldades de ser mulher no setor de tecnologia. A predominância masculina e a desigualdade de gênero fazem que a cobrança a elas seja desproporcionalmente maior. "Se comete um erro é porque é mulher, não porque naquele dia estava cansada ou porque algum sistema caiu. Acho que as mulheres na tecnologia, não só nós, como linguistas, mas todas as desenvolvedoras e designers, estão sempre lidando com essa balança de 'como me posiciono enquanto mulher e como me posiciono enquanto indivíduo'. Essa discussão ajuda a entender que o que está acontecendo não é por alguma falha sua, mas resultado de um machismo estrutural", desabafa Livy.
Segundo levantamento da Revelo com dados de 2017 e 2019 divulgados pelo UOL, os convites profissionais a mulheres para vagas no setor de tecnologia cresceram de 12% em 2017 para 17% em 2019. No entanto, a diferença de remuneração entre homens e mulheres era de 22,4% e passou para 23,4%, demonstrando a assimetria. O investimento em mulheres é uma forma de combater a desigualdade de gênero e garantir equipes diversas nas empresas, propiciando o desenvolvimento de produtos com consciência social cada vez maior.
"Temos muitos desafios. Somos pouquíssimas mulheres. O nosso grupo Brasileiras no Processamento de Linguagem Natural é ainda muito pequeno. Os artigos que publicamos ainda são poucos. O investimento em português para esse tipo de tecnologia é mínimo. Ser mulher empoderada nessa área é uma dificuldade muito grande. […] Apoiem as mulheres, incentivem elas a irem mais longe e invistam nesses times para que não precisemos ficar escolhendo umas batalhas e excluindo outras", finaliza Karina.