Vieses racistas: como combatê-los no design - Karen Santos | Design 2020
A diversidade no local de trabalho sempre foi um dos tópicos mais quentes do setor de RH, mas nos últimos anos, tornou-se um objetivo importante para muitas empresas.
À medida que a demografia da força de trabalho muda e os mercados globais emergem, a diversidade se aproxima de se tornar uma necessidade comercial. Porém ao olharmos para as nossas equipes de trabalho, squads ou a empresa como um todo, vemos poucas pessoas diversas.
Três ações podem auxiliar na construção de novos hábitos do mercado de trabalho e ambiente mais diversos. Veja:
Para ampliar as chances de encontrar mais talentos
Para suprir uma demanda cada vez mais crescente de profissionais
E sobreviver nesse mundo de escassez de pessoas reais
Vieses racistas em sistemas, produtos e serviços e design
Segundo Victor Hugo Germano, software developer da lambda3:
Empresas que cultivam uma cultura tóxica, arcaica, desumana burocrática e ou homogênea estão com os dias contados.
Um funcionário do Facebook compartilhou um vídeo mostrando um distribuidor automático de sabonete de banheiro não detectando a mão de um homem de pele escura. O conteúdo viralizou nas redes sociais. No vídeo, um homem branco acena com a mão sob o dispensador e instantaneamente recebe sabão. Em seguida, um homem negro passa a agitar sua mão sob o dispensador de várias maneiras; e o sabão não é liberado.
Fonte: https://metro.co.uk/2017/07/13/racist-soap-dispensers-dont-work-for-black-people-6775909/
Em um caso semelhante, uma empresa foi acusada de racismo pelo software de rastreamento facial não reconhecer o rosto de pessoas negras.
Um homem negro, gravou um vídeo sobre a webcam MediaSmart da HP que se tornou viral depois que mostrou que a câmera pode rastrear o rosto dos usuários, exceto quando eles são negros.
Fonte: https://www.theguardian.com/media/pda/2009/dec/23/hewlett-packard
O sistema de autocolagem do Google Fotos também apontou um problema semelhantes ao demais casos. A plataforma identificou dois amigos negros como "gorilas" em suas fotos juntos, provocando um tumulto na mídia social e uma demanda para o Google aumentar sua tecnologia para ser mais sensível às palavras que usa em fotos de pessoas.
Fonte: https://www.mic.com/articles/121555/google-photos-misidentifies-african-americans-as-gorillas
Em outro caso, o Instituto de Tecnologia da Geórgia divulgou as descobertas de um estudo conduzido que analisou a precisão com que os modelos de detecção de objetos (como os usados ​​por carros autônomos) detectam diferentes tons de pele. Os resultados obtidos indicaram que os modelos de detecção de objetos eram 5% menos precisos na detecção de indivíduos de pele mais escura.
Em 2018, Sam Huang escreveu um artigo no qual ela descreve andar na traseira de um carro de direção automatizado. No texto, ela descreve como cada vez que um pedestre entrava na vizinhança dos carros, um alerta aparecia na tela do tablet indicando que um humano estava presente. No entanto, duas pessoas não eram identificadas pela traseira.
Havia dois pedestres que o carro não conseguiu detectar. Dois homens. Ambos andando na calçada como qualquer um dos outros pedestres que encontramos. A única diferença desta vez foi a sua corrida. Todos os outros pedestres anteriores eram brancos. Esses dois homens que o carro não detectou eram negros.
Em essência, as pessoas com pele escura são mais propensas a serem atingidas por um carro que dirige sozinho. Esta é uma questão de vida ou morte quando pensamos no recente mercado de carros autônomos.
É extremamente sintomático refletir porque todos esses softwares estão tendo dificuldade em reconhecer negros como pessoas que jogam videogames, que precisam de sabão e que não podem ser atropeladas por carros autônomos! Quando os computadores só conseguem identificar uma certa porcentagem das pessoas que os usam, isso vai além de ser apenas um vídeo viral ou teoria da conspiração e se torna um problema que precisa ser resolvido.
Fonte:https://medium.com/predict/the-racist-autonomous-driving-car-and-the-dangers-of-bias-in-artificial-intelligence-9bfca178e658
Como diminuir esses vieses racistas de dentro para fora?
Podemos pensar em duas causas de viés racial na tecnologia: o viés de dados e o viés do criador.
No caso do viés de dados, o problema parte justamente dos conjuntos de informações usados ​​para treinar softwares poluídos com preconceitos e suposições. Esses preconceitos são aprendidos e memorizados por instruções que devem ser seguidas ou executadas.
Quando pensamento pelo viés do criador estamos falando daqueles que projetam e desenvolvem o software e, que não se preocupam com todos os usuários finais. Por exemplo, um engenheiro branco escrevendo algoritmos que se concentram apenas em pessoas como ele, ou UX's Designers que só realizam testes de usuários em pessoas parecidas.
Como evitar ou minimizar esse problema?
Eu costumo fazer a seguinte pergunta em algumas falas que é: se a tecnologia está se tornando centrada no ser humano, como o "ser humano" está sendo definido? Se pessoas negras não são consideradas "humanas" por séculos!
Não importa o assunto ou a experiência, se a lente da análise reduz a humanidade de um povo ou erradica sua perspectiva, isso reflete o viés de seu criador.
Portanto, ao marginalizar a experiência negra, é inevitável que a tecnologia desenvolva a capacidade de se conscientizar e lidar com sistemas opressivos.
Nós não temos mais tempo para dizer que a diversidade é importante, nós precisamos colocá-la em prática e ela pode começar por você!
1. Tenha uma equipe diversa
Certifique-se de que as equipes de engenharia, desenvolvedores, designers, PM'S, PO's entre outros cargos, sejam racialmente diversas. Isso trará pensamentos e discussões de diferentes olhares.
2. Quem são os seus usuários?
Certifique-se de que aqueles que realizam testes de usuário tenham diversas amostras, a fim de limitar o erro de cobertura.
3. Crie seu software, aplicativo, solução com conjuntos de dados que são racialmente diversos
Não use apenas conjuntos de dados que consistem em apenas faces brancas, personas brancas, testes com pessoas brancas.
4. Se você é UX, Product, Research ou atua diretamente com o produto, avalie todo o seu processo de trabalho
E identifique onde a exclusão de pessoas diversas acontece. Leve a discussão para o seu time, você também é responsável por isso.
5. Reconheça o viés
Quebre o ciclo. Reconheça o preconceito quando isso ocorre. Discuta isso de um lugar de compreensão e boas intenções. Aprenda com isso.
6. Tenha intenção real de incluir
Intenção sozinha não pode mudar o equilíbrio. A inclusão é intencional.
7. O poder de ouvir
A melhor coisa que os líderes podem fazer é ouvir desde o início e demonstrar um viés de ação baseado no feedback.
8. Educar e capacitar sua equipe
Se você estivesse entrando em um novo mercado ou lançando um novo produto, você faria sua lição de casa primeiro. O trabalho de diversidade e inclusão não é diferente. Há ótimos livros, treinamentos e consultores trabalhando neste espaço.
5. Liderando pelo exemplo
Para realmente alterar o panorama de uma organização, os líderes devem se envolver proativamente e ser líderes em iniciativas de diversidade e inclusão.
6. Oportunidades iguais
Certifique-se de que todas as suas descrições de trabalho mencionam que você é um empregador de oportunidades iguais… e se esforce para se tornar um. Estudos mostram que os grupos marginalizados são mais propensos a se candidatar a um emprego que faz uma declaração sobre a organização que mostra que ela valoriza a diversidade.
Como a diversidade mudou o escopo de algumas empresas
Diversidade no local de trabalho significa que uma empresa emprega uma ampla variedade de indivíduos. Em outras palavras, uma força de trabalho diversificada inclui pessoas com características diferentes, pessoas de diferentes gêneros, idade, religião, raça, etnia, origem cultural, orientação sexual, religião, idiomas, educação, habilidades , etc.
Em 2018, o Pinterest alcançou duas de suas três metas de contratação. Especificamente:
A primeira era aumentar as taxas de contratação para pessoas de origens étnicas sub-representadas em funções não relacionadas à engenharia para 12%. Superaram essa meta e atingiram 14%.
A segunda era aumentar as taxas de contratação de engenheiros de origens étnicas sub-representadas para 8%. Atingiram 7%, o que é melhor que no ano de 2017, mas ainda curto.
Havia também o objetivo de aumentar as taxas de contratação de engenheiras em período integral para 25%. Atingiram essa meta em 25%.
Além disso, a representação de mulheres aumentou na empresa em geral e em tecnologia. As mulheres agora compõem 47% da empresa (contra 45% no ano passado) e 30% das pessoas que trabalham em tecnologia são mulheres (contra 29% no ano de 2017).
Fonte: https://newsroom.pinterest.com/en/post/building-a-more-diverse-pinterest
A cultura corporativa que valoriza não apenas a diversidade no sentido tradicional, demográfico, mas também a igualdade de oportunidades para todos os membros da equipe chegará ao sucesso.
A diversidade é sobre a diferença que as pessoas trazem e a inclusão é sobre garantir que seja criada uma cultura que aproveite essa diferença e traga o melhor de cada indivíduo. — Charlotte Sweeney
Aaaaaah Karen, mas diversidade não gera lucro, nem traz benefícios para a empresa
Será mesmo? Vamos aos fatos! Um relatório da McKinsey de 2015 com 366 empresas públicas constatou que aquelas no primeiro quartil prezaram pela diversidade étnica e racial na gestão tinham 35% mais chances de ter retornos financeiros acima da média do setor, e aquelas no quartil superior para diversidade de gênero eram 15% mais propensas ter retornos acima da média da indústria.
Em uma análise global de 2.400 empresas conduzida pelo Credit Suisse, organizações com pelo menos uma integrante feminina do conselho geraram maior retorno sobre o patrimônio líquido e maior crescimento do lucro líquido do que aquelas que não tinham nenhuma mulher no conselho.
Nos últimos anos, um corpo de pesquisa revelou outro benefício, mais nuançado, da diversidade do local de trabalho: equipes não homogêneas são simplesmente mais inteligentes. Trabalhar com pessoas que são diferentes de você pode desafiar seu cérebro a superar seus modos antigos de pensar e aguçar seu desempenho.
Em outro estudo , publicado na Economic Geography, mostra o resultado de 7.615 empresas que participaram da Pesquisa Anual de Negócios de Londres, sobre o desempenho de suas empresas. Os resultados revelaram que os negócios geridos por equipes de liderança culturalmente diversificadas eram mais propensos a desenvolver novos produtos do que aqueles com liderança homogênea.
Uma pesquisa realizada em 2013 pelo Center for Talent Innovation , descobriu que 48 por cento das empresas nos EUA com mais diversidade no nível de gerenciamento sênior melhoraram sua participação de mercado no ano anterior. Embora você possa se sentir mais à vontade trabalhando com pessoas que compartilham seu histórico, não se deixe enganar pelo seu conforto.
Contratar pessoas que não olham, falam ou pensam como você pode permitir que você evite as dispendiosas armadilhas da conformidade, o que desestimula o pensamento inovador.
Resumindo, enriquecer sua equipe de funcionários com representantes de diferentes gêneros, raças e nacionalidades é fundamental para impulsionar o potencial intelectual conjunto de sua empresa.
A criação de um local de trabalho mais diversificado ajudará a manter os preconceitos de seus membros de equipe sob controle e os fará questionar suas suposições. Ao mesmo tempo, precisamos garantir que a organização tenha práticas inclusivas para que todos sintam que podem ser ouvidos.
Tudo isso pode tornar suas equipes mais inteligentes e, em última análise, tornar sua organização mais bem-sucedida, independentemente de seus objetivos.
Todos conhecemos as estatísticas sobre como equipes diversificadas são mais inteligentes e como elas apresentam um desempenho melhor, mas o que muitas vezes não estamos dispostos a admitir é que a criação de uma equipe diversificada exige muito trabalho. Ainda mais quando não parece uma prioridade.
Mas não temos mais tempo para apenas concordar que a diversidade não existe e que não somos enviesados racialmente, precisamos mudar esse cenário, cada um pode contribuir e talvez no seu trabalho esse movimento possa começar por você, e ai bora?
Product Designer no PicPay. CEO da comunidade Ux para Minas Pretas, Owner da Neegrow. Coordena, desenvolve e atua em iniciativas voltadas ao Design, Tecnologia e Feminismo/Movimento Negro. Já desenvolveu projetos para Ministério Público do Trabalho, ONU Mulheres, Disney, Nickelodeon, Cartoon Network, GPA, Discovery Kids, Globo, BBI entre outros.