O movimento ativista Black Lives Matter (em português, Vidas Negras Importam) trouxe à tona a discussão da prática do racismo pelas instituições públicas ou privadas, que, de forma indireta, promovem a exclusão ou o preconceito. Primeiramente, vamos definir alguns conceitos. O preconceito abarca uma miríade de discriminações que vão além da raça e envolvem gênero, local de origem, orientação sexual e classe social, entre outros aspectos. Sendo assim, o racismo é uma das muitas faces do preconceito.
Pensando em uma discriminação institucional, temos como exemplo aquela que faz com que em nossas empresas, segundo dados do IBGE (Instituto Brasileiro de Geografia e Estatística), mulheres recebam cerca de 20% menos do que os homens em condições similares.
Agora, vamos a uma discussão que avança no mercado de tecnologia: atualmente, uma das áreas mais populares da Inteligência Artificial é o Machine Learning ou Aprendizado de Máquina, cujo programa de computador aprende com a experiência captada a partir de padrões de dados históricos das organizações. E se nossos dados forem racistas, misóginos ou discriminatórios em relação à profissão ou residência? Nesse momento, entramos na seara dos algoritmos com vieses, ou seja, que possuem uma distorção sistemática.
O Compas, software amplamente utilizado em tribunais americanos para aplicação de sentenças, é um exemplo de sistema discriminatório. Um estudo independente realizado pela ONG Propublica revelou que, no sistema, os negros tinham o dobro de chances de serem classificados como possíveis reincidentes de crimes violentos em comparação aos brancos.
Da mesma forma, em 2014, a Amazon utilizou um algoritmo de seleção de currículos que priorizava candidatos do sexo masculino em detrimento do feminino. É muito comum também os birôs de crédito que têm utilizado dados de CEP ou profissão como fonte de dados para concessão de crédito. Esse viés leva a negativas de créditos para a população que reside em áreas consideradas periféricas, ou seja, uma tendência discriminatória.