Vivemos na era do algoritmo. Decisões que afetam diretamente nossas vidas – como onde estudaremos, quem contrataremos em nossas empresas e até quanto devemos pagar por um seguro de saúde - estão sendo tomadas por modelos matemáticos. Em “Algoritmos de destruição em massa”, a doutora em Matemática pela Universidade Harvard Cathy O’Neil alerta sobre os abismos sociais que serão criados caso não voltemos a atenção ao problema
Olhos e cabelos azuis, fala assertiva e dedos apontados para as grandes empresas de tecnologia. Essa é Cathy O’Neil, figura de destaque em O Dilema das Redes, documentário da Netflix lançado em setembro. No docudrama, especialistas analisam o papel das mídias sociais e seu impacto na sociedade. Para a ph.D. em matemática e cientista de dados, os efeitos negativos das redes recaem diretamente sobre as corporações que as viabilizam – leiam-se: Facebook, Google, Twitter, entre outras.
No mesmo mês, ativistas apontaram um erro grave no Twitter: uma ferramenta que faz cortes automáticos em imagens para destacar seus pontos mais importantes estaria privilegiando pessoas brancas. A descoberta aconteceu por acaso. Um usuário fez uma colagem com uma foto do senador republicano Mitch McConnell, que é branco, com outra do ex-presidente americano Barack Obama, negro. O algoritmo destacou McConnell como componente principal da imagem e removeu Obama. Em resposta aos testes – que compararam dezenas de imagens de personalidades brancas com outras pretas e não brancas –, o diretor de design do Twitter, Dantley Davis, admitiu: “É 100% nossa culpa. Ninguém deve dizer o contrário. Agora, a próxima etapa é consertar isso”.