Máquina diz identidade racial de pacientes ao ler raio-x
Um médico, ainda que experiente, não pode dizer se um paciente é negro, asiático ou branco apenas olhando suas imagens de raios-X. Mas um computador pode? De acordo com um novo estudo de uma equipe internacional de cientistas, incluindo pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) e da Faculdade de Medicina de Harvard, a resposta é sim.
O estudo, publicado no The Lancet Digital Health, descobriu que um programa de IA (Inteligência Artificial) treinado para ler raios-X e tomografias computadorizadas poderia identificar a raça de uma pessoa com 90% de precisão, mesmo sem dados adicionais sobre o paciente. Só tem um problema: os cientistas que conduziram o estudo dizem que não têm ideia de como o computador descobre isso.
A pesquisa treinou uma inteligência artificial com centenas de milhares de imagens médicas existentes rotuladas com detalhes da raça do paciente. Depois, testou a IA com radiografias que o programa não havia visto.
"Nosso objetivo era realizar uma avaliação abrangente da capacidade da IA de reconhecer a identidade racial de um paciente a partir desse tipo de imagem", escrevem os pesquisadores em seu artigo publicado.
As imagens usadas nos testes vieram de diferentes partes do corpo, incluindo o peitoral, a mão e a coluna, e não continham marcadores de identidade racial, como cor da pele ou textura do cabelo.
Descoberta da leitura por IA nasceu por acaso
De acordo com declaração dada ao jornal americano Boston Globe, o esforço de pesquisa nasceu quando os cientistas notaram que um programa de IA usado para examinar radiografias de tórax apresentava uma tendência de perder sinais de doença em pacientes negros.
"Nós nos perguntamos como isso pode acontecer se os computadores não podem dizer qual a raça de uma pessoa?", afirmou Leo Anthony Celi, co-autor do estudo e professor associado da Faculdade de Medicina de Harvard.
No momento, os cientistas não sabem ao certo por que o sistema de IA consegue identificar raças com tanta precisão a partir de imagens que não contêm essas informações.
Mesmo em imagens com informações mais limitadas, sem pistas sobre a densidade óssea, por exemplo, ou focando em uma pequena parte do corpo, o computador ainda teve um desempenho surpreendentemente bom.
Entre as hipóteses, os pesquisadores sugerem que é possível que o sistema esteja encontrando sinais de melanina, o pigmento que dá cor à pele.
Inteligência artificial pode ser racista?
As descobertas levantam algumas questões preocupantes sobre o papel de IA no diagnóstico, avaliação e tratamento médicos.
Cientistas temem que o preconceito racial dos seres humanos seja aplicado involuntariamente por softwares de computador ao estudar imagens como essas.
Por sua própria natureza, a IA imita o pensamento humano para identificar rapidamente padrões nos dados. No entanto, isso também significa que ela pode sucumbir involuntariamente aos mesmos tipos de preconceitos, sejam eles de raça, gênero, entre outros.
Para os pesquisadores, isso levanta um sinal de alerta. A preocupação é que, com o aumento do uso de IAs para auxiliar na medicina por conta do enorme potencial de análise de dados dos programas, os resultados levem a diagnósticos distorcidos, provocados por equívocos ligados a preconceitos raciais ou de gênero.
"Precisamos fazer uma pausa", disse Leo Anthony Celi, ao Boston Globe. "Não podemos nos apressar em levar os algoritmos para hospitais e clínicas até termos certeza de que eles não estão tomando decisões racistas ou sexistas."