As empresas americanas precisam se responsabilizar por algoritmos racistas – ou a FTC fará isso por eles – DIG|ME
As empresas americanas precisam se responsabilizar por algoritmos racistas – ou a FTC fará isso por eles
O regulador também alertou contra promessas exageradas sobre IA
A Comissão Federal de Comércio dos Estados Unidos emitiu um alerta severo às empresas que usam algoritmos sexistas e racistas: responsabilize-se – ou o regulador fará isso por você.
Uma postagem no blog oficial da advogada Elisa Jilson observou que a Lei FTC proíbe a venda ou o uso de algoritmos com preconceito racial.
Jilson acrescentou que é ilegal usar algoritmos tendenciosos que levam à discriminação de crédito com base em raça, cor, religião, nacionalidade, sexo, estado civil, idade ou porque uma pessoa recebe assistência pública.
É importante responsabilizar-se pelo desempenho do seu algoritmo. Nossas recomendações de transparência e independência podem ajudá-lo a fazer exatamente isso. Mas tenha em mente que, se você não se responsabilizar, a FTC pode fazer isso por você.
Jilson alertou expressamente as empresas para não exagerar o que seus algoritmos fazem e se eles entregam resultados justos. Aqueles que não podem fazer backup de suas alegações com evidências estão violando as regras da FTC.
" O resultado pode ser engano, discriminação – e uma ação policial da FTC", escreveu ela.
As regras podem afetar uma vasta gama de empresas, desde fabricantes de automóveis que exageram as capacidades dos veículos autônomos até empresas que contratam IA cujos algoritmos são construídos com dados que carecem de diversidade de gênero.
Ryan Calo, professor de direito da Universidade de Washington, disse que a postagem do blog sinaliza uma mudança na forma como a FTC está pensando em fazer cumprir as regras.
"A concretude dos exemplos, juntamente com referências repetidas à autoridade estatutária, é incomum", ele tuitou.
No entanto, ainda não está claro como o FTC avaliará os vieses algorítmicos .
No entanto, os avisos contundentes sobre a venda de sistemas de IA discriminatórios e promessas exageradas de suas capacidades sugerem que uma aplicação mais rígida é iminente.