Carta Aberta | Regulação de Inteligência Artificial: um tema transversal que exige debate multissetorial e interdisciplinar - Coalizão Direitos na Rede
Carta Aberta | Regulação de Inteligência Artificial: um tema transversal que exige debate multissetorial e interdisciplinar
Comissão de Juristas do Senado é bem-vinda, mas carece de diversidade.
Como ela pode ajudar a fomentar esse debate no país?
Exmo. Sr. Presidente Rodrigo Pacheco:
Exmo. Sr. Presidente da Comissão, Min. Ricardo Villas Bôas Cueva:
Exmo. Sr. Relator do Projeto de Lei, Sen. Eduardo Gomes:
As entidades abaixo assinadas, reunidas na condição de membros da Coalizão Direitos na Rede (CDR) – coletivo que reúne 51 entidades da sociedade civil e organizações acadêmicas que trabalham em defesa dos direitos digitais, valorizam a iniciativa do Senado Federal ao criar a Comissão de Juristas para propor substitutivo aos Projetos de Lei 5.051/2019, 21/2020 e 872/2021, referentes ao marco legal para o uso da inteligência artificial (IA) no Brasil. Inteligência Artificial é um tema que afeta toda a sociedade em múltiplas facetas, e o debate sobre sua regulação deve se dar com tempo, cuidado e ampla participação.
A Comissão de Juristas será um espaço importante para o debate sobre a complexidade da regulação da inteligência artificial no Brasil e entendemos como um importante passo para ampliar essa discussão. Contudo, a Coalizão Direitos na Rede vem a público manifestar sua preocupação com a composição final desta Comissão no que tange à representatividade de seus membros.
A tarefa delegada pelo Senado Federal à Comissão é extremamente desafiante. Cada vez mais jurisdições reconhecem como tecnologias de inteligência artificial podem reforçar ou criar formas de discriminação baseadas em raça, gênero, orientação sexual, classe social e ideologia, para citar apenas alguns exemplos. Por essa razão, jurisdições em todo o mundo têm debatido formas de regular sistemas de inteligência artificial por conta dos riscos que essa tecnologia apresenta à sociedade, especialmente a grupos historicamente vulnerabilizados.
Por esse motivo, um projeto de lei que busque oferecer respostas regulatórias adequadas deve englobar visões que contemplem a particularidade dos grupos mais afetados por seu funcionamento. Isso passa, necessariamente, pela inclusão de representantes desses grupos no processo de desenho da futura lei. Contudo, a Comissão criada não apenas é marcada pela ausência de juristas negras e negros ou indígenas, como também não leva em conta a representatividade regional ou a representatividade de interesses afetados pelos produtos envolvendo IA.
Importa lembrar, também, que o tema sob discussão não se reduz ao aspecto de governança de dados, apesar deste ser uma de suas facetas. Pensar em soluções para questões como opacidade algorítmica, discriminação e a delimitação de níveis de risco para diferentes aplicações de IA são exemplos de temas cujo entendimento vai além do conhecimento estritamente jurídico, e que demanda abordagens interdisciplinares que também envolvam cientistas da computação, filósofos, cientistas sociais e outras especialidades.
Considerando já estar estabelecida a Comissão, o desenvolvimento de seus trabalhos deve levar em conta a pluralidade de interesses afetados pelo tema, construindo uma plataforma de debate e deliberação que reflita o mosaico social, político, e econômico que compõe nosso território. Invariavelmente, é necessário incluir juristas negras, negros e indígenas no debate, assim como garantir representatividade regional e de grupos sociais que já se debruçam, com grande experiência, sobre pautas e demandas de combate à discriminação contra minorias em matéria de inteligência artificial, e que não foram incluídos na Comissão.
Garantir as sugestões abaixo apontadas significará o compromisso do Senado Federal com a mitigação das injustiças oriundas da aplicação de técnicas de uma inteligência artificial alheia a valores éticos.
Por fim, a construção de tal regulação deve levar em conta processos históricos, que colocaram o Brasil na vanguarda da regulação participativa de tecnologias, como o ocorrido no Marco Civil da Internet, quando foram ouvidos diversos especialistas, de diversas áreas do conhecimento.
Solicitamos, assim:
1. À Presidência: que sejam prestigiados e nomeados novos membros para a referida Comissão, com juristas que atendam aos critérios de notório saber técnico-interdisciplinar e representatividade dos grupos aqui mencionados, o que inclui atenção à paridade de gênero, regional, racial e étnica;
2. Aos membros da Comissão:
Sejam consideradas as problemáticas levantadas nesta e noutras manifestações da CDR, com a implementação de medidas para ampliar o nível de participação como a criação de comitês temáticos de especialistas, audiências públicas – com prestígio de profissionais das diversas áreas, regiões, com paridade de gênero e raça e que discutem inteligência artificial e suas problemáticas;
Sejam criados grupos temáticos que garantam a participação de especialistas de outras áreas de conhecimento e que possuam profundo entendimento em aspectos técnicos e impactos sociais envolvendo sistemas de IA;
Sejam convocadas audiências públicas para permitir a participação multissetorial, interdisciplinar e representativa dos grupos diversos afetados por esse tema.
Com base no exposto, as entidades aqui subscritas se colocam, enquanto integrantes do coletivo Coalizão Direitos na Rede, à disposição para dialogar com esta Casa e esta Comissão de modo a garantir a elaboração de uma norma representativa e promotora de direitos.