Inteligência Artificial, princípios e recomendações da OCDE - Migalhas
A Organização para a Cooperação e Desenvolvimento Econômico (OCDE) é uma organização internacional vocacionada ao design de políticas globais para melhorar globalmente o bem-estar econômico e social das pessoas. Considerando, pois, que a Inteligência Artificial (IA) proporciona implicações pelo mundo, transformações sociais e econômicas, bem como detém potencial para contribuir positivamente com a atividade econômica, inovação e produtividade. A OCDE elaborou "Recommendation of the Council on Artificial Intelligence", a fim de que membros e aderentes promovam e implementem seu conteúdo para promover confiança pública e benefícios a todas as partes interessadas.
O documento apresenta diretrizes, cinco princípios e cinco recomendações, visando fixar padrões internacionais aptos a garantir que os sistemas de IA, em todas as fases dos seus ciclos de vida, serão robustos, seguros, justos e confiáveis. A finalidade precípua é orientar governos, organizações e outros atores no design e na execução de sistemas de IA assegurando a centralidade na pessoa humana, junto com regime de responsabilidade adequado. Espera-se, dessa forma, que os benefícios proporcionados por essa nova tecnologia estejam disponíveis amplamente à sociedade.
Internacionalmente, mais de quatro dezenas de países já aderiram a essas diretrizes. Além disso, o G20, em junho de 2019, adotou princípios para IA centrada no ser humano, baseados no documento elaborado pela OCDE, reconhecendo a necessidade de concretizar objetivos comuns para o crescimento econômico global.
No Brasil, a consulta pública aberta no início de 2020 pelo Ministério da Ciência e Tecnologia informou que a estruturação da estratégia de IA no país atravessaria a adoção das diretrizes das OCDE. O projeto de lei 21/20, da mesma forma, menciona explicitamente as diretrizes da OCDE para o desenvolvimento dessa nova tecnologia. A justificativa explica que a aderência do Brasil ao documento em maio de 2019 torna, segundo o seu autor, "apropriada a edição de legislação sobre a matéria".
Os princípios complementares aplicáveis a todas as partes interessadas são:
1. Crescimento inclusivo, desenvolvimento sustentável e bem-estar: benefícios que devem ser proporcionados às pessoas humanas e ao planeta. O documento menciona rol exemplificativo, incluindo as finalidades de aumentar as capacidades humanas, promover criatividade e inclusão de populações sub-representadas, reduzir desigualdades (econômicas, sociais e de gênero) e proteger o meio-ambiente.
2. Valores centrados no ser humano e equidade: obrigação de respeito aos direitos fundamentais e humanos, valores democráticos, Estado de Direito e diversidade.
Pretende-se garantir a supervisão e/ou intervenção humana, sempre que necessário, em algum momento da disponibilização subsequente de produtos e serviços (validação simultânea ou posterior, desligamento durante o funcionamento e restrição das capacidades operacionais em determinadas circunstâncias).
Importa sublinhar que em documentos dessa natureza os direitos que se buscam proteger se relacionam a riscos potenciais das novas tecnologias. Nesse caso, o rol de direitos que o documento explicita liga-se a três principais riscos que podem ser causados pelos sistemas de IA: violação da vida privada (privacidade e proteção de dados), vieses que importem em discriminações proibidas (não discriminação, equidade, diversidade e justiça) e redução dos postos de trabalho (direitos trabalhistas internacionalmente reconhecidos).
3. Transparência e explicabilidade: a transparência relaciona-se ao fornecimento de informações significativas que permitam aos usuários entenderem quando estão tratando com sistemas de IA e não com seres humanos. A explicabilidade destina-se a mitigar o risco da opacidade, isto é, a dificuldade de auditar e/ou conferir o processo de tomada de decisão, previsão ou recomendação realizado por sistemas de IA relacionando-se, igualmente, a eventuais obstáculos de compreensão, na perspectiva de usuários humanos.
Uma vez atendido esse princípio, é possível as autoridades verificar diante de caso concreto a legislação e o regime de responsabilidade aplicáveis aos resultados provocados por decisões envolvendo IA. Aos usuários adversamente afetados permite-se o questionamento judicial dos resultados gerados pelos sistemas de IA em informações claras e fáceis.
4. Robustez, segurança e proteção: exigência de gestão e avaliação dos riscos dos sistemas de IA durante toda a sua vida útil, de forma que funcionem segundo o planejamento prévio, sem externar riscos de segurança irracionais. Assim, se torna viável a investigação do conjunto de dados utilizados no treinamento e funcionamento, de processos e decisões tomadas pela IA.
5. "Accountability": os atores engajados no desenvolvimento de sistemas de IA devem ser responsabilizados de acordo com, no mínimo, esses princípios.
Esse é um desafio para os Estados nacionais, no que toca a atribuição de regime de responsabilidade para atores, aplicações e sistemas tão diversificados entre si. Mais uma vez, essa discussão precisa orientar-se pela cautela inerente a análise do quadro legal e regulamentar existente atualmente diante dos novos desafios e pelo reconhecimento da rapidez com que essa tecnologia evolui, a qual não consegue ser acompanhada pela produção normativa ou atividade regulatória.
Em harmonia com esses princípios, a OCDE elaborou cinco recomendações aos países membros e aqueles que aderiram ao documento. Estas são focadas nas políticas nacionais e na cooperação internacional, elaborando objetivos estratégicos que podem ser adotados pelos atores estatais:
1. Investir em pesquisa e desenvolvimento de IA: facilitar o investimento público e privado, de modo a estimular a inovação em questões técnicas desafiadoras e conjuntos de dados representativos;
2. Promover ecossistema digital para IA: organizar mecanismos de compartilhamento seguro, justo, legal e ético de dados e conhecimento, com infraestrutura e tecnologias digitais acessíveis;
3. Organizar ambiente político favorável à IA: apoiar a transição ágil do estágio de P&D para implementação e operação de sistemas de IA revisando, quando apropriado, normas, regulamentos e mecanismos para checagem de conformidade;
4. Fortalecer a capacidade humana e preparar as pessoas para a transformação do mercado de trabalho: capacitar as pessoas para o uso e a interação com sistemas de IA organizando programas de treinamento profissional;
5. Cooperação internacional para IA confiável: governos e partes interessadas devem cooperar ativamente para promover princípios, compartilhamento de conhecimento e desenvolvimento de padrões.
Apesar de não vincularem juridicamente os países membros da OCDE e os aderentes ao documento, os princípios e as recomendações fornecem perspectivas a respeito de legislações e regulamentos nacionais que estão em fase de discussão ou elaboração. A relevância, portanto, de abordar detalhadamente esse agrupamento se associa ao fato dessas diretrizes se tornarem padrões internacionais, isto é, referência para todas as partes interessadas, formado pelo conteúdo mínimo a fim de assegurar que se desenvolvam sistemas de IA confiáveis.