Inteligência Artificial Confiável – Considerações sobre privacidade e uso ético - Resh Cyber Defense
Parte 3 – Regulação nos Estados Unidos
Normas de Trustworthy AI, NIST e Presidência dos EUA, papel do governo federal no desenvolvimento de padrões de Inteligência Artificial
O berço das maiores empresas de tecnologia também está avançando nas regulações, com apoio do NIST, órgão reconhecido mundialmente pelas suas métricas e padronizações, o governo americano iniciou a estruturação dos pilares para o "Trustworthy AI", um sinônimo para Inteligência Artificial Confiável.
Conforme documento do NIST publicado em agosto/2019:
A liderança global dos Estados Unidos em IA depende do governo federal desempenhando um papel ativo e função orientada para fins no desenvolvimento de padrões de IA. Isso inclui esforços relacionados aos padrões de IA necessários para as instituições cumprirem suas missões por:
apoiar e conduzir pesquisa e desenvolvimento de IA,
envolver-se ativamente no desenvolvimento de padrões de IA,
aquisição e implantação de produtos e serviços baseados em padrões, e
desenvolver e implementar políticas de apoio, incluindo políticas regulatórias quando necessário.
O plano identifica as seguintes nove áreas de foco para os padrões de IA:
Teste de desempenho e metodologia de relatório
Os padrões de confiabilidade incluem orientação e requisitos de precisão, explicabilidade, resiliência, segurança, confiabilidade, objetividade e proteção.
Os padrões devem ser complementados por ferramentas relacionadas para promover o desenvolvimento e a adoção de tecnologias de IA eficazes, confiáveis, robustas e confiáveis. Essas ferramentas, que muitas vezes têm aplicativos sobrepostos, incluem, mas não se limitam a:
Conjuntos de dados em formatos padronizados, incluindo metadados para treinamento, validação e teste de sistemas de IA
Ferramentas para capturar e representar conhecimento e raciocínio em sistemas de IA
Casos de uso totalmente documentados que fornecem uma variedade de dados e informações sobre aplicativos específicos de tecnologias de IA e quaisquer padrões ou guias de práticas recomendadas usados na tomada de decisões sobre a implantação desses aplicativos
Metodologias de teste para validar e avaliar o desempenho das tecnologias de IA
Métricas para medir e caracterizar de forma quantificável as tecnologias de IA
Benchmarks, avaliações e problemas de desafio para impulsionar a inovação
Bancadas de teste de IA
Ferramentas para prestação de contas (accountability) e auditoria
As agências governamentais dos EUA devem priorizar o envolvimento nos esforços de padrões de IA que são: inclusivos e acessíveis, abertos e transparentes, baseados em consenso, globalmente relevantes e não discriminatórios. O plano agrupa o envolvimento potencial da agência NIST em quatro categorias classificadas do menos ao mais engajado: monitoramento, participação, influência e liderança. O plano fornece uma série de etapas práticas que as instituições devem seguir ao decidir sobre o envolvimento com os padrões de IA.
Especificamente, o governo dos EUA deve:
Reforçar o conhecimento relacionado aos padrões de IA, liderança e coordenação entre as agências federais para maximizar a eficácia e eficiência.
Promover pesquisas focadas para avançar e acelerar a exploração e compreensão mais amplas de como os aspectos de confiabilidade podem ser incorporados de forma prática nos padrões e ferramentas relacionadas.
Apoiar e expandir parcerias público-privadas para desenvolver e usar padrões de IA e ferramentas para promover IA estável, robusta e confiável.
Desenvolver iniciativas estratégicas com as demais entidades e países para promover os padrões de IA para as necessidades econômicas e de segurança nacional dos EUA.
O desenvolvimento de padrões para TI é parte integrante das tecnologias e sistemas de IA. A TI engloba todas as tecnologias de captura, armazenamento, recuperação, processamento, exibição, representação, segurança, privacidade e intercâmbio de dados e informações. Em todo o mundo, existem várias Organizações de Desenvolvimento de Padrões (Standard Development Organizations – SDOs) desenvolvendo padrões de TI usando diferentes modelos para atender às diversas necessidades de padronização. A rápida inovação em TI foi acompanhada pela competição entre SDOs em áreas de relevância de mercado (por exemplo, computação em nuvem, cibersegurança e Internet das Coisas). Isso encorajou os SDOs a simplificar seus processos de construção de consenso para desenvolver e aprovar padrões oportunos e tecnicamente sólidos que atendam às necessidades atuais do mercado.
Em 17/nov/2020 o escritório executivo da presidência dos EUA complementou a norma com um memorando, no qual entre outros pontos, destaca a necessidade de reduzir as barreiras à implantação e uso de IA.
Considerando maneiras de reduzir as barreiras ao uso de tecnologias de IA para promover sua aplicação inovadora enquanto protege as liberdades civis, a privacidade, os valores americanos e a economia dos Estados Unidos e segurança nacional.
Citando quatro exemplos de ações que as agências podem realizar, fora do processo de formulação de regras, para criar um ambiente que facilite o uso e a aceitação da IA:
Acesso a dados e modelos federais para P&D de IA
Comunicação com o público e mercado
Participação da Agência no Desenvolvimento e Uso de Padrões de Consenso Voluntário e Atividades de Avaliação de Conformidade
Cooperação Internacional para regulação
https://www.ai.gov/strategic-pillars/advancing-trustworthy-ai/#Guidance_for_the_Regulation_of_AI_in_the_Private_Sector
https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
https://www.nist.gov/topics/artificial-intelligence/plan-federal-engagement-developing-ai-technical-standards-and-related