Por que as crianças precisam de proteção especial contra a influência da IA | Netphones - Tudo sobre Smartphones
Por que as crianças precisam de proteção especial contra a influência da IA
Vosloo liderou a elaboração de um novo conjunto de diretrizes do Unicef ​​destinadas a ajudar governos e empresas a desenvolver políticas de IA que considerem as necessidades das crianças. Lançadas em 16 de setembro, as nove novas diretrizes são o resultado de várias consultas realizadas com legisladores, pesquisadores de desenvolvimento infantil, profissionais de IA e crianças em todo o mundo. Eles também levam em consideração a Convenção das Nações Unidas sobre os Direitos da Criança, um tratado de direitos humanos ratificado em 1989.
As diretrizes não pretendem ser mais um conjunto de princípios de IA, muitos dos quais já dizem as mesmas coisas. Em janeiro deste ano, uma revisão do Harvard Berkman Klein Center de 36 dos documentos mais proeminentes que orientam as estratégias de IA nacional e corporativa encontrou oito temas comuns – entre eles privacidade, segurança, justiça e explicabilidade.
Em vez disso, as diretrizes do Unicef ​​pretendem complementar esses temas existentes e adaptá-los às crianças. Por exemplo, os sistemas de IA não devem ser apenas explicáveis ​​- eles devem ser explicados às crianças. Eles também devem considerar as necessidades específicas de desenvolvimento das crianças. "As crianças têm direitos adicionais sobre os adultos", diz Vosloo. Eles também são estimados em pelo menos um terço dos usuários online. "Não estamos falando de um grupo minoritário aqui", ressalta.
Além de mitigar os danos da IA, o objetivo dos princípios é incentivar o desenvolvimento de sistemas de IA que possam melhorar o crescimento e o bem-estar das crianças. Se forem bem projetadas, por exemplo, as ferramentas de aprendizagem baseadas em IA demonstraram melhorar o pensamento crítico das crianças e as habilidades de resolução de problemas, e podem ser úteis para crianças com dificuldades de aprendizagem. Assistentes de IA emocional, embora relativamente incipientes, poderiam fornecer suporte de saúde mental e demonstraram melhorar as habilidades sociais de crianças autistas. O reconhecimento facial, usado com limitações cuidadosas, pode ajudar a identificar crianças que foram sequestradas ou traficadas.
As crianças também devem ser educadas sobre IA e incentivadas a participar de seu desenvolvimento. Não se trata apenas de protegê-los, diz Vosloo. Trata-se de capacitá-los e dar-lhes a agência para moldar seu futuro.
"Falando sobre grupos desfavorecidos, é claro que as crianças são as mais desfavorecidas."
A Unicef ​​não é a única a pensar no assunto. Um dia antes do lançamento dessas diretrizes, a Academia de Inteligência Artificial de Pequim (BAAI), uma organização apoiada pelo Ministério de Ciência e Tecnologia da China e pelo governo municipal de Pequim, divulgou um conjunto de princípios de IA também para crianças.
O anúncio ocorre um ano após a BAAI lançar os princípios de IA de Pequim, entendidos como os valores orientadores para o desenvolvimento nacional de IA da China. Os novos princípios delineados especificamente para crianças pretendem ser "uma implementação concreta" dos mais gerais, diz Yi Zeng, o diretor do Centro de Pesquisa de Ética e Desenvolvimento Sustentável da IA ​​do BAAI que conduziu sua elaboração. Eles se alinham intimamente com as diretrizes do Unicef, também tocando em privacidade, justiça, explicabilidade e bem-estar infantil, embora alguns dos detalhes sejam mais específicos para as preocupações da China. Uma diretriz para melhorar a saúde física das crianças, por exemplo, inclui o uso de IA para ajudar a combater a poluição ambiental.
Embora os dois esforços não estejam formalmente relacionados, o momento também não é coincidência. Após uma enxurrada de princípios de IA nos últimos anos, os dois redatores principais dizem que criar diretrizes mais personalizadas para crianças foi o próximo passo lógico. "Falando em grupos desfavorecidos, é claro que as crianças são os mais desfavorecidos", diz Zeng. "É por isso que realmente precisamos [to give] cuidado especial a este grupo de pessoas. " As equipes conferenciaram umas com as outras enquanto redigiam seus respectivos documentos. Quando o Unicef ​​realizou um workshop de consultoria no Leste Asiático, Zeng participou como palestrante.
O Unicef ​​agora planeja executar uma série de programas-piloto com vários países parceiros para observar o quão prático e eficaz são suas diretrizes em diferentes contextos. BAAI formou um grupo de trabalho com representantes de algumas das maiores empresas que impulsionam a estratégia nacional de IA do país, incluindo a empresa de tecnologia educacional TAL, a empresa de eletrônicos de consumo Xiaomi, a empresa de visão computacional Megvii e a gigante da Internet Baidu. A esperança é fazer com que eles comecem a seguir os princípios de seus produtos e influenciem outras empresas e organizações a fazer o mesmo.
Tanto Vosloo quanto Zeng esperam que, ao articular as preocupações únicas que a IA representa para as crianças, as diretrizes aumentem a conscientização sobre essas questões. "Entramos nisso com os olhos bem abertos", diz Vosloo. "Entendemos que este é um território novo para muitos governos e empresas. Portanto, se ao longo do tempo virmos mais exemplos de crianças sendo incluídas no ciclo de IA ou de desenvolvimento de políticas, mais cuidado com a forma como seus dados são coletados e analisados ​​- se virmos que a IA se torna mais explicável para as crianças ou seus responsáveis ​​- isso seria uma vitória para nós."