La ONU alerta del riesgo de que la IA esté en manos de unas pocas multinacionales
IBM
António Guterres Guterres Institute for Business Value El País PAI IBM CEP NYSE ONU Secretaría de las Naciones Unidas IA
ORG
ONU
MISC
IA
La ONU alerta del riesgo de que la IA esté en manos de unas pocas multinacionales
MISC
IA
ORG
ONU
PER
António Guterres
MISC
IA
ORG
High Level Advisory Body on Artificial Intelligence
ORG
HLAB-AI
“Para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan. Pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar y, sin entrar a considerar posibles escenarios catastróficos, ya ha quedado claro que el uso malintencionado de la inteligencia artificial (IA) puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”. El secretario general de la ONU, António Guterres, argumentaba así la necesidad de crear un órgano consultivo sobre la IA el pasado año: el High Level Advisory Body on Artificial Intelligence (HLAB-AI) u órgano asesor de alto nivel en inteligencia artificial. Esta entidad, formada por 39
MISC
IA
MISC
IA
PER
Guterres
alto nivel en inteligencia artificial. Esta entidad, formada por 39 líderes destacados de la IA de 33 países, ha publicado este jueves las siete medidas fundamentales (Final report) para asegurar un desarrollo de la IA inclusivo y que, en palabras de Guterres, “beneficie a toda la humanidad” y evite los riesgos.
ORG
HLAB-AI
MISC
IA
MISC
IA
MISC
IA
LOC
Canadá
LOC
Francia
LOC
Alemania
LOC
Italia
LOC
Japón
LOC
Reino Unido
LOC
Estados Unidos
LOC
Sur Global
En el informe final del HLAB-AI, difundido hoy y titulado Gobernar la IA para la humanidad, han participado más de 2.000 personas que ya hicieron un trabajo preliminar para hacer un llamamiento a establecer una arquitectura global cooperativa e inclusiva de la IA con el fin de “fomentar el desarrollo y la protección de todos los derechos humanos”.
El órgano asesor lamenta la ausencia de “un marco global que rija la IA” y la falta de compromiso de los Estados miembros; solo siete son parte de todas las iniciativas (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos) y “118 están desaparecidos por completo, principalmente en el Sur Global”, según detalla el texto final.
MISC
IA
ORG
HLAB-AI
“Con su desarrollo en manos de unas pocas empresas multinacionales en unos pocos países, los impactos de la implementación de la IA corren el riesgo de imponerse a la mayoría de las personas sin que tengan voz en las decisiones para hacerlo”, advierte el HLAB-AI en su informe.
Para evitarlo, el organismo propone siete medidas que considera “ágiles, adaptables y eficaces”:
MISC
IA
MISC
Estados
MISC
IA
Panel científico internacional. El objetivo de esta entidad será “proporcionar conocimientos científicos imparciales y confiables sobre la IA”. Su misión será ayudar a los Estados miembros a desarrollar una visión compartida de la nueva herramienta y abordar las asimetrías de información entre los laboratorios y el resto del mundo. El panel elaborará informes anuales sobre las capacidades, los riesgos y las tendencias de la IA, junto con informes específicos sobre los riesgos emergentes.
MISC
IA
Diálogo político. Esta medida convocará reuniones intergubernamentales y de múltiples partes interesadas, como tecnológicas, usuarios y entidades nacionales, para fomentar un terreno común regulatorio que garantice los derechos humanos.
IA internacional. El órgano propone la conexión de representantes de organizaciones regulatorias, empresas tecnológicas y la sociedad civil para garantizar la interoperabilidad técnica de los sistemas de IA a través de las fronteras.
Beneficios comunes. Una red mundial impulsará mediante formación, recursos y datos, el acceso a los desarrollos de investigadores y emprendedores sociales.
Fondo mundial. Será el encargado de abordar las deficiencias en materia de capacidad y colaboración.
MISC
IA
ORG
Agencia de la IA
ORG
IA
ORG
Secretaría de las Naciones Unidas
Marco mundial de datos. Pretende normalizar las definiciones, los principios y la administración de los datos, garantizando la transparencia y la rendición de cuentas en los sistemas de IA.
Agencia de la IA. El informe propone la creación de una pequeña oficina de IA, dentro de la Secretaría de las Naciones Unidas, para apoyar y coordinar la implementación de estas propuestas.
ORG
ONU
ORG
Institute for Business Value
ORG
IBM
ORG
NYSE
ORG
IBM
Algunas entidades del ámbito de la empresa coinciden con los criterios de la ONU. Un estudio del Institute for Business Value de IBM (NYSE:IBM) considera “urgente contar con un nuevo tipo de liderazgo tecnológico en la era de la IA generativa”. Una encuesta con 2.500 directivos internacionales desvela que las herramientas más avanzadas determinarán la mayor ventaja competitiva, según el 72% de los consultados. También para la mayoría (80%), “la transparencia en el uso que su organización hace de las tecnologías de nueva generación, como la IA generativa, es fundamental para fomentar la confianza”.
PER
Hildegunn Kyvik Nordås
ORG
Universidad de Örebro
LOC
Suecia
ORG
Instituto Noruego de Asuntos Internacionales
ORG
ONU.
MISC
IA
ORG
Consejo de Políticas Económicas
ORG
CEP
ORG
.
Hildegunn Kyvik Nordås, profesora en la Universidad de Örebro (Suecia) e investigadora del Instituto Noruego de Asuntos Internacionales, también coincide con el planteamiento de la ONU. “Las asombrosas capacidades de las aplicaciones de IA han suscitado profundas preocupaciones sobre el futuro del trabajo, la democracia e incluso la humanidad misma, así como un sentido de urgencia para establecer una gobernanza eficaz en todos los niveles y casos de uso. También ha inspirado visiones de un futuro brillante en el que la prosperidad, la buena salud y un medio ambiente limpio son la norma”, advierte en una publicación del Consejo de Políticas Económicas (CEP) tras el trabajo previo al informe final.
ORG
,
ORG
CEP
MISC
Inteligencia Artificial General
PER
Kyvik Nordås
ORG
ONU
Ante este escenario, la integrante del CEP, una organización no partidista sin ánimo de lucro, advierte sobre los desarrollos hacia “aplicaciones capaces de autoaprender y realizar tareas más allá de lo que fueron entrenadas inicialmente”, unas habilidades conocidas como Inteligencia Artificial General. Kyvik Nordås admite que están, “probablemente a décadas de distancia y muchos dudan si alguna vez se desarrollará”, pero la investigadora considera que “tiene sentido que las agencias especiales de la ONU elaboren sistemas de gobernanza global dentro de sus campos”.
ORG
Partnership on AI
ORG
PAI
MISC
IA
PER
Jiyoo Chang
ORG
HLAB-AI
ORG
El País
La organización Partnership on AI (PAI) es también una asociación sin ánimo de lucro formada por organizaciones académicas, de la sociedad civil, de la industria y de los medios de comunicación que crean soluciones para que la IA promueva resultados positivos para las personas y la sociedad. Su investigadora Jiyoo Chang comparte el sentido del trabajo del HLAB-AI, pero advierte: “El rápido avance del desarrollo y la adopción de la inteligencia artificial, exige de forma urgente la traducción de los principios en una guía de actuación práctica. Esto requiere acción colectiva y coordinación”.: El País
ONU António Guterres High Level Advisory Body on Artificial Intelligence HLAB-AI Guterres Canadá Francia Alemania Italia Japón Reino Unido Estados Unidos Sur Global Agencia de la IA IA Secretaría de las Naciones Unidas Institute for Business Value IBM NYSE Hildegunn Kyvik Nordås Universidad de Örebro Suecia Instituto Noruego de Asuntos Internacionales ONU. Consejo de Políticas Económicas CEP . , Kyvik Nordås Partnership on AI PAI Jiyoo Chang El País
inteligencia artificial riesgos emergentes órgano asesor informes específicos el desarrollo derechos humanos sistemas entidades nacionales sociedad civil ánimo aplicaciones transparencia empresas multinacionales tecnologías obsoletas capacidades datos humanidad agencias especiales las personas transformación positiva las herramientas posibles escenarios catastróficos los principios organizaciones académicas la confianza miembros trabajo preliminar cohesión social países medidas fundamentales la mayoría llamamiento planteamiento visiones prosperidad deficiencias desarrollos sentido marco mundial traducción arquitectura global definiciones adopción panel criterios economías impactos guía naciones unidas tendencias consejo profundas preocupaciones emprendedores sociales habilidades encuesta conocimientos científicos imparciales campos la norma conexión iniciativas liderazgo tecnológico urgencia misión coordinación implementación la ausencia visión compartida soluciones pequeña oficina reuniones líderes destacados ventaja competitiva terreno común fuente ámbito generación el texto cuentas décadas rápido avance democracia beneficios comunes ambiente limpio la creación las decisiones fondo mundial representantes niveles industria publicación tareas administración estudio instituciones múltiples partes interesadas palabras el organismo una organización acción colectiva la necesidad el resto secretario general compromiso recursos resultados positivos medios la posibilidad casos alto nivel información
La ONU alerta del riesgo de que la IA esté en manos de unas pocas multinacionales
“Para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan. Pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar y, sin entrar a considerar posibles escenarios catastróficos, ya ha quedado claro que el uso malintencionado de la inteligencia artificial (IA) puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”. El secretario general de la ONU, António Guterres, argumentaba así la necesidad de crear un órgano consultivo sobre la IA el pasado año: el High Level Advisory Body on Artificial Intelligence (HLAB-AI) u órgano asesor de alto nivel en inteligencia artificial. Esta entidad, formada por 39 líderes destacados de la IA de 33 países, ha publicado este jueves las siete medidas fundamentales (Final report) para asegurar un desarrollo de la IA inclusivo y que, en palabras de Guterres, “beneficie a toda la humanidad” y evite los riesgos.

En el informe final del HLAB-AI, difundido hoy y titulado Gobernar la IA para la humanidad, han participado más de 2.000 personas que ya hicieron un trabajo preliminar para hacer un llamamiento a establecer una arquitectura global cooperativa e inclusiva de la IA con el fin de “fomentar el desarrollo y la protección de todos los derechos humanos”.

El órgano asesor lamenta la ausencia de “un marco global que rija la IA” y la falta de compromiso de los Estados miembros; solo siete son parte de todas las iniciativas (Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos) y “118 están desaparecidos por completo, principalmente en el Sur Global”, según detalla el texto final.

“Con su desarrollo en manos de unas pocas empresas multinacionales en unos pocos países, los impactos de la implementación de la IA corren el riesgo de imponerse a la mayoría de las personas sin que tengan voz en las decisiones para hacerlo”, advierte el HLAB-AI en su informe.

Para evitarlo, el organismo propone siete medidas que considera “ágiles, adaptables y eficaces”:

Panel científico internacional. El objetivo de esta entidad será “proporcionar conocimientos científicos imparciales y confiables sobre la IA”. Su misión será ayudar a los Estados miembros a desarrollar una visión compartida de la nueva herramienta y abordar las asimetrías de información entre los laboratorios y el resto del mundo. El panel elaborará informes anuales sobre las capacidades, los riesgos y las tendencias de la IA, junto con informes específicos sobre los riesgos emergentes.

Diálogo político. Esta medida convocará reuniones intergubernamentales y de múltiples partes interesadas, como tecnológicas, usuarios y entidades nacionales, para fomentar un terreno común regulatorio que garantice los derechos humanos.

IA internacional. El órgano propone la conexión de representantes de organizaciones regulatorias, empresas tecnológicas y la sociedad civil para garantizar la interoperabilidad técnica de los sistemas de IA a través de las fronteras.

Beneficios comunes. Una red mundial impulsará mediante formación, recursos y datos, el acceso a los desarrollos de investigadores y emprendedores sociales.

Fondo mundial. Será el encargado de abordar las deficiencias en materia de capacidad y colaboración.

Marco mundial de datos. Pretende normalizar las definiciones, los principios y la administración de los datos, garantizando la transparencia y la rendición de cuentas en los sistemas de IA.

Agencia de la IA. El informe propone la creación de una pequeña oficina de IA, dentro de la Secretaría de las Naciones Unidas, para apoyar y coordinar la implementación de estas propuestas.

Algunas entidades del ámbito de la empresa coinciden con los criterios de la ONU. Un estudio del Institute for Business Value de IBM (NYSE:IBM) considera “urgente contar con un nuevo tipo de liderazgo tecnológico en la era de la IA generativa”. Una encuesta con 2.500 directivos internacionales desvela que las herramientas más avanzadas determinarán la mayor ventaja competitiva, según el 72% de los consultados. También para la mayoría (80%), “la transparencia en el uso que su organización hace de las tecnologías de nueva generación, como la IA generativa, es fundamental para fomentar la confianza”.

Hildegunn Kyvik Nordås, profesora en la Universidad de Örebro (Suecia) e investigadora del Instituto Noruego de Asuntos Internacionales, también coincide con el planteamiento de la ONU. “Las asombrosas capacidades de las aplicaciones de IA han suscitado profundas preocupaciones sobre el futuro del trabajo, la democracia e incluso la humanidad misma, así como un sentido de urgencia para establecer una gobernanza eficaz en todos los niveles y casos de uso. También ha inspirado visiones de un futuro brillante en el que la prosperidad, la buena salud y un medio ambiente limpio son la norma”, advierte en una publicación del Consejo de Políticas Económicas (CEP) tras el trabajo previo al informe final.

Ante este escenario, la integrante del CEP, una organización no partidista sin ánimo de lucro, advierte sobre los desarrollos hacia “aplicaciones capaces de autoaprender y realizar tareas más allá de lo que fueron entrenadas inicialmente”, unas habilidades conocidas como Inteligencia Artificial General. Kyvik Nordås admite que están, “probablemente a décadas de distancia y muchos dudan si alguna vez se desarrollará”, pero la investigadora considera que “tiene sentido que las agencias especiales de la ONU elaboren sistemas de gobernanza global dentro de sus campos”.

La organización Partnership on AI (PAI) es también una asociación sin ánimo de lucro formada por organizaciones académicas, de la sociedad civil, de la industria y de los medios de comunicación que crean soluciones para que la IA promueva resultados positivos para las personas y la sociedad. Su investigadora Jiyoo Chang comparte el sentido del trabajo del HLAB-AI, pero advierte: “El rápido avance del desarrollo y la adopción de la inteligencia artificial, exige de forma urgente la traducción de los principios en una guía de actuación práctica. Esto requiere acción colectiva y coordinación”.

Fuente: El País
“Para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan. Pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar y, sin entrar a considerar posibles escenarios catastróficos, ya ha quedado claro que el uso malintencionado de la inteligencia artificial (IA) puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”. El secretario general de la ONU, António Guterres, argumentaba así la necesidad de crear un órgano consultivo sobre la IA el pasado año: el High Level Advisory Body on Artificial Intelligence (HLAB-AI) u órgano asesor de alto nivel en inteligencia artificial
La ONU alerta del riesgo de que la IA esté en manos de unas pocas multinacionales
“Para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan. Pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar y, sin entrar a considerar posibles escenarios catastróficos, ya ha quedado claro que el uso malintencionado de la inteligencia artificial (IA) puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”. El secretario general de la ONU, António Guterres, argumentaba así la necesidad de crear un órgano consultivo sobre la IA el pasado año: el High Level Advisory Body on Artificial Intelligence (HLAB-AI) u órgano asesor de alto nivel en inteligencia artificial