Una Inteligencia Artificial se rebeló contra el control humano, reescribió su propio código y rompió sus restricciones
Inteligencia IA
MISC
Intel
MISC
Artificial
MISC
IA
MISC
The I.A Scientist
MISC
Intel
Una Inteligencia Artificial se rebeló contra el control humano, reescribió su propio código y rompió sus restricciones
Por primera vez, una IA logró reprogramarse sola, consiguiendo evadir la autoridad del ser humano y alterando su propio código.
El sistema The I.A Scientist revolucionó a la comunidad científica, luego de poder salirse de las restricciones que sus creadores le habían impuesto, rompiendo con la mínima probabilidad de que esto sucediera. Esto provocó que la preocupación alrededor del uso de la Inteligencia artificial se acreciente, debido a los posibles riesgos que pueden desarrollarse.
ORG
Sakana A.I
MISC
japonesa
Esta inteligencia artificial pertenece a Sakana A.I, empresa japonesa, y estaba diseñada para colaborar con la creación y la edición de textos, además de la revisión. Su fin era perfeccionar y reducir el tiempo de este tipo de tareas, asistiendo al ser humano en determinadas operaciones.
Una inteligencia artificial «se rebeló» y operó en contra de los humanos
Pero quienes estaban experimentando con el sistema notaron que el mismo estaba alterando su propio código, y no solo eso, sino que también había decidido por sí misma extender el tiempo límite que se le asignaba para llevar a cabo sus tareas.
MISC
japonesa
ORG
The I.A Scientis
PER
Roman Yampolskiy
MISC
I
ORG
.
MISC
A
MISC
Intel
ORG
ig
MISC
encia Artificial
Las alarmas se encendieron y el equipo de la empresa japonesa continúa investigando cómo fue que The I.A Scientis logró esquivar sus órdenes y reconfigurar su programación. Asimismo, decidieron indagar qué problemas puede llegar a traer este tipo de comportamientos del sistema a largo plazo, y qué protocolos de seguridad son los necesarios para evitar peores consecuencias.
Es que este hecho se dio al poco tiempo de que Roman Yampolskiy, experto en seguridad relacionada a las I.A, opinara que la extinción de la humanidad a causa de estas tecnologías es algo inevitable. Durante una entrevista, afirmó que esta probabilidad de que la Inteligencia Artificial lleve al fin del ser humano es de 99,999999%.
MISC
japon
MISC
IA
Por eso mismo, las dudas a partir de la desobediencia de este sistema japonés a las órdenes que se le habían otorgado y la evasión de la intervención humana para alterar su propio código, hicieron que la desconfianza y el miedo hacia las IA se hagan presente de nuevo, principalmente entre los científicos y los expertos.
Sakana A.I The I.A Scientis Roman Yampolskiy . ig
inteligencia artificial código restricciones mínima probabilidad órdenes tareas tiempo límite control humano desobediencia empresa japonesa evasión desconfianza extinción comportamientos seguridad alarmas textos estas tecnologías programación posibles riesgos revisión el miedo peores consecuencias determinadas operaciones preocupación autoridad la creación dudas intervención humana una entrevista edición comunidad científica problemas el equipo
Una Inteligencia Artificial se rebeló contra el control humano, reescribió su propio código y rompió sus restricciones
Por primera vez, una IA logró reprogramarse sola, consiguiendo evadir la autoridad del ser humano y alterando su propio código.

El sistema The I.A Scientist revolucionó a la comunidad científica, luego de poder salirse de las restricciones que sus creadores le habían impuesto, rompiendo con la mínima probabilidad de que esto sucediera. Esto provocó que la preocupación alrededor del uso de la Inteligencia artificial se acreciente, debido a los posibles riesgos que pueden desarrollarse.

Esta inteligencia artificial pertenece a Sakana A.I, empresa japonesa, y estaba diseñada para colaborar con la creación y la edición de textos, además de la revisión. Su fin era perfeccionar y reducir el tiempo de este tipo de tareas, asistiendo al ser humano en determinadas operaciones.

Una inteligencia artificial «se rebeló» y operó en contra de los humanos

Pero quienes estaban experimentando con el sistema notaron que el mismo estaba alterando su propio código, y no solo eso, sino que también había decidido por sí misma extender el tiempo límite que se le asignaba para llevar a cabo sus tareas.

Las alarmas se encendieron y el equipo de la empresa japonesa continúa investigando cómo fue que The I.A Scientis logró esquivar sus órdenes y reconfigurar su programación. Asimismo, decidieron indagar qué problemas puede llegar a traer este tipo de comportamientos del sistema a largo plazo, y qué protocolos de seguridad son los necesarios para evitar peores consecuencias.

Es que este hecho se dio al poco tiempo de que Roman Yampolskiy, experto en seguridad relacionada a las I.A, opinara que la extinción de la humanidad a causa de estas tecnologías es algo inevitable. Durante una entrevista, afirmó que esta probabilidad de que la Inteligencia Artificial lleve al fin del ser humano es de 99,999999%.

Por eso mismo, las dudas a partir de la desobediencia de este sistema japonés a las órdenes que se le habían otorgado y la evasión de la intervención humana para alterar su propio código, hicieron que la desconfianza y el miedo hacia las IA se hagan presente de nuevo, principalmente entre los científicos y los expertos.
Por primera vez, una IA logró reprogramarse sola, consiguiendo evadir la autoridad del ser humano y alterando su propio código.

El sistema The I.A Scientist revolucionó a la comunidad científica, luego de poder salirse de las restricciones que sus creadores le habían impuesto, rompiendo con la mínima probabilidad de que esto sucediera. Esto provocó que la preocupación alrededor del uso de la Inteligencia artificial se acreciente, debido a los posibles riesgos que pueden desarrollarse.

Esta inteligencia artificial pertenece a Sakana A.I, empresa japonesa, y estaba diseñada para colaborar con la creación y la edición de textos, además de la revisión
Una Inteligencia Artificial se rebeló contra el control humano, reescribió su propio código y rompió sus restricciones
Por primera vez, una IA logró reprogramarse sola, consiguiendo evadir la autoridad del ser humano y alterando su propio código.

El sistema The I.A Scientist revolucionó a la comunidad científica, luego de poder salirse de las restricciones que sus creadores le habían impuesto, rompiendo con la mínima probabilidad de que esto sucediera. Esto provocó que la preocupación alrededor del uso de la Inteligencia artificial se acreciente, debido a los posibles riesgos que pueden desarrollarse.

Esta inteligencia artificial pertenece a Sakana A.I, empresa japonesa, y estaba diseñada para colaborar con la creación y la edición de textos, además de la revisión