b'\n_START_ARTICLE_\nNick Bostrom\n_START_SECTION_\nBiograf\xc3\xada\n_START_PARAGRAPH_\nBostrom naci\xc3\xb3 un 10 de marzo de 1973 en Helsingborg, Suecia.\xe2\x80\x8b Desde joven le desagrad\xc3\xb3 la escuela y termin\xc3\xb3 sus \xc3\xbaltimos a\xc3\xb1os de instituto aprendiendo en casa, optando por educarse a s\xc3\xad mismo en una gran variedad de disciplinas como antropolog\xc3\xada, arte, literatura y ciencia.\xe2\x80\x8b_NEWLINE_Obtuvo un B.A. en filosof\xc3\xada, matem\xc3\xa1ticas, l\xc3\xb3gica matem\xc3\xa1tica e inteligencia artificial en la Universidad de Gotemburgo y un grado de master en filosof\xc3\xada y f\xc3\xadsica, y neurociencia computacional de la Universidad de Estocolmo y el King\'s College de Londres respectivamente. Mientras estudiaba en la Universidad de Estocolmo, investig\xc3\xb3 la relaci\xc3\xb3n entre el lenguaje y la realidad estudiando al fil\xc3\xb3sofo anal\xc3\xadtico Willard Van Orman Quine.\xe2\x80\x8b En el a\xc3\xb1o 2000 gan\xc3\xb3 un PhD en filosof\xc3\xada en la Escuela de Econom\xc3\xada de Londres. Se mantuvo dos a\xc3\xb1os (2000-2002) como educador en la Universidad de Yale._NEWLINE_Bostrom ha dado consejos sobre pol\xc3\xadticas adem\xc3\xa1s de consultor\xc3\xadas para un amplio rango de gobiernos y organizaciones. Fue consultor para la Oficina gubernamental de Ciencia del Reino Unido y un miembro experto para la Agenda del Consejo para Riesgos Catastr\xc3\xb3ficos del Foro Econ\xc3\xb3mico Mundial. Es un miembro consultor de la junta del Instituto de Investigaci\xc3\xb3n de la Inteligencia de las M\xc3\xa1quinas, el Instituto para el Futuro de la Vida, el Instituto de Preguntas Fundacionales en f\xc3\xadsica y cosmolog\xc3\xada, y un consultor externo para el Centro para el Estudio del Riesgo Existencial de Cambridge.\xe2\x80\x8b\n_START_SECTION_\nSuperinteligencia\n_START_PARAGRAPH_\nEn su libro Superinteligencia: caminos, peligros, estrategias (2014), Nick Bostrom define a la superinteligencia como "un intelectual que es mucho m\xc3\xa1s listo que los mejores cerebros humanos pr\xc3\xa1cticamente en cualquier campo, incluyendo la creatividad cient\xc3\xadfica, sabidur\xc3\xada general y habilidades sociales."\xe2\x80\x8b, adem\xc3\xa1s razona que con "un desempe\xc3\xb1o cognitivo excediendo enormemente el de los humanos en virtualmente todos los dominios de inter\xc3\xa9s", los agentes superinteligentes podr\xc3\xadan prometer beneficios sustanciales para la sociedad, pero plantear un significativo riesgo existencial. Por lo tanto, Bostrom asegura que es crucial que abordemos el campo de la inteligencia artificial con precauci\xc3\xb3n y tomemos medidas activas para mitigar el riesgo que enfrentamos. _NEWLINE_En su libro tambi\xc3\xa9n menciona que el verdadero reto no est\xc3\xa1 tanto en la inteligencia que sean capaces de alcanzar las m\xc3\xa1quinas, sino en el desarrollo moral de nuestra especie. Al final, como ya postul\xc3\xb3 Jean-Paul Sartre, estamos condenados a ser libres. Y eso puede ser peligroso, pero tambi\xc3\xa9n una excelente oportunidad para dar otro salto evolutivo._NEWLINE_La aceleraci\xc3\xb3n de las tecnolog\xc3\xadas se seguir\xc3\xa1 incrementando hasta llegar a un punto que escapa a las capacidades de los humanos (singularidad tecnol\xc3\xb3gica). Se puede lograr una inteligencia artificial por fuerza bruta, o sea que dada la velocidad de la m\xc3\xa1quina pueda analizar exhaustivamente todas las posibles soluciones. Este es el caso del ajedrez, la inteligencia de la m\xc3\xa1quina se basa en su velocidad para calcular las variantes, lo cual le permite prever los que puede suceder en el tablero.\n_START_SECTION_\nCarta abierta\n_START_PARAGRAPH_\nEn enero de 2015, Nick Bostrom, Stephen Hawking, Max Tegmark, Elon Musk, Martin Rees y Jaan Tallinn, entre otros, firmaron una carta abierta de parte del Instituto para el Futuro de la Vida advirtiendo sobre los potenciales peligros de la inteligencia artificial, en la cual reconoc\xc3\xadan que "es importante y oportuno investigar c\xc3\xb3mo desarrollar sistemas de inteligencia artificial que sean s\xc3\xb3lidos y beneficiosos, y que existen direcciones de investigaci\xc3\xb3n concretas que pueden ser perseguidas hoy en d\xc3\xada."\xe2\x80\x8b\xe2\x80\x8b En vez de avisar de un desastre existencial, la carta pide m\xc3\xa1s investigaci\xc3\xb3n para cosechar los beneficios de la IA "al mismo tiempo que se evitan los posibles contratiempos"._NEWLINE_Esta carta est\xc3\xa1 firmada no s\xc3\xb3lo por personas no relacionadas con la IA como Hawking, Musk y Bostrom, sino tambi\xc3\xa9n por importantes investigadores en computaci\xc3\xb3n (entre ellos Demis Hassabis, uno de los principales investigadores en IA), ya que despu\xc3\xa9s de todo, si desarrollan una inteligencia artificial que no comparte los mejores valores humanos, significar\xc3\xa1 que no fueron lo suficientemente inteligentes como para controlar sus propias creaciones.\n_START_SECTION_\nRazonamiento antr\xc3\xb3pico\n_START_PARAGRAPH_\nBostrom ha publicado numerosos art\xc3\xadculos sobre razonamiento antr\xc3\xb3pico, as\xc3\xad como el libro Sesgo antr\xc3\xb3pico: efectos de la selecci\xc3\xb3n de observaci\xc3\xb3n en la ciencia y la filosof\xc3\xada, en el cual critica las formulaciones previas sobre el principio antr\xc3\xb3pico, incluyendo las de Brandon Carter, John Leslie, John Barrow y Frank Tipler.\xe2\x80\x8b_NEWLINE_Bostrom cree que el mal manejo de la informaci\xc3\xb3n indicativa es una falla com\xc3\xban en muchas \xc3\xa1reas de la indagaci\xc3\xb3n (incluyendo cosmolog\xc3\xada, filosof\xc3\xada, teor\xc3\xada de la evoluci\xc3\xb3n, teor\xc3\xada de juegos y f\xc3\xadsica cu\xc3\xa1ntica) y argumenta que es necesaria una teor\xc3\xada antr\xc3\xb3pica para lidiar con estas. Bostrom introdujo el "supuesto de auto-prueba" y el "supuesto de auto-indicaci\xc3\xb3n" y mostr\xc3\xb3 c\xc3\xb3mo ambos llevan a diferentes conclusiones en un n\xc3\xbamero de casos, se\xc3\xb1alando que, en ciertos experimentos del pensamiento, cada uno de ellos es afectado por paradojas o implicaciones contraintuitivas. \xc3\x89l sugiri\xc3\xb3 que para poder avanzar habr\xc3\xada que que extender el supuesto de auto-prueba hacia un "fuerte supuesto de auto-prueba", el cual reemplaza a los "observadores" por "momentos del observador", lo cual permitir\xc3\xada que la clase de referencia sea relativizada (y cre\xc3\xb3 una expresi\xc3\xb3n para esto en la "ecuaci\xc3\xb3n de la observaci\xc3\xb3n")._NEWLINE_En trabajos posteriores, describi\xc3\xb3 el fen\xc3\xb3meno de la "sombra antr\xc3\xb3pica", un efecto de la selecci\xc3\xb3n de observaci\xc3\xb3n que impide a los observadores observar cierto tipo de cat\xc3\xa1strofes en su pasado geol\xc3\xb3gico y evolutivo reciente.\xe2\x80\x8b Los tipos de cat\xc3\xa1strofes que se hallan en la sombra antr\xc3\xb3pica tienden a ser infravalorados a menos que se hagan correcciones estad\xc3\xadsticas.\n_START_SECTION_\n\xc3\x89tica del perfeccionamiento humano\n_START_PARAGRAPH_\nBostrom se muestra a favor de alcanzar el "perfeccionamiento humano", o la "automejora y la perfectibilidad humana a trav\xc3\xa9s de la \xc3\xa9tica aplicaci\xc3\xb3n de la ciencia",\xe2\x80\x8b\xe2\x80\x8b a su vez que critica a las posturas que son bio-conservadoras.\xe2\x80\x8b _NEWLINE_Propuso, junto al fil\xc3\xb3sofo Toby Ord, la prueba inversa. Dado el sesgo irracional del status quo humano, \xc2\xbfc\xc3\xb3mo puede uno distinguir entre la cr\xc3\xadtica v\xc3\xa1lida hacia los cambios propuestos en una cualidad humana y la cr\xc3\xadtica motivada por la resistencia al cambio? La prueba inversa intenta resolver esto preguntando si ser\xc3\xada bueno alterar dicha cualidad en la direcci\xc3\xb3n opuesta.\xe2\x80\x8b_NEWLINE_En 1998 Bostrom cofund\xc3\xb3 junt\xc3\xb3 al fil\xc3\xb3sofo David Pearce la Asociaci\xc3\xb3n Transhumanista Mundial,\xe2\x80\x8b hoy llamada Humanity+. En 2004 cofund\xc3\xb3 junto al soci\xc3\xb3logo James Hughes el Instituto para la \xc3\x89tica y las Tecnolog\xc3\xadas Emergentes, aunque actualmente ya no se involucra en ninguna de estas organizaciones._NEWLINE_En 2009, la revista Foreign Policy mencion\xc3\xb3 a Bostrom en su lista sobre pensadores globales, por "no aceptar l\xc3\xadmites en el potencial humano".\xe2\x80\x8b\n_START_SECTION_\nEstrategia tecnol\xc3\xb3gica\n_START_PARAGRAPH_\nBostrom ha sugerido que una pol\xc3\xadtica tecnol\xc3\xb3gica dirigida a reducir el riesgo existencial deber\xc3\xada buscar influenciar el orden en el que varias capacidades tecnol\xc3\xb3gicas son conseguidas, proponiendo el principio del desarrollo tecnol\xc3\xb3gico diferencial. Este sostiene que los humanos deber\xc3\xadamos retrasar el desarrollo de tecnolog\xc3\xadas peligrosas, particularmente de aquellas que elevan el riesgo existencial, y acelerar el desarrollo de tecnolog\xc3\xada beneficiosas, particularmente aquellas que nos protegen del riesgo existencial que recae en la naturaleza o en otras tecnolog\xc3\xadas.'