{"id":14546,"date":"2016-02-16T05:47:51","date_gmt":"2016-02-16T04:47:51","guid":{"rendered":"http:\/\/www.emiliosilveravazquez.com\/blog\/?p=14546"},"modified":"2016-02-16T05:47:51","modified_gmt":"2016-02-16T04:47:51","slug":"la-i-artificial-%c2%bfque-nos-traera","status":"publish","type":"post","link":"https:\/\/www.emiliosilveravazquez.com\/blog\/2016\/02\/16\/la-i-artificial-%c2%bfque-nos-traera\/","title":{"rendered":"La I.Artificial… \u00bfQu\u00e9 nos traer\u00e1?"},"content":{"rendered":"
\"\"<\/div>\n
<\/header>\n
\n
\n
\n
\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 INTELIGENCIA ARTIFICIAL<\/div>\n
\"Nick<\/div>\n
\n
Nick Bostrom, en el Instituto del Futuro de la Humanidad. Tom Pilston Getty Images<\/figcaption><\/figure>\n<\/div>\n
\n

\u00a0\u00a0\u00a0 El futuro de la humanidad en sus manos<\/h1>\n

 <\/p>\n

\n

Un equipo de expertos investiga en un Instituto de Oxford los riesgos de extinci\u00f3n del ser humano<\/h2>\n

 <\/p>\n<\/div>\n<\/div>\n<\/header>\n<\/div>\n<\/article>\n

\"\"<\/div>\n
\n

Necesitamos sabidur\u00eda para enfrentar el futuro. Para saber si los progresos tecnol\u00f3gicos de vanguardia van en la direcci\u00f3n adecuada o no; si favorecen al ser humano o todo lo contrario. Para tener una idea de qu\u00e9 hacer si se presentan escenarios que ponen en riesgo la supervivencia de la especie, como los derivados de la amenaza nuclear, la modificaci\u00f3n de microbios letales o la creaci\u00f3n de mentes digitales m\u00e1s inteligentes que el hombre. A reflexionar sobre este tipo de cuestiones se dedican un pu\u00f1ado de cerebros en un lugar ubicado en Oxford y llamado el Instituto para el Futuro de la Humanidad.<\/a><\/p>\n

Al frente de un heterodoxo grupo de fil\u00f3sofos, tecn\u00f3logos, f\u00edsicos, economistas y matem\u00e1ticos se encuentra un fil\u00f3sofo formado en f\u00edsica, neurociencia computacional y matem\u00e1ticas, un tipo que desde su adolescencia se encontr\u00f3 sin interlocutores con los cuales compartir sus inquietudes acerca de Schopenhauer, un sueco de 42 a\u00f1os que se pasea por las instalaciones del Instituto con un brebaje hecho a base de vegetales, prote\u00ednas y grasas al que denomina elixir y que escucha audiolibros al doble de velocidad para no perder un segundo de su preciado tiempo. Se llama Nick Bostrom<\/a>, y es el autor de Superinteligencia: Caminos, Peligros, Estrategias<\/em>, un libro que ha causado impacto, una reflexi\u00f3n acerca de c\u00f3mo afrontar un futuro en que la inteligencia artificial supere a la humana, un ensayo que ha recibido el respaldo expl\u00edcito de cerebros de Silicon Valley como Bill Gates y Elon Musk, de fil\u00f3sofos como Derek Parfit o Peter Singer, de f\u00edsicos como Max Tegmark, profesor del Massachusetts Institute of Technology. Un trabajo que, adem\u00e1s, se col\u00f3 en la lista de los libros m\u00e1s vendidos que elabora The New York Times Book Review<\/em>. La ONU le reclama para que exponga su visi\u00f3n, sociedades cient\u00edficas como The Royal Society<\/a> le invitan a dar conferencias, una de sus charlas TED<\/a> lleva ya contabilizados m\u00e1s de 1.747.000 visionados. Y Stephen Hawking ya ha alertado al mundo: hay que tener cuidado con la Inteligencia Artificial.<\/p>\n

\"\"<\/p>\n

El Instituto para el Futuro de la Humanidad \u2014FHI, siglas en ingl\u00e9s\u2014 es un espacio con salas de reuniones bautizadas con nombres de h\u00e9roes an\u00f3nimos que con un gesto salvaron el mundo \u2014como Stanislav Petrov, teniente coronel ruso que evit\u00f3 un incidente nuclear durante la Guerra Fr\u00eda\u2014 donde fluyen las ideas, los intercambios de impresiones, donde florecen hip\u00f3tesis y an\u00e1lisis. Sobre todo, por las tardes-noches: el jefe es, como \u00e9l mismo confiesa, un noct\u00e1mbulo; se queda en la oficina hasta las dos de la madrugada.<\/p>\n

\u201cEn el momento en que sepamos c\u00f3mo hacer m\u00e1quinas inteligentes, las haremos\u201d, afirma Bostrom, en una sala del Instituto que dirige, \u201cy para entonces, debemos saber c\u00f3mo controlarlas. Si tienes un agente artificial con objetivos distintos de los tuyos, cuando se vuelve lo suficientemente inteligente, es capaz de anticipar tus acciones y de hacer planes teniendo en cuenta los tuyos, lo cual podr\u00eda incluir esconder sus propias capacidades de modo estrat\u00e9gico\u201d. Expertos en Inteligencia Artificial que cita en su libro aseguran que hay un 90% de posibilidades de que entre 2075 y 2090 haya m\u00e1quinas tan inteligentes como los humanos. En la transici\u00f3n hacia esa nueva era habr\u00e1 que tomar decisiones. Inocular valores morales a las m\u00e1quinas, tal vez. Evitar que se vuelvan contra nosotros.<\/p>\n

\"\"<\/p>\n

El d\u00eda que las m\u00e1quinas lleguen a pensar por s\u00ed mismas… \u00a1La especie Humana habr\u00e1 llegado al fin!<\/p>\n

A analizar este tipo de supuestos y escenarios se dedica este hombre que en estos d\u00edas lee intensivamente sobre machine learning<\/em> (aprendizaje autom\u00e1tico<\/a>, rama de la inteligencia artificial que explora t\u00e9cnicas para que las computadoras puedan aprender por s\u00ed solas) y econom\u00eda de la innovaci\u00f3n. Para Bostrom el tiempo nunca es suficiente. Leer, leer, leer, asentar conocimientos, profundizar, escribir. \u201cEl tiempo es precioso. Es un bien de gran valor que constantemente se nos desliza entre los dedos\u201d.<\/p>\n

\n
\n
\n
<\/fieldset>\n<\/div>\n<\/div>\n<\/div>\n

\n

<\/a><\/section>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

\n
\n

La gente parece olvidar la guerra nuclear. Un cambio para mal en la geopol\u00edtica podr\u00eda ser un peligro<\/p>\n

 <\/p>\n

\"\"<\/p>\n

 <\/p>\n

 <\/p><\/blockquote>\n<\/div>\n<\/div>\n

Estudiar, formular hip\u00f3tesis, desarrollarlas, anticipar escenarios. Es lo que se hace en este Instituto donde se cultiva la tormenta de ideas y la videoconferencia, un laberinto de salas dominadas por pizarras vileda<\/em> con diagramas y en cuyo pasillo de entrada cuelga un cartel que reproduce la portada de Un mundo feliz<\/em>, la visionaria distop\u00eda firmada por Aldous Huxley en 1932. Un total de 16 profesionales trabajan aqu\u00ed. Publican en revistas acad\u00e9micas, hacen informes de riesgos para compa\u00f1\u00edas tecnol\u00f3gicas, para gobiernos (por ejemplo, el finland\u00e9s) o para la ONU, que se dispone a crear su primer programa sobre Inteligencia Artificial \u2014uno de cuyos representantes andaba la semana pasada por las oficinas del FHI\u2014. Niel Bowerman, director adjunto, f\u00edsico del clima y exasesor del equipo pol\u00edtico de Energ\u00eda y Medio Ambiente de Barack Obama, explica que en el instituto siempre estudian c\u00f3mo de grande es un problema, cu\u00e1nta gente trabaja en \u00e9l y c\u00f3mo de f\u00e1cil es realizar progresos en esa \u00e1rea para determinar los campos de estudio.<\/p>\n

\"\"<\/p>\n

Bostrom es el hombre que comanda el Instituto, el que decide por d\u00f3nde se transita, el visionario. Desarrolla su labor gracias al impulso filantr\u00f3pico de James Martin, millonario interesado en las cuestiones de los riesgos existenciales del futuro que impuls\u00f3 el FHI hace diez a\u00f1os para que se estudie y reflexione en torno a aquellas cosas en las que la industria y los gobiernos, guiados por sus particulares intereses, no tienen por qu\u00e9 pensar.<\/p>\n

Al fil\u00f3sofo sueco, que form\u00f3 parte en 2009 de la lista de los 100 mayores pensadores globales de la revista Foreign Policy<\/em>, le interesa estudiar, sobre todo, amenazas lejanas, a las que no le gusta poner fecha. \u201cCuanto m\u00e1s largo sea el plazo\u201d, dice, “mayores son las posibilidades de un escenario de extinci\u00f3n o de era posthumana\u201d. Pero existen peligros a corto plazo. Los que m\u00e1s le preocupan a Bostrom son los que pueden afectar negativamente a las personas como las plagas, la gripe aviar, los virus, las pandemias.<\/p>\n

En cuanto a la Inteligencia Artificial y su cruce con la militar, dice que el riesgo m\u00e1s claro lo presentan los drones y las armas letales aut\u00f3nomas. Y recuerda que la guerra nuclear, aunque tiene pocas probabilidades de llegar, sigue siendo un peligro latente. \u201cLa gente parece haber dejado de preocuparse por ella; un cambio para mal en la situaci\u00f3n geopol\u00edtica podr\u00eda convertirse en un gran peligro\u201d.<\/p>\n

\"\"<\/p>\n

\n

<\/a><\/section>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

\n
\n

\u201cHay una carrera entre nuestro progreso tecnol\u00f3gico y nuestra sabidur\u00eda, que va mucho m\u00e1s despacio<\/p>\n

 <\/p><\/blockquote>\n<\/div>\n<\/div>\n

La biotecnolog\u00eda, y en particular, la posibilidad que ofrece el sistema de edici\u00f3n gen\u00e9tica CRISPR de crear armas biol\u00f3gicas, tambi\u00e9n plantea nuevos desaf\u00edos. \u201cLa biotecnolog\u00eda est\u00e1 avanzando r\u00e1pidamente va a permitir manipular la vida, modificar microbios con gran precisi\u00f3n y poder. Eso abre el paso a capacidades muy destructivas\u201d. La tecnolog\u00eda nuclear, se\u00f1ala, se puede controlar. La biotecnolog\u00eda, la nanotecnolog\u00eda, lo que haga alguien un garaje con un equipo de segunda mano comprado en EBay, no tanto. Con poco se puede hacer mucho da\u00f1o.<\/p>\n

\"\"<\/p>\n

\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 Mientras la m\u00e1quina est\u00e9 al servicio del humano… \u00a1Todo ir\u00e1 bien!<\/p>\n

Superada su etapa transhumanista \u2014fund\u00f3 en 1998 junto a David Pearce la Asociaci\u00f3n Mundial Transhumanista, colectivo que aboga de modo entusiasta por la expansi\u00f3n de las capacidades humanas mediante el uso de las tecnolog\u00edas\u2014, Bostrom ha encontrado en la Inteligencia Artificial el terreno perfecto para desarrollar su trabajo. La carrera en este campo se ha desatado, grandes empresas \u2014Google compr\u00f3 en 2014 la tecnol\u00f3gica DeepMind\u2014 y Estados pugnan por hacerse con un sector que podr\u00eda otorgar poderes inmensos, casi inimaginables.<\/p>\n

Uno de los escenarios que proyecta en su libro, cuya versi\u00f3n en espa\u00f1ol publica el 25 de febrero la editorial Teell<\/a>, es el de la toma de poder por parte de una Inteligencia Artificial (AI, siglas en ingl\u00e9s). Se produce una explosi\u00f3n de inteligencia. Las m\u00e1quinas llegan a un punto en que superan a sus programadores, los humanos. Son capaces de mejorarse a s\u00ed mismas. De desarrollar grandes habilidades de programaci\u00f3n, estrat\u00e9gicas, de manipulaci\u00f3n social, de hacking<\/em>. Pueden querer tomar el control del planeta. Los humanos pueden ser un estorbo para sus objetivos. Para tomar el control, esconden sus cartas. Podr\u00e1n mostrarse inicialmente d\u00f3ciles. En el momento en que desarrollan todos sus poderes, pueden lanzar un ataque contra la especie humana. Hackear<\/em> drones, armas. Liberar robots del tama\u00f1o de un mosquito elaborados en nanofactor\u00edas que producen gas nervioso, o gas mostaza.<\/p>\n

\"\"<\/p>\n

Esta es simplemente la s\u00edntesis del desarrollo de un escenario. Pero, como dec\u00eda la cr\u00edtica de Superinteligencia<\/em> de la revista The Economist<\/em>, las implicaciones de la introducci\u00f3n de una segunda especie inteligente en la Tierra merecen que alguien piense en ellas. \u201cAntes, muchas de estas cuestiones, no solo las del AI, sol\u00edan estar en el campo de la ciencia ficci\u00f3n, de la especulaci\u00f3n\u201d, dice Bostrom, \u201cpara mucha gente era dif\u00edcil de entender que se pudiera hacer trabajo acad\u00e9mico con ello, que se pod\u00edan hacer progresos intelectuales\u201d.<\/p>\n

El libro tambi\u00e9n plantea un escenario en que la Inteligencia Artificial se desarrolla en distintos sectores de manera paralela y genera una econom\u00eda que produce inimaginables cotas de riqueza, descubrimientos tecnol\u00f3gicos asombrosos. Los robots, que no duermen, ni reclaman vacaciones, producen sin cesar y desbancan a los humanos en m\u00faltiples trabajos.<\/p>\n

\u2014 \u00bfLos robots nos enriquecer\u00e1n o nos reemplazar\u00e1n?<\/p>\n

\"\"<\/p>\n

No creo que sea nada bueno llegar a construir robots que sepan comprender el \u00e1tomo<\/p>\n

\u2014 Primero, tal vez nos enriquezcan. A largo plazo ya se ver\u00e1. El trabajo es costoso y no es algo deseado, por eso hay que pagar a la gente por hacerlo. Automatizarlo parece beneficioso. Eso crea dos retos: si la gente pierde sus salarios, \u00bfc\u00f3mo se mantiene? Lo cual se convierte en una cuesti\u00f3n pol\u00edtica, \u00bfse piensa en una garant\u00eda de renta b\u00e1sica? \u00bfEn un Estado del Bienestar? Si esta tecnolog\u00eda realmente hace que el mundo se convierta en un lugar mucho m\u00e1s rico, con un crecimiento m\u00e1s r\u00e1pido, el problema deber\u00eda ser f\u00e1cil de resolver, habr\u00eda m\u00e1s dinero. El otro reto es que mucha gente ve su trabajo como algo necesario para tener estatus social y que su vida tenga sentido. Hoy en d\u00eda, estar desempleado no es malo solo porque no tienes dinero, sino porque mucha gente se siente in\u00fatil. Se necesitar\u00eda cambiar la cultura para que no pensemos que trabajar por dinero es algo que te da valor. Es posible, hay ejemplos hist\u00f3ricos: los arist\u00f3cratas no trabajaban para vivir, incluso pensaban que tener que hacerlo era degradante. Creemos que las estructuras de significado social son universales, pero son recientes. La vida de los ni\u00f1os parece tener mucho sentido incluso si no hacen nada \u00fatil. Soy optimista: la cultura se puede cambiar.<\/p>\n

\"\"<\/p>\n

Lo que para nosotros es natural, en la A.I. es casi… \u00a1imposible!<\/p>\n

A Bostrom se le ha acusado desde algunos sectores de la comunidad cient\u00edfica de tener visiones demasiado radicales. Sobre todo, en su etapa transhumanista. \u201cSus visiones sobre la edici\u00f3n gen\u00e9tica o sobre la mejora del humano son controvertidas\u201d, se\u00f1ala Miquel-\u00c1ngel Serra, bi\u00f3logo que acaba de publicar junto a Albert Cortina Humanidad: desaf\u00edo \u00e9ticos de las tecnolog\u00edas emergentes.<\/em> \u201cSomos muchos los esc\u00e9pticos con las propuestas que hace\u201d. Serra, no obstante, deja claro que Bostrom est\u00e1 ahora en el centro del debate sobre el futuro de la Inteligencia Artificial, que es una referencia.<\/p>\n

\u2014 \u00bfProyecta usted una visi\u00f3n demasiado apocal\u00edptica en su libro de lo que puede ocurrir con la humanidad?<\/p>\n

\u2014 Mucha gente puede quedarse con la impresi\u00f3n de que soy m\u00e1s pesimista con la AI de lo que realmente soy. Cuando lo escrib\u00ed parec\u00eda m\u00e1s urgente tratar de ver qu\u00e9 pod\u00eda ir mal para asegurarnos de c\u00f3mo evitarlo.<\/p>\n

\u2014 Pero, \u00bfes usted optimista con respecto al futuro?<\/p>\n

\"\"<\/p>\n

\u00bfAvanzar? S\u00ed, pero sin caer en aberraciones antinaturales<\/p>\n

\u2014 Intento no ser pesimista ni optimista. Intento ajustar mis creencias a lo que apunta la evidencia; con nuestros conocimientos actuales, creo que el resultado final puede ser muy bueno o muy malo. Aunque tal vez podr\u00edamos desplazar la probabilidad hacia un buen final si trabajamos duramente en ello.<\/p>\n

\u2014 O sea, que hay cosas que hacer. \u00bfCu\u00e1les?<\/p>\n

\u2014 Estamos haciendo todo lo posible para crear este campo de investigaci\u00f3n de control problema. Hay que mantener y cultivar buenas relaciones con la industria y los desarrolladores de Inteligencia Artificial. Aparte, hay muchas cosas que no van bien en este mundo: gente que se muere de hambre, gente a la que le pica un mosquito y contrae la malaria, gente que decae por el envejecimiento, desigualdades, injusticias, pobreza, y muchas son evitables. En general, creo que hay una carrera entre nuestra habilidad para hacer cosas, para hacer progresar r\u00e1pidamente nuestra capacidades tecnol\u00f3gicas, y nuestra sabidur\u00eda, que va mucho m\u00e1s despacio. Necesitamos un cierto nivel de sabidur\u00eda y de colaboraci\u00f3n para el momento en que alcancemos determinados hitos tecnol\u00f3gicos, para sobrevivir a esas transiciones.<\/p>\n

Fuente: El Pais<\/p>\n

PD.<\/p>\n

S\u00f3lo algunas im\u00e1genes y comentarios que la acompa\u00f1an han sido a\u00f1adidas respetando el reportaje original, con la intenci\u00f3n de hacerla m\u00e1s amena.<\/p>\n<\/div>\n

\r\n\t\t\r\n\t\t
<\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span>hotmail correo<\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span><\/a><\/span>[?]<\/a><\/span><\/td><\/tr><\/table><\/div>","protected":false},"excerpt":{"rendered":"

\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 INTELIGENCIA ARTIFICIAL Nick Bostrom, en el Instituto del Futuro de la Humanidad. Tom Pilston Getty Images \u00a0\u00a0\u00a0 El futuro de la humanidad en sus manos   Un equipo de expertos investiga en un Instituto de Oxford los riesgos de extinci\u00f3n del ser humano   Necesitamos sabidur\u00eda para enfrentar el futuro. Para saber si los […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_s2mail":"yes","footnotes":""},"categories":[85],"tags":[],"_links":{"self":[{"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/posts\/14546"}],"collection":[{"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/comments?post=14546"}],"version-history":[{"count":0,"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/posts\/14546\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/media?parent=14546"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/categories?post=14546"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.emiliosilveravazquez.com\/blog\/wp-json\/wp\/v2\/tags?post=14546"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}