![\"Javier](\"https:\/\/ep01.epimg.net\/miperfil\/avatares\/B\/54\/javicortes14.jpg\")
<\/a><\/figure>\n![\"\"](\"https:\/\/sdmedia.elpaisretina.com\/imagenes\/201712\/1\/20171201132127387_1512131622_asset_still.png\")
<\/a><\/div>\n<\/figure>\n<\/div>\n<\/h1>\nEl fil\u00f3sofo y profesor de la Universidad de Oxford alerta de los riesgos que plantea la tecnolog\u00eda y advierte de la necesidad de anticiparnos antes de que sea tarde.\u00a0Nick Bostrom: “No tendremos una segunda oportunidad con la inteligencia artificial”.<\/strong><\/div>\n<\/div>\n<\/header>\n\n![\"Resultado](\"http:\/\/1.bp.blogspot.com\/-xEHzR98YUFQ\/VSfJ0M5o0cI\/AAAAAAAABao\/ciqHkdbcUu4\/s1600\/tecnologia-inteligencia-artificial-IA.jpg\")
<\/div>\n\n\u00a0 \u00a0 \u00a0 \u00a0 \u00a0Si le otorgamos inteligencia propia y hasta sentimientos… \u00bfQu\u00e9 pasar\u00e1 con la Humanidad?<\/p>\n
Nick Bostrom (Helsingborg, Suecia, 1973) es una de las voces m\u00e1s autorizadas para hablar de los peligros de los avances tecnol\u00f3gicos en nuestro tiempo. Este fil\u00f3sofo dirige el Instituto para el Futuro de la Humanidad y el Centro de Investigaci\u00f3n de Estrategia de Inteligencia Artificial de la Universidad de Oxford, donde ejerce como profesor. Sus teor\u00edas sobre el riesgo que representar\u00eda la creaci\u00f3n de una superinteligencia para el mundo han influido en el pensamiento de figuras como Bill Gates o Elon Musk.<\/p>\n
\n<\/a><\/section>\n<\/section>\n<\/a><\/section>\n\n\n![\"Nick](\"https:\/\/rt00.epimg.net\/retina\/imagenes\/2017\/12\/02\/tendencias\/1512231406_905237_1512231775_sumario_normal.jpg\")
<\/figure>\n<\/div>\n\nNick Bostrom durante la entrevista en la Fundaci\u00f3n Giner de los R\u00edos<\/figcaption><\/figure>\n<\/div>\n<\/section>\n <\/p>\n
Nos recibe en un peque\u00f1o camerino de la Fundaci\u00f3n Giner de los R\u00edos, a unos pasos del escenario donde acaba de impartir una ponencia sobre c\u00f3mo debemos afrontar la transici\u00f3n hacia la era de las m\u00e1quinas inteligentes. Tiene que coger un vuelo en un par de horas y antes debe pasar por el hotel, pero se toma su tiempo antes de responder a cada pregunta y detiene su discurso varias veces para buscar las palabras precisas. Es evidente que se encuentra c\u00f3modo especulando sobre el futuro que nos espera.<\/p>\n
\u00bfCu\u00e1les son los principales riesgos tecnol\u00f3gicos con los que debe lidiar la humanidad?<\/p>\n
![\"Resultado](\"https:\/\/image.slidesharecdn.com\/cdocumentsandsettingsalumnospc-9escritorioultimageneracindecomputadoras-100706064629-phpapp01\/95\/ultima-generacion-de-computadoras-inteligencia-artificial-6-728.jpg?cb=1278398836\")
<\/p>\n
Depende del contexto temporal que tengamos en mente. Si estamos pensando en las aplicaciones actuales, deber\u00edamos estar preocupados por una serie de cosas que no tienen nada que ver con los peligros que vemos si miramos hacia el futuro, donde las m\u00e1quinas tendr\u00e1n niveles de inteligencia muy superiores a los de los humanos.<\/p>\n
Hoy, uno de nuestros principales focos de atenci\u00f3n apunta a que nuestros sistemas de informaci\u00f3n sean transparentes y a la vez nos permitan ciertos niveles de privacidad. Es muy importante que configuremos correctamente nuestra arquitectura informativa. Ahora nos interesa pensar en la forma en que se establecen las relaciones sociales en internet, la creaci\u00f3n de filtros burbuja\u2026<\/p>\n
\u00bfY si echamos la vista al futuro?<\/p>\n
![\"Resultado](\"http:\/\/vesys.com.mx\/wp\/wp-content\/uploads\/2015\/06\/inteligenciaartificial.jpg\")
<\/p>\n
Nos encontramos con un tipo de preocupaciones completamente distintas. No es dif\u00edcil pensar en una inteligencia artificial que sea cada vez m\u00e1s poderosa cuyos objetivos no est\u00e9n perfectamente alineados con los objetivos humanos. Y el reto aqu\u00ed consiste en tener la tecnolog\u00eda que nos haga capaces de dise\u00f1ar estos poderosos sistemas artificiales alineados con los valores humanos y que siempre hagan lo que nosotros queremos que hagan.<\/p>\n
\u00bfEs la inteligencia artificial nuestra \u00fanica preocupaci\u00f3n a largo plazo?<\/p>\n
Existen otras \u00e1reas que tambi\u00e9n tienen un gran potencial riesgo para la humanidad. La biotecnolog\u00eda ser\u00eda una de ellas. Si descubrimos c\u00f3mo hacer mejores herramientas para manipular virus, bacterias y otros microrganismos, har\u00edamos posible la creaci\u00f3n de pat\u00f3genos de dise\u00f1o, que podr\u00eda utilizar alg\u00fan grupo terrorista para crear un nuevo tipo de enfermedad. Con cada nuevo avance t\u00e9cnico nos vamos aproximando a estos escenarios y, a medida que la tecnolog\u00eda madura, crece su potencial destructivo.<\/p>\n
\u00bfConsidera que estamos avanzando demasiado r\u00e1pido como sociedad?<\/p>\n
![\"Resultado](\"https:\/\/ep01.epimg.net\/tecnologia\/imagenes\/2017\/10\/16\/actualidad\/1508159247_284918_1508173391_noticia_normal.jpg\")
<\/p>\n
Creo que cada vez que realizamos un gran descubrimiento, estamos metiendo la mano en una urna llena de pelotas y sacando una. Con cada pelota que sacamos, vamos alcanzando el progreso social. Toda la historia de la humanidad se ha basado en el proceso de hacer estos inventos.<\/p>\n
La cuesti\u00f3n es que muchas de estas pelotas son beneficiosas, pero hay otras que pueden ser perjudiciales. Imagina lo que pasar\u00eda si una de las pelotas que sacamos es una tecnolog\u00eda que significa invariablemente la destrucci\u00f3n de la civilizaci\u00f3n que la descubri\u00f3. El problema aqu\u00ed es que todav\u00eda no hemos descubierto una manera de volver a meter la pelota en la urna si no nos gusta: una vez que se ha inventado una tecnolog\u00eda, no puede \u201cdesinventarse\u201d.<\/p>\n
\u00bfHemos sacado ya alguna de esas pelotas?<\/p>\n
![\"Resultado](\"https:\/\/image.slidesharecdn.com\/aplicacionesdelosradioisotoposbombasnucleares-140117085451-phpapp02\/95\/aplicaciones-de-los-radioisotopos-bombas-nucleares-6-638.jpg?cb=1389949938\")
<\/p>\n
No es dif\u00edcil adivinar c\u00f3mo ser\u00eda. Piensa, por ejemplo, en lo que pasar\u00eda si el desarrollo de armas nucleares hubiera sido posible con materiales m\u00e1s f\u00e1ciles de conseguir. Si en lugar de plutonio o uranio enriquecido, que no son precisamente accesibles, pudiera crearse una bomba at\u00f3mica con un poco de arena, ser\u00eda el fin de la civilizaci\u00f3n, porque bastar\u00edan unas pocas personas que quisieran causar da\u00f1o para posibilitar una gran destrucci\u00f3n.<\/p>\n
\u00bfPodemos evitar que la inteligencia artificial termine siendo una de estas tecnolog\u00edas?<\/p>\n
Si la inteligencia artificial termina siendo capaz de hacer todo o buena parte de nuestro trabajo intelectual mejor que nosotros, tendremos en nuestras manos el \u00faltimo invento que tendr\u00e1 que realizar la humanidad.<\/p>\n
![\"Resultado](\"https:\/\/images.adsttc.com\/media\/images\/544e\/6c72\/e58e\/cef8\/1300\/002b\/large_jpg\/09.jpg?1414425709\")
<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0No podemos dejar que llegue un d\u00eda en el que los robots domine a la Humanidad<\/p>\n
El problema est\u00e1 en la transici\u00f3n hasta la era de la inteligencia artificial: tenemos que hacerlo bien a la primera porque no creo que tengamos una segunda oportunidad. Si desarrollamos una inteligencia artificial que no est\u00e9 alineada con nuestros prop\u00f3sitos, no creo que podamos volver a meter esa pelota en la urna y empezar de cero. No somos demasiado buenos como civilizaci\u00f3n anticipando problemas dif\u00edciles que todav\u00eda no nos han causado ning\u00fan da\u00f1o. Debemos movilizar nuestros esfuerzos para hacer que esto funcione desde el principio. Esta es la gran dificultad para nuestra civilizaci\u00f3n.<\/p>\n
\u00bfQu\u00e9 tipo de pol\u00edticas deben tomar los gobiernos y compa\u00f1\u00edas tecnol\u00f3gicas al respecto?<\/p>\n
![\"Imagen](\"https:\/\/cdnmundo1.img.sputniknews.com\/images\/107242\/88\/1072428814.jpg\")
<\/p>\n
Que la futura Inteligencia Artificial est\u00e9 bien planificada y que los ingenios creados est\u00e9n a nuestro servicio es la base principal para evitar los problemas que plantea esta disciplina del saber humano.<\/p>\n
Se nos presenta la oportunidad de acercarnos a la revoluci\u00f3n de la inteligencia artificial de forma coordinada. Es el momento de trabajar en un proyecto internacional para desarrollar una superinteligencia segura en el que est\u00e9n implicados todos los actores que puedan aportar algo. Si esto sale bien, los beneficios para la sociedad ser\u00edan inmensos, pero podr\u00edamos sufrir consecuencias muy negativas si nuestra forma de abordar el problema consistiera en permitir que las empresas y naciones compitieran para ver quien consigue mejores resultados.<\/p>\n<\/div>\n<\/div>\n<\/article>\n<\/div>\n<\/div>\n<\/div>\n
\r\n\t\t
<\/div>\n\u00a0 \u00a0 \u00a0 \u00a0 \u00a0Si le otorgamos inteligencia propia y hasta sentimientos… \u00bfQu\u00e9 pasar\u00e1 con la Humanidad?<\/p>\n
Nick Bostrom (Helsingborg, Suecia, 1973) es una de las voces m\u00e1s autorizadas para hablar de los peligros de los avances tecnol\u00f3gicos en nuestro tiempo. Este fil\u00f3sofo dirige el Instituto para el Futuro de la Humanidad y el Centro de Investigaci\u00f3n de Estrategia de Inteligencia Artificial de la Universidad de Oxford, donde ejerce como profesor. Sus teor\u00edas sobre el riesgo que representar\u00eda la creaci\u00f3n de una superinteligencia para el mundo han influido en el pensamiento de figuras como Bill Gates o Elon Musk.<\/p>\n
\n <\/p>\n Nos recibe en un peque\u00f1o camerino de la Fundaci\u00f3n Giner de los R\u00edos, a unos pasos del escenario donde acaba de impartir una ponencia sobre c\u00f3mo debemos afrontar la transici\u00f3n hacia la era de las m\u00e1quinas inteligentes. Tiene que coger un vuelo en un par de horas y antes debe pasar por el hotel, pero se toma su tiempo antes de responder a cada pregunta y detiene su discurso varias veces para buscar las palabras precisas. Es evidente que se encuentra c\u00f3modo especulando sobre el futuro que nos espera.<\/p>\n \u00bfCu\u00e1les son los principales riesgos tecnol\u00f3gicos con los que debe lidiar la humanidad?<\/p>\n Depende del contexto temporal que tengamos en mente. Si estamos pensando en las aplicaciones actuales, deber\u00edamos estar preocupados por una serie de cosas que no tienen nada que ver con los peligros que vemos si miramos hacia el futuro, donde las m\u00e1quinas tendr\u00e1n niveles de inteligencia muy superiores a los de los humanos.<\/p>\n Hoy, uno de nuestros principales focos de atenci\u00f3n apunta a que nuestros sistemas de informaci\u00f3n sean transparentes y a la vez nos permitan ciertos niveles de privacidad. Es muy importante que configuremos correctamente nuestra arquitectura informativa. Ahora nos interesa pensar en la forma en que se establecen las relaciones sociales en internet, la creaci\u00f3n de filtros burbuja\u2026<\/p>\n \u00bfY si echamos la vista al futuro?<\/p>\n Nos encontramos con un tipo de preocupaciones completamente distintas. No es dif\u00edcil pensar en una inteligencia artificial que sea cada vez m\u00e1s poderosa cuyos objetivos no est\u00e9n perfectamente alineados con los objetivos humanos. Y el reto aqu\u00ed consiste en tener la tecnolog\u00eda que nos haga capaces de dise\u00f1ar estos poderosos sistemas artificiales alineados con los valores humanos y que siempre hagan lo que nosotros queremos que hagan.<\/p>\n \u00bfEs la inteligencia artificial nuestra \u00fanica preocupaci\u00f3n a largo plazo?<\/p>\n Existen otras \u00e1reas que tambi\u00e9n tienen un gran potencial riesgo para la humanidad. La biotecnolog\u00eda ser\u00eda una de ellas. Si descubrimos c\u00f3mo hacer mejores herramientas para manipular virus, bacterias y otros microrganismos, har\u00edamos posible la creaci\u00f3n de pat\u00f3genos de dise\u00f1o, que podr\u00eda utilizar alg\u00fan grupo terrorista para crear un nuevo tipo de enfermedad. Con cada nuevo avance t\u00e9cnico nos vamos aproximando a estos escenarios y, a medida que la tecnolog\u00eda madura, crece su potencial destructivo.<\/p>\n \u00bfConsidera que estamos avanzando demasiado r\u00e1pido como sociedad?<\/p>\n Creo que cada vez que realizamos un gran descubrimiento, estamos metiendo la mano en una urna llena de pelotas y sacando una. Con cada pelota que sacamos, vamos alcanzando el progreso social. Toda la historia de la humanidad se ha basado en el proceso de hacer estos inventos.<\/p>\n La cuesti\u00f3n es que muchas de estas pelotas son beneficiosas, pero hay otras que pueden ser perjudiciales. Imagina lo que pasar\u00eda si una de las pelotas que sacamos es una tecnolog\u00eda que significa invariablemente la destrucci\u00f3n de la civilizaci\u00f3n que la descubri\u00f3. El problema aqu\u00ed es que todav\u00eda no hemos descubierto una manera de volver a meter la pelota en la urna si no nos gusta: una vez que se ha inventado una tecnolog\u00eda, no puede \u201cdesinventarse\u201d.<\/p>\n \u00bfHemos sacado ya alguna de esas pelotas?<\/p>\n No es dif\u00edcil adivinar c\u00f3mo ser\u00eda. Piensa, por ejemplo, en lo que pasar\u00eda si el desarrollo de armas nucleares hubiera sido posible con materiales m\u00e1s f\u00e1ciles de conseguir. Si en lugar de plutonio o uranio enriquecido, que no son precisamente accesibles, pudiera crearse una bomba at\u00f3mica con un poco de arena, ser\u00eda el fin de la civilizaci\u00f3n, porque bastar\u00edan unas pocas personas que quisieran causar da\u00f1o para posibilitar una gran destrucci\u00f3n.<\/p>\n \u00bfPodemos evitar que la inteligencia artificial termine siendo una de estas tecnolog\u00edas?<\/p>\n Si la inteligencia artificial termina siendo capaz de hacer todo o buena parte de nuestro trabajo intelectual mejor que nosotros, tendremos en nuestras manos el \u00faltimo invento que tendr\u00e1 que realizar la humanidad.<\/p>\n \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0No podemos dejar que llegue un d\u00eda en el que los robots domine a la Humanidad<\/p>\n El problema est\u00e1 en la transici\u00f3n hasta la era de la inteligencia artificial: tenemos que hacerlo bien a la primera porque no creo que tengamos una segunda oportunidad. Si desarrollamos una inteligencia artificial que no est\u00e9 alineada con nuestros prop\u00f3sitos, no creo que podamos volver a meter esa pelota en la urna y empezar de cero. No somos demasiado buenos como civilizaci\u00f3n anticipando problemas dif\u00edciles que todav\u00eda no nos han causado ning\u00fan da\u00f1o. Debemos movilizar nuestros esfuerzos para hacer que esto funcione desde el principio. Esta es la gran dificultad para nuestra civilizaci\u00f3n.<\/p>\n \u00bfQu\u00e9 tipo de pol\u00edticas deben tomar los gobiernos y compa\u00f1\u00edas tecnol\u00f3gicas al respecto?<\/p>\n Que la futura Inteligencia Artificial est\u00e9 bien planificada y que los ingenios creados est\u00e9n a nuestro servicio es la base principal para evitar los problemas que plantea esta disciplina del saber humano.<\/p>\n Se nos presenta la oportunidad de acercarnos a la revoluci\u00f3n de la inteligencia artificial de forma coordinada. Es el momento de trabajar en un proyecto internacional para desarrollar una superinteligencia segura en el que est\u00e9n implicados todos los actores que puedan aportar algo. Si esto sale bien, los beneficios para la sociedad ser\u00edan inmensos, pero podr\u00edamos sufrir consecuencias muy negativas si nuestra forma de abordar el problema consistiera en permitir que las empresas y naciones compitieran para ver quien consigue mejores resultados.<\/p>\n<\/div>\n<\/div>\n<\/article>\n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n<\/p>\n<\/p>\n<\/p>\n<\/p>\n<\/p>\n<\/p>\n
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>
<\/a><\/span>