viernes, 29 de marzo del 2024 Fecha
Ir a la página principal Ir al blog

IMPRESIÓN NO PERMITIDA - TEXTO SUJETO A DERECHOS DE AUTOR




¿Nos arrepentiremos de crear la I.A.?

Autor por Emilio Silvera    ~    Archivo Clasificado en I. A.    ~    Comentarios Comments (5)

RSS de la entrada Comentarios Trackback Suscribirse por correo a los comentarios

 

 

 

Comparación de tamaños entre la enana blanca IK Pegasi B  (centro abajo), su compañera de clase espectral A IK Pegasi A (izquierda) y el Sol (derecha). Esta enana blanca tiene una temperatura en la superficie de 35.500 K.

 

 

Lo que no impide que, podamos ver espejismos que nos confundan

 

La Inteligencia Artificial, dijo John McCarthy cuando acuñó el término en las conferencias de Darmouth de 1956, es: “…la ciencia e ingeniería de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes.” Ese sentido no ha cambiado desde entonces. En cambio, las técnicas y aplicaciones de la Inteligencia Artificial son cada más variadas, profundas y sorprendentes. A pasos exponenciales inundarán nuestras vidas y pronto serán tan omnipresentes que apenas las percibiremos, como hoy nos sucede con la televisión, los modernos teléfonos móviles y el Internet que forman parte de nuestras vidas y, de alguna manera nos podríamos preguntar: ¿Qué haríamos sin todo esto?

El punto muerto de la Inteligencia Artificial
                                                          Androide de la película «Yo, robot»

Puede que vivamos en un mundo donde cada persona se conectará mentalmente con una red de ordenadores con miles de mentes pensantes también conectadas. O puede que las máquinas realicen todas las tareas para nosotros y nos permitan vivir con total lujo durante toda nuestra vida. Pero ¿qué ocurriría si las máquinas nos vieran como algo innecesario – o algo peor-? Si las máquinas llegan al punto donde se puedan reparar ellas mismas o incluso crear versiones mucho mejores, ¿podrían llegar a la conclusión de los humanos son simplemente una molestia? Realmente es un escenario que asusta. ¿Podría ser cierta la versión de Vinge del futuro? ¿Hay alguna manera de evitarlo?

He dado muchas vueltas a la IA y a la consciencia de los seres vivos. Las conclusiones a las que he podido llegar son que el pensamiento consciente debe involucrar componentes que no pueden ser siquiera simulados adecuadamente por una mera computación; menos aún podría la computación por sí sola, provocar cualquier sentimiento o intención consciente. En consecuencia, la mente debe ser realmente algo que no puede describirse mediante ningún tipo de términos computacionales. Sin embargo, noticias que llegan de nuevos descubrimientos te hacen dudar de hasta dónde podrán llegar esos “seres” artificiales creados por el hombre.

¿Llegaremos a construir replicantes que, como el replicante Geminoid DK sean físicamente idénticos a los seres humanos?,  e incluso otros que, como Robonaut 2 que han salido de la Tierra en su primer viaje espacial; gracias a la fibra óptica incluso puedan llegar a sentir frío y calor, y, en general, ¿haremos infinidad de pequeñas máquinas capaces de hacer o imitar cualquier tipo de mocimiento humano con total fluidez? Algunas de esas cosas ya se han conseguido. Pero siguen teniendo un nivel muy bajo de inteligencia, insuficiente como para que gocen de autonomía. Sin embargo…

Da miedo pensar que esto llegue
¿Hasta dónde llegaremos?

De todas las maneras, no dejamos de insistir y queremos llegar a conseguir poder insertar los sentimientos en esos seres artificiales que cada día creamos con mayor perfección. ¿No somos conscientes del peligro que conlleva imitar a los humanos de esa manera? Las consecuencias son impredecibles y, como tántas otras cosas, cuando querámos darnos cuenta…será tarde.

“Un Robot no puede hacer daño a un ser humano o, mediante la inacción que un ser humano sufra daños” … No estaría yo tan seguro de eso.

Investigadores europeos están desarrollando un software que dará a los robots la capacidad de aprender cuándo una persona está triste, feliz o enfadada. El proyecto Feelix Growing está uniendo sencillos robots que pueden detectar diferentes parámetros (expresiones faciales, voz y cercanía) para determinar estados emocionales. El objetivo del proyecto es desarrollar un robot que pueda servir a los humanos con necesidades especiales, como los enfermos y los ancianos mediante redes neuronales adaptables, el robot puede aprender la manera correcta de responder a las emociones de la gente a partir de la experiencia. Por ejemplo, si alguien tiene miedo, el robot puede aprender a cambiar su comportamiento para parecer menos amenazante. Si alguien parece feliz, el robot puede tomar nota mental (¿positrónica, espintrónica…?) de lo que logró esa respuesta. Y si alguien parece enfadado o solitario, puede darle una palmadita en la espalda, ofrecerle una bebida fuerte y decir: “No te preocupes, te mereces a alguien mejor”. Sólo podemos esperar que no se hayan olvidado de las tres leyes de Asimov.

Bien es verdad que no tenemos una comprensión científica de la mente humana. Sin embargo, esto no quiere decir que el fenómeno de la consciencia deba permanecer fuera de la explicación científica. Ya se están buscando caminos científicos para dar esa explicación del misterio más profundo (seguramente) del Universo. Y, a pesar de no conocer a fondo nuestra mente, ya estamos tratando de incorporar, a mentes artificiales lo poco que de ella sabemos. ¿No será una temeridad?

                   A su imagen y semejanza.  La Geminoid F es la androide con apariencia femenina

Estamos en el camino: Prototipos al servicio de la sociedad, como una androide-enfermera, el robot-mayordomo para el hogar… Todo eso está a la vuelta de la esquina y, yo me pregunto: ¿Cómo será ese futuro nuestro?

La comprensión es, después de todo, de lo que trata la ciencia; y la ciencia es mucho más que la mera computación mecánico-electrónica. Sin embargo, parece que la realidad desmiente estos pensamientos y, podría llegar el momento en el que, la Inteligencia Artificial,  alcance niveles preocupantes al dotar, a esos “seres” artificiales de pensar por sí mismos y, si me apuran, hasta de tener sentimientos.

Somos tan “Inteligentes” que de seguir por el camino que hemos emprendido, podríamos poner en otras manos el destinos del “mundo”, de la energía, de los viajes espaciales y, sobre todo… ¡De nuestro futuro! Yo, como el entrañable Stephen Hawking creo que, deberíamos tener mucho cuidado con los avances en el acampo de la robótica y la Inteligencia artificial. No podemos crear una nueva especie que, dotada de pensamientos propios… ¡Nos pueda superar!

¿Cuál es el campo de acción de la ciencia? ¿Son solamente los atributos materiales de nuestro Universo los que son abordables con sus métodos, mientras nuestra existencia mental debe quedar para siempre fuera de su alcance? ¿O podríamos llegar algún día a una comprensión científica adecuada del profundo misterio de la mente? ¿Es el fenómeno de la consciencia humana algo que está más allá del dominio de la investigación científica, o podrá la potencia del método científico resolver algún día el problema de la propia existencia de nuestro yo consciente?

Claro que, hacemos estas preguntas y, por otro lado, al ver todo lo que está pasando y todo lo que pretendemos hacer, cabría preguntarse: ¿Somos en verdad conscientes?

 

Sí, tenemos la facultad de meditar profundamente y, a través de esas meditaciones alcanzar un estadio de mayor “consciencia” y comprensión, un estado tal que nos puede llevar a una conexión tan real con el Universo que es como si viajáramos fuera de este mundo para visitar, ese otro mundo hecho de pura luz donde podríamos encontrar la sabiduría que necesitamos. ¡Falta nos hace!

Creo que se avecina un cambio importante, y, nuestros cerebros que forman parte del mundo material del Universo, tiene un ingrediente que aún no hemos llegado a comprender. Incluso con nuestra limitada comprensión actual de la naturaleza de este ingrediente ausente en nuestro saber, sí podemos empezar a señalar donde debe estar dejando su huella, y como debería estar aportando una contribución vital a lo que quiera que sea en que subyacen nuestros sentimientos y acciones conscientes. ¿Por qué tratamos de regalar ese don? El que no lo comprendamos no quiere decir que lo tengamos que dar y, menos, a “seres aerificiales” de cuya evolución no podemos responder.

http://1.bp.blogspot.com/_xyYFMwz4t6g/S7-euKLPDFI/AAAAAAAACkY/ur2Aaiw1zHg/s1600/conciencia+03.jpg

Una visión científica del mundo que no trate de entender en profundidad el problema de la mente consciente no puede tener pretensiones serias de compleción. La consciencia es parte de nuestro Universo, de modo que cualquier teoría física que no le conceda un lugar apropiado se queda muy lejos de proporcionar una descripción auténtica del mundo que, nosotros (tan engreídos como siempre) queremos cambiar.

Claro que, todo conocimiento científico es un arma de dos filos. Lo que realmente hacemos con nuestro conocimiento científico es otra cuestión. Tratemos de ver hasta dónde pueden llevarnos nuestras visiones de la ciencia y la mente.

Pensemos que incluso en aquellos países afortunados donde hay una paz próspera y una libertad democrática, los recursos naturales y humanos son malgastados de formas aparentemente absurdas. ¿No es ésta una clara muestra de la estupidez general del hombre? Aunque creemos representar el pináculo de la inteligencia en el reino animal, esta inteligencia parece tristemente inadecuada para manejar muchos de los problemas a los que nuestra propia sociedad nos obliga a hacer frente.

https://lh3.googleusercontent.com/-3BqNOOb20GY/TYUWvqw79TI/AAAAAAAAC68/oCk83hNK6W8/s1600/recursos+naturales.jpg

  Esta simple escena, en algunos lugares, resulta una maravilla

Pese a todo, no pueden negarse los logros positivos de nuestra inteligencia. Entre dichos logros se encuentran nuestras impresionantes ciencia y tecnología. En realidad, algunos de estos logros son alto cuestionables a largo (o corto) plazo, así lo atestiguan múltiples problemas medioambientales y un genuino temor a una catástrofe mundial inducida por las nuevas tecnologías traídas de la mano por nuestra moderna sociedad (aquí mismo, en éste foro, nos hicimos eco del temor de muchos sobre las consecuencias que  podría traer el LHC) pero, y la IA ¿qué nos traerá?

Pero, no podemos mirar para otro lado sin ver que, nuestras tecnologías no sólo nos proporcionan una enorme expansión del dominio de nuestro yo físico sino que también amplia nuestras capacidades mentales mejorando en gran medida nuestras habilidades para realizar muchas tareas rutinarias. ¿Qué pasa con las tareas mentales que no son rutinarias, las tareas que requieren inteligencia genuina?

A veces me pregunto si podrían ser los Robots la respuesta. ¿No existe la posibilidad completamente diferente de una enorme expansión de una capacidad mental, a saber, esa inteligencia electrónica ajena que apenas está empezando a emerger de los extraordinarios avances en tecnología de ordenadores? De hecho, con frecuencia nos dirigimos ya a los ordenadores en busca de asistencia intelectual.

¿No os parece sorprendente que, de mecanismos como este podamos obtener información imposible por nuestros propios medios?

El mundo de la tecnología

No me gustaria dejar el mundo en estas manos

Hay muchas circunstancias en las que la inteligencia humana sin ayuda no resulta nada adecuada para prever las consecuencias probables de acciones alternativas. Tales consecuencias pueden quedar mucho más allá del alcance del poder computacional humano; así pues, cabe esperar que los ordenadores del futuro amplíen enormemente este papel, en donde la computación pura y dura proporcione una ayuda incalculable para la inteligencia humana.

Pero ¿no cabe la posibilidad de que los ordenadores lleguen finalmente a conseguir mucho más que todo esto? Muchos expertos afirman que los ordenadores nos ofrecen, al menos en principio, el potencial para una inteligencia artificial que al final superará a la nuestra. Una vez que los robots controlados por ordenador alcancen el nivel de “equivalencia humana”, entonces no pasará mucho tiempo, argumentan ellos, antes de que superen rápidamente nuestro propio y exiguo nivel. Sólo entonces, afirman estos expertos, tendremos una autoridad con inteligencia, sabiduría y entendimiento suficientes que sea capaz de resolver los problemas de este mundo que ha creado la humanidad pero que no sabe ni está capacitada para regular en la adecuada forma.

      Avanzamos en tecnología y no sabemos erradicar la inmigración del hambre

A todo esto señalan el rapidísimo crecimiento exponencial de la potencia de los ordenadores y basan sus estimaciones en comparación entre la velocidad y precisión de los transistores, y la relativa lentitud y poca sólida acción de las neuronas. De hecho, los circuitos electrónicos son ya más de un millón de veces más rápido que el disparo de las neuronas en el cerebro (siendo la velocidad de aproximadamente 109 segundos para los transistores y de 103 segundos para las neuronas, y tienen una exactitud cronométrica y una precisión de acción que de ningún modo comparten las neuronas.

El Chip Intel Pentium tiene más de tres millones de de transistores en una “rodaja de silicio” del tamaño aproximado de una uña del pulgar, capaz cada uno de ellos de realizar 113 millones de instrucciones por segundo (no se si cuando esto escribo ya estará superado ese record).

 


El microprocesador Pentium (que aquí se muestra con una ampliación de 2,5 veces) es fabricado por Intel Corporation. Contiene más de tres millones de transistores, y puede hacer que algunas partes de sus circuitos vayan más lentas o se detengan cuando no son necesarias, con lo que ahorra energía.
Se argumenta que el número total de neuronas de un cerebro humano (unos cientos de miles de millones) supera absolutamente al número de transistores de un ordenador. Además, existen muchas más conexiones, en promedio, entre neuronas diferentes que las que existen entre los transistores de un ordenador. En particular las células de Purkinje en el cerebelo pueden tener hasta ochenta mil terminaciones sinápticas (uniones entre neuronas), mientras que para un ordenador, el número correspondiente es de tres o cuatro a lo sumo. Además, la mayoría de los transistores de los ordenadores actuales están relacionados solamente con la memoria y no directamente con la acción computacional, mientras que tal acción computacional podría estar mucho más extendida en el caso del cerebro.

 El cerebro humano es una maravilla de la Naturaleza. De hecho estamos hablando de uno de los objetos más complejos del Universo. Que los materiales fabricados en las estrellas se conformaran en la debida manera en un planeta ideal, ha dado lugar a que seres como nosotros, sean poseedores de unas funciones cerebrales de inimagible poder de creación. Aquí confinados en un pequeño mundo, hemos sido capaces de “viajar” hasta los confines del Universo para ver qué ocurre en regiones lejanas. De la misma manera, hemos sabido desvelar secretos profundamente escondidos en las entrañas de la Naturaleza. Sabemos del “universo” de lo muy pequeño y también, del inmenso Cosmos. Sabemos de la materia y del Espacio “infinito” y, hemos podido llegar a saber que, cuando nosotros desaparezcamos, ninguna estrella llorará por nosotros. Sin embargo, es nuestra obligación tratar de quenuestra especie perdure y, desde luego, bajo ningún concepto podemos contribuir a que, nuestras actividades en la I.A., sea la causante de nuestra desaparición futura.

                      Habrá que estar muy atentos y no creernos dioses

Si hiciéramos caso de las afirmaciones más extremas de los defensores más locuaces de la IA, y aceptáramos que los ordenadores y los robots guiados por ordenador superarán con el tiempo (quizá en relativo  poco tiempo) todas las capacidades humanas, entonces los ordenadores serían  capaces de hacer muchísimo más que ayudar simplemente a nuestras inteligencias. Podríamos entonces dirigirnos a estas inteligencias superiores en busca de consejo y autoridad en todas las cuestiones de interés; ¡y finalmente podrían resolverse los problemas del mundo generados por la humanidad!

Pero parece haber otra consecuencia lógica de estos desarrollos potenciales que muy bien podría producirnos una alarma genuina. ¿No harían estos ordenadores a la largo superfluos a los propios humanos? Si los robots guiados por ordenador resultaran ser superiores a nosotros en todos los aspectos, entonces ¿no descubrirían que pueden dirigir el mundo sin ninguna necesidad de nosotros? La propia humanidad se habría quedado obsoleta. Quizá si tenemos suerte, ellos podrían conservarnos como animales de compañía, incluso podrían exhibirnos en museos para recordar a sus creadores.

 

                    Si algún día los robots llegaran a tener sentimientos… ¡Mal nos irían las cosas!

Yo, como he dejado claro otras veces. Soy partidario de pensar que, una cosa es la Inteligencia Artificial y otra muy distinta es el pensamiento consciente, muy superior a aquella que trabaja sólo con los datos suministrados previamente, sin el poder de repentizar una solución que no esté en su programación. ¿Llegarán los robots algún día a pensar por sí mismos, como ahora lo hacemos nosotros?

La cuestión no es nada sencilla y plantea muchas variantes de entre las que, así, de momento, podríamos exponer aquí las siguientes:

  • Todo pensamiento es computación; en particular, las sensaciones de conocimiento consciente son provocadas simplemente por la ejecución de computaciones apropiadas.
  • El conocimiento es un aspecto de la acción física del cerebro; y si bien cualquier acción física puede ser simulada computacionalmente, la simulación computacional no puede por sí misma provocar conocimiento.
  • La acción física apropiada del cerebro provoca conocimiento, pero esta acción física nunca puede ser simulada adecuadamente de forma computacional.
  • El conocimiento no puede explicarse en términos físicos, computacionales o cualesquiera otros términos científicos.

 

                                             Materia, energía, luz… para llegar a ser conscientes… ¡Habrá que tener cuidado!

Está claro que adentrarnos aquí a ciertas profundidades del pensamiento, no parece adecuado ni al momento ni al lugar, sin embargo, debemos pensar en que, la propia materia parece tener una existencia meramente transitoria puesto que puede transformarse de una forma en otra. Incluso la masa de un cuerpo material , que proporciona una medida física precisa de la cantidad de materia que contiene el cuerpo, puede transformarse en circunstancias apropiadas en pura energía (según E=mc2) de modo que incluso la sustancia material parece ser capaz de transformarse en algo con una actualidad meramente matemática y teórica.

De todas las maneras, por mi parte, me quedo con el punto tercero de los enumerados anteriormente, es un punto de vista más operacional que el anterior, puesto que afirma que existen manifestaciones externas conscientes (por ejemplo, cerebros) que difieren de las manifestaciones externas de un ordenador: los efectos externos de la consciencia no pueden ser correctamente simulados por un ordenador (creo).

“La acción física apropiada del cerebro provoca conocimiento, pero esta acción física nunca puede ser simulada adecuadamente de forma computacional.”

¿Permite la Física actual la posibilidad de una acción que, en principio, sea imposible de simular en un ordenador? La respuesta no está completamente clara, sin embargo, según creo, es que tal acción no computacional tendría que encontrarse en un área de la física que está fuera de las leyes físicas actualmente conocidas.

Claro que, en este simple comentario, no queda claro quien será el vencedor final:  Fisicalismo frente a Mentalismo. Seremos tan estúpidos como para poder crear máquinas que nos superen en inteligencia hasta el punto de que puedan dominarnos.

Ahí queda la pregunta del título del trabajo flotando en el aire. ¿Quién la quiere contestar?

emilio silvera

PD.

Dar las gracias a Penrose por sus ideas.

 

  1. 1
    emilio silvera
    el 23 de diciembre del 2014 a las 9:58

    Desde siempre, desde que pude copmprender y tener consciencia, he admirado, me ha maravillado y me ha causado un gran asombro, nuestro cerebro, ese portento de la Naturaleza que, a partir de la materia “inerte” hizo un inmenso recorrido hasta los “pensamientos y sentimientos”. ¿Cómo podríamos explicar esa grandiosidad?
    Cuando hablamos de Inteligencia Artificial y contemplamos los intentos científicos por superarnos a nosotros mismos, la verdad, no pocas veces he llegado a sentir miedo, por lo lejos que todo esto podría llegar. No creo que seámos conscientes de la gravedad que supondría que nuestras ideas e ingenio fueran llevadas hasta el extremo de crear a seres superiores a nosotros mismos. Si eso sucediera… ¡Qué seríamos de nosotros! Lo que está claro es que, si esos seres de acero y circuitos consiguen alguna vez, que los dotemos de conocimiento para discernir, y, hasta de sentimientos como algunos postulan… ¡La especie Humana podría haber llegado a su fín!
    “Ellos” dotados de una resistencia mayor, sin temor a la enfermedad, con una vida casi “eterna” al poder reciclarse e incluso ir mejorando sus sistemas, podrían llegar a tener toido el poder del mundo en sus manos, salir al Espacio y conquistar mundos y crear, tecnologías que ahora nosotros ni podemos imaginar, Y, todo eso, sería posible gracias a que, en algún Laboratorio perdido, algún loco, sin pensar en las consecuencias, dotó al Ser Artificial de los dones mágicos de poder pensar y sentir.
    Otros en cambio, dicen y postulan que estamos obligados a hacerlo, que la especie Humana es sólo una transición en la evolución futura a la que estamos abocados y que, nuestra exteinción, más tarde o más temprano, está escrito en las pagínas del tiempo futuro. Que siendo así, tenemos que perpetuar nuestra especie de la única manera posible, es decir, creando otra raza que pueda finalizar el trabajo que nosotros nunca podremos.
    ¿Dónde estará la verdad?
    Ya me gustaría a mí saberla.
    emilio silvera.

    Responder
  2. 2
    nelson
    el 24 de diciembre del 2014 a las 3:47

    Hola muchachada.
    Pudiera ser que la I.A. fuera la manera de trascenderse a sí mismo del Ser Humano, el siguiente paso evolutivo en la historia del Universo y de la Vida. Una vez llegado el Universo al estadio autoconsciente con el Hombre, encontraría a través del ingenio humano la solución a sus limitaciones con la creación de homólogos dotados de sus mejores atributos pero despojados de sus debilidades y necesidades. Estas criaturas no deberían ser temibles; al no ser humanas carecerían de maldad, rencor, malicia… así como de Amor y Bondad, pasiones exclusivamente humanas …. Serían herramientas maravillosas con posibilidades inimaginables pero en definitiva quedaría siempre en nuestra especie la resolución del dilema fundamental: ¿para qué?
    Feliz Navidad para tí, amigo, para tu familia y para todos los amigos de esta página imprescindible.
     

    Responder
    • 2.1
      Emilio Silvera
      el 24 de diciembre del 2014 a las 5:42

      ¡Hola, amigo Nelson!

      No pocas veces he dado vueltas a esa hipótesis que planteas y, en realidad, es una perspectiva bastante lógica de lo que podría ser nuestra realidad, por ahí lo apunto aunque no tan claramente como lo haces tú, que despojas as los robots de todo atributo humano y los dejas como lo que son, máquinas que pueden llegar a ser perfectas con un sólo pensamiento lógico sin sentimientos que enturbien sus decisiones.

      Seguramente será por el hecho de que soy uno de ellos pero, me quedo con los humanos más indecisos e imperfectos que están dominados por los sentimientos y pasiones que, al fín y al cabo son atributos (no siempre deseables) de la especie pero que, es posible, que la Naturaleza los pusiera en nosotros para que pudiéramos llegar hasta aquí.

      Tal como se ven las cosas, y como bien apuntas, es difícil que los humanos podamos dar ese salto a las estrellas del que tanto hablamos, no estamos capacitados físicamente para hacer esos viajes y soportar las terribles consecuencias del Espacio, ni del tiempo requerido para poder desplazarnos de un mundo a otro mundo, y, mucho menos, entre galaxias.

      Es posible que todo ese futuro sea cosa de los Robots inteligentes que vendrán detrás de nosotros, cuando pasen algunas generaciones más, dentro de algunos cientos de años, y, definitivamente, se´çamos conscientes de que esas tareas de las que hablamos y que no podemos llevar a buen término, serán realizadas por estos nuevos “seres”, esta nueve “especie” que, aunque artificial, sí estará totalmente preparada para ello y, nosotros, sus constructores, sólo hemos sido una transición obligada de lo que tendrá que venir.

      Muchas felicidades para tí y para todos los tuyos querido amigo, que la Salud te acompañe.

      Un abrazo de tu amigo emilio silvera.

      Responder
  3. 3
    kike
    el 24 de diciembre del 2014 a las 15:14

    ¡¡¡FELIZ NAVIDAD!!

    ¡Beep,Beep!
     

    Responder
  4. 4
    emilio silvera
    el 24 de diciembre del 2014 a las 16:04

    Pues sí que te has adelantadso en el Tiempo.

    ¡Hombre Kike, algún día podemos ser Robots pero, aún falta para que eso sea una realidad.

    Quedate como Humano quie… Según veo por ahí, los hay mucho peores.-

    Un gran abrazo y felicicades 

    Responder

Deja un comentario



Comentario:

XHTML

Subscribe without commenting