Lamberto García Cid

Publicado el: 05/03/06

---

I - Las máquinas y la conciencia
¿Pueden las máquinas, al evolucionar, desarrollar algún tipo de conciencia? ¿Podría ser aplicable la teoría de la evolución a los objetos mecánicos? ¿Puede la complejidad creciente de los ordenadores, como punta de lanza de lo mecánico inanimado, desembocar en un nuevo tipo de conciencia? Yo, hostigador del chovinismo antropocéntrico, opino que sí. Y no soy el único. Tampoco de los primeros. Ya Aristóteles, en su Política, hace referencia a máquinas pensantes como una alternativa a la esclavitud, máquinas autónomas capaces de atender las necesidades de sus amos.

Tornemos al presente. Para George Dyson: "En el juego de la vida y la evolución hay tres jugadores en la mesa: los seres humanos, la naturaleza y las máquinas. Yo estoy al lado de la naturaleza. Pero la naturaleza, sospecho, está del lado de las máquinas." En la misma línea, pero más contundente, Hans Moravec, del Instituto de Robótica de la Universidad Carnegie Mellon, nos advierte: "El mundo posbiológico será un mundo en el que el género humano habrá sido arrastrado por la marea del cambio cultural, usurpado por su propia progenie artificial. Cuando esto suceda, nuestro ADN se encontrará fuera de lugar, pues habrá perdido la carrera evolutiva ante un nuevo tipo de competencia." Opinión que parece querer responder a la pregunta planteada por el célebre escritor Arthur C. Clark: "El implacable avance de la inteligencia artificial nos obliga a formular la inevitable pregunta: ¿estamos probando la siguiente especie de vida inteligente sobre la Tierra?"

Prosigamos. Francis Crick, premio Nobel de medicina por su descubrimiento (junto con James Watson) de la doble hélice del código genético, nos brinda ésta hipótesis asombrosa: que nosotros, nuestros pesares y alegrías, nuestras memorias y nuestras ambiciones, nuestra sensación de identidad personal y libre albedrío, no son en realidad sino el comportamiento de un vasto ensamblaje de células nerviosas y sus moléculas asociadas. Lo que vendría a corroborar lo que desde hace tiempo vienen repitiendo los científicos dedicados a la inteligencia artificial: "Las máquinas pensantes existen ya: se llaman "seres humanos". Y por si lo anterior no bastase, traigamos en nuestra ayuda la competente opinión del premio Nóbel Jacques Monod: "Los seres vivos, tanto por su estructura macroscópica como por sus funciones, son estrechamente comparables a máquinas".

Se sabe que en el cerebro existen 10.000 millones de neuronas, cada una de las cuales, por término medio, tiene un millar de uniones con otras neuronas, lo cual equivale a cien mil kilómetros de cables. En los ordenadores avanzados los sucesos individuales son un millón de veces más rápidos que en el cerebro, pero la conectividad masiva y el modo simultáneo de actividad del cerebro permite a la biología, por ahora, superar a la electrónica. Si el ordenador más rápido (hoy) realiza aproximadamente mil millones de operaciones por segundo, esta actividad resulta insignificante si lo comparamos con los cien mil millones de operaciones que tienen lugar en el cerebro de una mosca en reposo. Pero así es como están las cosas hoy, postrimerías del siglo XX. Al paso que evoluciona la complejidad de los ordenadores, el alcanzar la actividad del cerebro es una cuestión de tiempo, de más o menos tiempo. No olvidemos que cualquier cerebro, máquina u otra cosa que posea una "mente" debe estar compuesto de cosas más pequeñas que no pueden pensar en absoluto. Y el hombre, siguiendo este argumento, apenas si sería una ingente cantidad de amebas, la mayoría de ellas terriblemente estúpidas.

Con referencia a las fases de la evolución del hombre y demás seres vivos, el ritmo evolutivo de las máquinas resulta, por comparación, saltos gigantescos. Ya en el siglo XIX, el visionario Samuel Butler, en su libro Erewhon, pone en boca de un historiador de las máquinas la siguiente reflexión: "No existe seguridad en contra de un eventual desarrollo de una conciencia mecánica. Un molusco no tiene mucha conciencia. Fijémonos en el extraordinario avance que las máquinas han realizado durante los últimos siglos y lo lento del avance del reino animal y vegetal. Las máquinas mejor organizadas son criaturas, por así decirlo, de ayer, en comparación con el pasado. Asumamos como hipótesis de trabajo que los seres conscientes han existido desde hace 20 millones de años. Contemplemos ahora los avances de las máquinas en los últimos mil. ¿Acaso no durará el mundo otros 20 millones de años? Y si es así, ¿qué no veremos?" Y luego añade: "¿Quién puede asegurar que la máquina de vapor no posee algún tipo de conciencia? ¿Dónde comienza y donde acaba la conciencia? ¿Quién puede señalar las lindes? Las máquinas de hoy son a las del futuro como los primeros saurios en relación al hombre". Y Butler hablaba de máquinas de vapor, lo más evolucionado en su tiempo. ¿Cómo hubiera sido su glosa de haber conocido los avanzados ordenadores de hoy? Quizás del tipo de la que nos brinda Hans Moravec: "Hoy nuestras máquinas son simples creaciones que necesitan del cuidado paterno y la atención de un recién nacido, y apenas merecedor del calificativo de "inteligente". Pero en el próximo siglo madurarán hasta convertirse en entidades tan complejas como nosotros, y eventualmente en algo que trascenderá todo lo que conocemos, en algo de lo que nos sentiremos orgullosos cuando nos refiramos a ellos como nuestros descendientes".

La negativa reacción de la gente a la mera mención del desarrollo de algún tipo de conciencia en las máquinas se debe a un prejuicio irracional y fútil contra todo lo inanimado o mecánico. Sin embargo, como advierte Alan Turing, todo símbolo, toda información, todo significado y todo tipo de inteligencia que pueda ponerse en palabras o números, puede ser codificado (y por ello transmitido) en secuencias binarias de longitud finita. ¿No es entonces la mente un mero patrón susceptible de ser impreso sobre diferentes medios de almacenaje? O, resumiéndolo a la manera de Douglas Lenat: "La inteligencia es 10 millones de reglas". Pero ni aun así. Los portadores de prejuicios religiosos prefieren defender teorías extravagantes, como que la conciencia (o alma) fue insuflada por Dios al hombre cuando éste era una mera carcasa de barro. Sin embargo, los últimos descubrimientos de la ciencia parecen indicar que la conciencia brota como un producto adicional de la evolución. Este punto de vista es sostenido por prestigiosos científicos, como Francis Crick o Stuart Kauffman, punto de vista que comparto. No admitir que la conciencia surja con el mero aumento en la complejidad oculta un miedo hostil a compartir un "don divino" con seres de inferior categoría o con objetos mecánicos. Sus detractores parecen temer más la pérdida de un monopolio que el aceptar unos hechos científicamente probables. En palabras de Alan Turing: "La mala disposición a admitir la posibilidad de que la humanidad tenga rivales en el terreno intelectual se da tanto entre los intelectuales como en la gente no educada: peor para ellos."

Rodney Brooks, profesor del Instituto de Tecnología de Massachusetts (MIT), asegura que el comportamiento biológico puede evolucionar exactamente igual por medio de la programación que por la interacción del medio ambiente. Antes -prosigue este innovador en el campo de la inteligencia artificial- se afirmaba que los ordenadores no podrían jugar al ajedrez; ahora, demostrado que esto no es cierto, se dice que son incapaces de sentir. Nosotros estamos tratando de traspasar esa frontera." ¿Será esta capacidad de "sentir" la prueba definitiva de que las máquinas pueden tener conciencia? Aunque dudo que los detractores del posible brote de conciencia en las máquinas se dejen convencer incluso con pruebas, porque ellos no buscan pruebas, buscan certezas reveladas. Y aquí la ciencia no les puede ayudar. En el mismo MIT, la investigadora Cynthia Breazeal, ha confeccionado con pedazos de aluminio repletos de chips de silicona y motores eléctricos una cabeza de forma y tamaño humanas que ha bautizado con el nombre de Kismet. Este autómata es capaz de desarrollar emociones simples. Mirándolo directamente a los ojos se le brinda un estímulo facial humano y Kismet endereza las cejas y devuelve la mirada con creciente interés. El bebé robot (es para su creadora como un niño pequeño, tiene ojos grandes, azules y una boca capaz de sonreír) mueve las orejas arriba y abajo cuando quiere dar la bienvenida y sonríe. Si se le habla como a un niño chico se mantiene interesado, pero se enfada, por ejemplo, si el interlocutor comienza a girar sobre sí mismo o le da la espalda. En este último caso, privado del foco de interés humano, se entristece. Cynthia asegura que estas manifestaciones de "sentimientos" no son comportamientos pregrabados. Obviamente están controlados informáticamente, no se producen al azar, pero la interacción es tan rica que uno no sabe nunca cómo va a reaccionar a continuación. Cynthia es de la opinión de que cuando a Kismet se le instalen algoritmos de aprendizaje (para Kismet, el aprender será un "sentimiento" agradable), el bebé robot se irá haciendo más complejo y deparará algunas sorpresas.

La génesis de la vida o de la inteligencia entre o en el interior de los ordenadores sigue aproximadamente este camino: 1) haz las cosas lo suficientemente complicadas, y 2) o bien aguardas a que algo ocurra por accidente, o provocas que algo ocurra según un plan. (George Dyson)

¿Asusta esta incorporación de sentimientos en las máquinas como el bebé robot arriba descrito? Sólo a quienes se oponen cerrilmente a la idea de que las máquinas puedan desarrollar conciencia, no a las mentes amplias, generosas, valientes, como la de Isaac Asimov, quien escribió que cuando los ordenadores fueran construidos con capacidades cada vez mayores, será cada vez más difícil sostener que no son inteligentes. Incluso va más allá este fundador de robots literarios: "El reemplazo de la humanidad por una hiper-humanidad o por ordenadores es un fenómeno natural que sólo podemos objetar por razones frívolas y sin importancia. Pero hasta ahora sólo se ha argumentado que el reemplazo de la humanidad no es necesariamente un mal. ¿Podemos ir más allá y decir que es un bien categórico?" Yo respondería que sí. Y si no un reemplazo total, sí una simbiosis de hombre máquina o una estrecha relación de camaradería. O por decirlo en palabras de Cynthia Breazeal: "Llegará un momento en que los robots coexistirán con nosotros. Y no serán simples artefactos; serán amigos." Claro que no todos son tan optimistas, o ingenuos. Hans Moravec lo ve así: "Dedicados durante billones de años en una carrera armamentística sin descanso, nuestros genes finalmente han conseguido un arma tan poderosa que acabará tanto con los ganadores como los perdedores... Lo que nos espera no es el olvido sino un futuro que podríamos describir como "posbiológico". Un mundo en el que la raza humana habrá sido barrida por su propia progenie artificial".

Atsuo Takanishi, del Laboratorio de Investigación de Humanoides de la Universidad de Tokio, asegura que en 30 años tendremos robots humanoides muy útiles. Y Han Moravec asegura que los robots comenzarán a evolucionar paso a paso, como sucedió con los humanos, pero millones de veces más rápido. Según él, dentro de 50 años nos sobrepasarán en inteligencia. Si ello no es fácil de percibir quizás se deba a que el desarrollo de la inteligencia de los seres humanos y los ordenadores ha seguido, simplemente, un camino diferente. Porque las máquinas pueden recorrer su propio camino en la evolución hacia una conciencia, como ya advirtiera en época temprana Samuel Butler: "Cuando percibimos la enorme cantidad de fases por las que ha pasado la evolución en relación con la vida y la conciencia, se hace difícil asegurar que no pueda desarrollarse ninguna otra, y que la vida animal sea el término de todas las cosas". Tengamos en cuenta que el hombre desciende de "cosas" o ingredientes que no tenían conciencia en absoluto (llámense células eucariota o bacterias). Al principio no existía conciencia, esta surgió de algo que era no-conciencia. A este radical paso algunos, los cobardicas, lo llaman Génesis, pero los que no nos dejamos acunar con doctrinas sedantes opinamos que esta cualidad surge como un producto del aumento de la complejidad. Es un cambio cualitativo producido por cambios cuantitativos. Pero dejemos que sea de nuevo Samuel Butler, con su magnífica prosa, quien nos lo exponga a su manera: "Hubo un tiempo cuando la tierra, para cualquier observador, aparecía totalmente desprovista de vida tanto vegetal como animal, y de acuerdo con la opinión de nuestros más preclaros filósofos no era sino una simple pelota redonda con una corteza enfriándose gradualmente. Si un ser humano hubiera existido cuando la tierra estaba en dicho estado y se le hubiera permitido contemplarla como si de un mundo ajeno se tratara y si al mismo tiempo este testigo fuera completamente ignorante de las ciencias físicas, ¿no hubiera considerado que de esa carbonilla que contemplaba era imposible que evolucionaran criaturas en posesión de algo parecido a la que denominamos conciencia? ¿No hubiera negado que tal mundo contuviera cualquier potencialidad de conciencia? Sin embargo, en el transcurso del tiempo la conciencia arribó. ¿No es posible, entonces, que puedan existir nuevos canales abiertos para albergar conciencia aunque no podamos detectar ningún signo de ellos en el presente?" Sí, respondemos: la vía que siguen las máquinas. Incluso es curioso constatar ciertas semejanzas entre las dos evoluciones. Por ejemplo, la evolución de los vertebrados conllevó una importante reducción en su tamaño (recuérdense a los dinosaurios), y lo mismo se percibe con relación a las máquinas (principalmente, en los ordenadores): reducción de tamaño al tiempo que se incrementan las prestaciones. Los primeros ordenadores, con una capacidad de proceso similar a la de una calculadora de bolsillo actual, ocupaban vastos recintos. Hoy en cada mesa de trabajo, un ordenador del tamaño de un televisor nos ayuda a realizar tareas que, sin su soporte, serían prácticamente imposible acometer.

Hagamos constar, como colofón, que, dentro de la ciencia de la computación, se define a una "persona" como aquel programa de ordenador capaz de superar el criterio de Alan Turing. Y esto, señores, está muy cerca.

"Una máquina puede manejar información; puede calcular, concluir y elegir; puede realizar operaciones razonables con la suficiente información. Una máquina, por lo tanto, puede pensar". (Edmund C. Berkeley, Giant Brains)

II - Seres simulados
Llevando al extremo las ideas expuestas en el apartado anterior en lo referente a la creciente complejidad de la ciencia informática, ¿no resultaría factible que nosotros, orgullo de los mamíferos, paradigma del ser inteligente, seamos unos simples algoritmos de un programador externo, seamos, en suma, seres simulados? Si bien a primera vista parece que esto no es probable, también es cierto que no es imposible. En resumidas cuentas: ¿Quién puede asegurar que nosotros no estamos siendo simulados por un ordenador, un ordenador todo lo potente que se quiera y con la forma que tuviera, pero ordenador al fin y al cabo, y que nuestro universo, nuestra personalidad y nuestros actos no fueran sino simples respuestas a programas confeccionados por un superanalista? Muchos científicos sostienen que cualquier sistema físico puede reducirse a ristras de algoritmos que semejen programas de ordenador, y que, siguiendo este argumento, podrían confeccionarse programas cada vez más refinados, con mayor cantidad de datos, hasta conseguir simular sistemas que, en todos los sentidos, fueran indistinguibles de la realidad. La profecía de Negroponte, quien augura que alguna vez viviremos dentro de los ordenadores, puede que ya se hubiera cumplido en un pasado remoto y nosotros no seamos sino respuestas a programas complejos. Yo, al menos, sí que puedo imaginar programas tan complejos que sus productos sean indistinguibles de la realidad, y no me escandalizo. Pobres de aquellos que odian los ordenadores, que echan pestes de la informática, ellos, pobrecitos, que se creen únicos, seres en sí y para sí, o en sí y para Dios, y que no serían sino una ristra de algoritmos de un programa de tan extrema complejidad que, por cobardía, o ignorancia, denominan a su creador Dios o nomenclatura similar. A los que no nos importa ser simples (o no tan simples) instrucciones de un superprograma, simulaciones dentro de un ordenador, o simulaciones de simulaciones, tampoco nos preocupa dar un nombre a este super analista que nos ha diseñado. Que se llame Pepito, o Ughtrz, ¿qué más da? Aprovecha que está en marcha el programa y trata de "vivir" todas sus posibilidades antes de que se canse de este juego o desenchufe el aparato.

Bien, ¿por qué decimos que esto puede ser posible, que este sueño o premonición no es mero reflejo de nuestra misantropía o nuestro afán "epatante"? El físico Jacob Bekenstein demostró que los sistemas cuánticos poseen sólo un número finito de estados posibles. En concreto, un ser humano puede encontrarse a lo sumo en uno de 10 estados y puede experimentar como máximo 4 x 1053 cambios por segundo. Por consiguiente demuestra que un ser humano es una máquina de estado finito, y nada más. ¿Que aún es demasiado compleja para que los actuales programas puedan simularla? De acuerdo. Pero si es finito, es conseguible, y si es conseguible puede haber sido conseguido en un plano superior y nosotros ser sólo el reflejo de un software avanzado.

¿A alguien le asusta la idea de ser una mera instrucción en un programa cibernético? ¿A alguien le escandaliza? ¿No os habéis percatado de que cada vez existe una mayor conciencia de este hecho en las avanzadillas de la ciencia y las artes? No es casualidad, no, que en poco tiempo dos películas (dos películas importantes, como son "Matrix" y "El nivel 13") hayan recogido y desarrollado esta idea. De alguna manera pareciera que el superprogramador que controla nuestras vidas se entretuviera dándonos pistas de nuestra falsa realidad. Como si quisiera que lo descubriéramos, un punto que nos apuntaríamos nosotros, meras réplicas, y un final del juego para el demiurgo que nos ha creado, quizás a su imagen y semejanza. Siempre a su imagen y semejanza.

Despierta... o hago ¡Clic!

Para que lo piensen de antemano:

Tres leyes de Asimov para robots

Un robot no puede dañar a un ser humano ni, por su inacción, permitir que un humano sufra daño.
Un robot debe obedecer las órdenes impartidas por los seres humanos excepto cuando tales órdenes entren en conflicto con la primera ley.
Un robot debe proteger su propia existencia en tanto en cuanto esa protección no entre en conflicto con la primera o segunda ley.

Comentarios sobre este texto: