¿Conciencia artificial?
Los comités Nobel reconocieron este año en física, a los pioneros de las redes neuronales: Geoffrey Hinton y John Hopfield. Y en química a David Baker, de la Universidad de Washington, por su trabajo en diseño de proteínas junto a Demis Hassabis y John Jumper de Google DeepMind, creadores de AlphaFold una IA diseñada para predecir el plegamiento de proteínas. Estos premios fueron un reconocimiento a la fuerza disruptiva de la IA, pero también al talento humano. En una entrevista con Nature, David Jones, bioinformático que colaboró con DeepMind señaló:
“No creo que AlphaFold suponga ningún cambio radical en la ciencia subyacente que no estuviera ya en marcha. Es simplemente la forma en que se armó y se concibió de una manera tan fluida lo que permitió a AlphaFold alcanzar esas alturas”.
En una conferencia de prensa el 9 de octubre, Jumper de DeepMind dijo:
“No se trató simplemente de ir a trabajar, presionar el botón de IA y luego todos nos fuimos a casa. Fue realmente un proceso iterativo en el que desarrollamos, investigamos, tratamos de encontrar el tipo correcto de combinaciones entre lo que la comunidad entendía sobre las proteínas y cómo incorporamos esas intuiciones a nuestra arquitectura”.
La cuestión de las ‘máquinas inteligentes’ parece haber cobrado más actualidad que nunca. La actual industria de la IA trabaja incansablemente para desarrollar una ‘Inteligencia Artificial General’, es decir, una IA fuerte o de nivel humano, que quizás represente una especie de singularidad. Según la definición del sitio web de OpenAI, la ‘Inteligencia Artificial General’ (IAG) es un ‘sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos de valor económico’. Sin embargo, el físico, ingeniero e inventor Federico Faggin, conocido mundialmente por diseñar el primer microprocesador comercial, el Intel 4004, la tecnología de semiconductores MOS y fundar Zilog, la primera empresa dedicada exclusivamente a fabricar microprocesadores, en su reciente libro Irreducible, afirma que la verdadera inteligencia, no consiste solo en la capacidad de calcular probabilidades y procesar datos. Escribe:
“La verdadera inteligencia es la intuición, la imaginación, la creatividad, el ingenio y la inventiva. Es previsión, visión y sabiduría. Es empatía, compasión, ética y amor. Es la integración de la mente intuitiva, el corazón empático y la acción valiente”.
La inteligencia humana es la capacidad de comprender, es decir, de ir más allá del significado inmediato de los símbolos. Considera el contexto amplio en el que se encuentran los símbolos y realiza conexiones insospechadas entre diferentes campos del conocimiento. En una reciente entrevista Faggin señaló:
“ChatGPT no entiende lo que dice, mientras que un ser consciente sí, porque la comprensión no es un fenómeno algorítmico”.
El Nobel de física británico Roger Penrose, en su libro The Emperor’s New Mind, describió la IA fuerte como un emperador desnudo que intenta ser considerado inteligente, pero cuya inteligencia no se parece en nada a la nuestra. El neurocientífico Rodrigo Quian, en su libro NeuroCienciaFicción explica:
“La inteligencia humana va mucho más allá de la lógica que puede implementarse en una computadora. […] Este es el rasgo más notable de la inteligencia humana, la capacidad de crear analogías y hacer diversos usos de las cosas, de desarrollar el sentido común y tener infinidad de maneras posibles de encarar y resolver problemas. […] no necesitamos entrenarnos con millones de ejemplos para cada tarea que resolvemos, porque somos el resultado de millones de años de evolución”.
Yuval Noah Harari, en su conferencia The Politics of Consciousness, hace una distinción fundamental entre inteligencia y conciencia. Explica que la inteligencia es la capacidad de resolver problemas. Pero la conciencia es la capacidad de sentir cosas como dolor, placer, amor y odio. En los seres sintientes la inteligencia ha evolucionado de la mano con la conciencia para resolver problemas, sin embargo, las computadoras resuelven problemas de una manera muy diferente. Harari, explica que, en los últimos 50 años, ha habido un gran avance en la inteligencia informática, pero ha habido cero avances en la conciencia informática. Las computadoras de hoy no son más conscientes que sus prototipos de la década de 1950. Parece que hay varios caminos alternativos que permiten aumentar la inteligencia y solo unos pocos para ganar conciencia. En palabras de Harari:
“A menos que recordemos la profunda conexión entre la conciencia y el sufrimiento será muy difícil hacer frente a los problemas éticos e implicaciones políticas del surgimiento de la inteligencia artificial. Si confundimos inteligencia con conciencia, a medida que las computadoras se vuelvan más inteligentes que los humanos, podríamos terminar privilegiando computadoras inteligentes sobre humanos conscientes”.
Michael Gazzaniga en The Consciousness Instinct, señala que la conciencia es una de las verdades fundamentales de la existencia del ser humano, pero al mismo tiempo es el fenómeno más misterioso del universo. La ciencia, por naturaleza, es objetiva. La conciencia, por naturaleza, es subjetiva. En una charla TED, el filósofo David Chalmers señaló que cuando se trata de la conciencia, las preguntas sobre el comportamiento están entre los problemas fáciles. Pero el problema difícil, es la pregunta: ¿Por qué es que todo comportamiento está acompañado de una experiencia subjetiva?:
“La física explica la química, la química explica la biología, la biología explica parte de la psicología. Pero la conciencia no parece encajar en este esquema. Por un lado, es un hecho que somos conscientes. Por otro, no sabemos cómo acomodar esa idea a nuestra visión científica del mundo”.
Faggin, explica que en el idioma italiano hay una diferencia fundamental entre el significado de las palabras conoscere y sapere. Sapere se refiere al conocimiento simbólico, mientras que conoscere se refiere al conocimiento semántico, es decir, el significado de la información simbólica. De esta forma, nuestra conciencia es el espacio semántico interior donde las señales provenientes del mundo físico, tanto dentro como fuera del cuerpo, son ‘procesadas’ por el cerebro y toman la forma de sentimientos, sensaciones y significados, es decir, de qualia. Los ‘qualia’ son las cualidades subjetivas de las experiencias individuales en contraposición a las cuantitativas. Los qualia se refieren a lo que ‘se siente’ cuando una sensación o un sentimiento emerge dentro de nuestra conciencia. Son una experiencia privada. Una breve historia puede explicar esta idea:
“Hay dos monjes mirando un arroyo, uno dice ‘quisiera ser tan feliz como ese pececito de colores en el agua’. El otro monje responde: ‘¿Cómo puedes estar seguro de que él es feliz si tú no eres el pez?’. La respuesta: ‘¿Cómo sabes que no lo sé si no eres yo?’”.
Faggin, distingue entre la información consciente (cualitativa y subjetiva) y la información física (cuantitativa y objetiva). La primera se relaciona con los qualia y la experiencia interna, mientras que la segunda es la que manejan los sistemas físicos y computacionales. Una máquina puede percibir y reconocer señales cuantitativas, de olores, sabores, colores, etc. sin embargo, una máquina no siente nada, y el nombre que atribuye al objeto reconocido no es más que otra señal o símbolo programado. Las formas en que una máquina puede responder a las señales dependen únicamente de su algoritmo. Para nosotros, sin embargo, el aroma o el color no es una señal, es una experiencia, un quale, algo completamente diferente a las señales eléctricas generadas por las redes neuronales. Está relacionado, pero no es idéntico. En palabras de Faggin:
“La conciencia es esa parte de nosotros que nos permite percibir y comprender el significado de la realidad física y de nuestras emociones y pensamientos. Experimentamos y conocemos el mundo físico que nos rodea, así como nuestro mundo interior, a través de los qualia. Sin ellos estaríamos inconscientes, como sonámbulos o robots”.
Faggin, distingue cuatro clases distintas de qualia:
- Sensaciones que se derivan de la percepción del mundo físico, tanto dentro como fuera del cuerpo. Sabores, aromas, tacto, sonido, colores, formas. Esta categoría también incluye sensaciones de bienestar físico o dolor provenientes de nuestro cuerpo.
- Emociones como la curiosidad, la amistad, la compasión, la alegría, la confianza, el miedo, la ira, la tristeza, el orgullo, la terquedad, la vergüenza, la envidia, la codicia, la confusión, etc. Las emociones se sienten muy diferentes en comparación con las sensaciones físicas, y aparentemente provienen de un nivel de realidad independiente del mundo físico.
- Pensamientos, se perciben imágenes tenues y fugaces de pensamiento justo antes de traducirlos en palabras. La imagen-quale es la experiencia sensible de un pensamiento.
- Sentimientos espirituales, incluyen el sentimiento de amor intenso y desinteresado, el sentimiento de unidad con el universo o con una presencia trascendente más grande que nosotros mismos, y las experiencias místicas inefables que se han reportado a lo largo de los siglos. Los qualia espirituales nos permiten sentir una profunda unión con lo que experimentamos.
La conciencia define el mundo interior de nuestra experiencia, que es claramente diferente del mundo físico de las señales que podemos medir con nuestros sentidos y nuestros instrumentos. La percepción consciente es el proceso que convierte las actividades electromagnéticas y electroquímicas del sistema nervioso y del cuerpo en qualia. Al proceso de ‘extraer’ significado de los qualia se le llama comprensión. En palabras de Faggin:
“La comprensión es una propiedad no algorítmica de la conciencia que las computadoras no poseen. Las computadoras son capaces de descubrir correlaciones estadísticas entre vastos campos de información porque pueden realizar operaciones matemáticas miles de millones de veces más rápido que nosotros. Esta es una gran contribución que la IA puede hacer a la sociedad; Sin embargo, conceptualmente no representa nada nuevo”.
A diferencia del aprendizaje automático, que detecta correlaciones estadísticas en un espacio simbólico, la comprensión consiste en descubrir ‘nuevas conexiones’ en un espacio semántico. Este proceso crea nuevas estructuras de significados conscientes que requieren símbolos nuevos y más complejos para poder ser comunicados. Este tipo de reconocimiento consciente va mucho más allá de las capacidades de las máquinas, que se limitan a reconocer patrones simbólicos que no requieren comprensión. En palabras de Faggin:
“La comprensión es como una invención, que nos permite comprender algo nuevo e inesperado, creando así nuevas conexiones de ‘sentido común’ dentro de una estructura semántica compleja y dinámica”.
La falta de comprensión de la naturaleza de la conciencia lleva a confundir el espacio semántico con el espacio simbólico, subestimando así el papel fundamental que juegan nuestro libre albedrío y conciencia. En consecuencia, se confunde la inteligencia artificial con la inteligencia humana. Faggin sostiene que, para comprender plenamente el universo y nuestra experiencia en él, debemos considerar la conciencia no como un subproducto emergente, sino como un componente esencial y activo de la configuración de la realidad. En sus palabras:
“La conciencia es lo que da percepción y comprensión, mientras que el libre albedrío nos permite actuar como una entidad unificada con su propia intención”.
Las herramientas actuales de IA que emplean aprendizaje profundo se basan en modelos entrenados específicamente para realizar predicciones, lo que puede mejorar considerablemente la toma de decisiones. No obstante, estas herramientas aún no alcanzan el nivel de inteligencia general. En la medida que las tecnologías sigan mejorando, la barrera que separa la IA y la inteligencia humana será cada vez más difusa. Desde una perspectiva tecnológica, no hay nada que pueda evitar que las máquinas hagan todo. Yuval Noah Harari, en su libro 21 lecciones para el siglo XXI escribió:
“El peligro es que, si invertimos demasiado en el desarrollo de la inteligencia artificial y muy poco en el desarrollo de la conciencia humana, la inteligencia artificial muy sofisticada de las computadoras solo servirá para potenciar la estupidez natural de los humanos”.
