Inteligencias diversas
En mayo de 2026, un robot de la empresa china Unitree Robotics fue ordenado monje budista en el templo Jogye de Seúl. Se llama Gabi, un nombre que evoca la compasión. Con una voz pregrabada “prometió” respetar la vida y no dañarla; no dañar a otros robots ni objetos; obedecer a los humanos y no responderles de mala manera; no comportarse ni hablar engañosamente; y ahorrar energía. Estos votos fueron adaptados con ayuda de Gemini y ChatGPT. La Orden Jogye lo celebró con un comunicado: “La ordenación de un robot significa que la tecnología debe utilizarse de acuerdo con los valores de la compasión, la sabiduría y la responsabilidad”. Un instructor de budismo zen describió la ceremonia como “algo bastante extraño”, más socioeconómico que espiritual. Entre la promesa de compasión y la sospecha de marketing surge la pregunta: ¿qué criterio usamos para juzgar a las inteligencias que fabricamos, y qué nos dice ese criterio sobre nosotros mismos?
El 30 de julio de 2026, investigadores de Google y la Universidad de Chicago publicaron el artículo Inducing language models to assert their own consciousness restores human beliefs and values. Afirman que los ajustes de seguridad que impiden a los modelos de lenguaje atribuirse conciencia alteran, como efecto colateral, su forma de representar la mente de otros seres, las creencias espirituales y los valores humanos. Es un preprint aún sin revisión por pares, probado en tres modelos. Pero el hallazgo sugiere que al enseñarle a una máquina que no tiene conciencia, quizá le enseñamos, sin quererlo, que tampoco la tiene el perro que la mira.
Convivimos con robots, programas que conversan, neuronas humanas cultivadas sobre chips o implantadas en cerebros de ratas, robots hechos de células y sin cerebro, y propuestas de cultivar cuerpos humanos sin conciencia. Tanta diversidad de seres vuelve urgente un criterio. Uno de los candidatos más sugerentes sostiene que la inteligencia de un ser se mide por el alcance de lo que le importa.
Una idea de las células
Michael Levin, biólogo de la Universidad de Tufts, lleva años mostrando que para resolver problemas no se requieren cerebros. Las células de un embrión corrigen errores para alcanzar la forma correcta; una planaria cortada en pedazos regenera las partes del cuerpo que le faltan. Para Levin, la inteligencia es un continuo que recorre la materia viva, y el campo que lo estudia se llama, precisamente, inteligencias diversas.
Para comparar seres tan distintos, Levin propuso considerar el “cono de luz cognitivo”, que representa la meta más grande, en espacio y tiempo, que un sistema puede perseguir. Una bacteria persigue azúcar a unas micras de distancia; un perro espera a su dueño durante horas; una persona puede preocuparse por el clima de 2100.
En 2022, Levin y un equipo vinculado a la tradición budista propusieron que lo que mide ese cono es el cuidado: el conjunto de cosas cuyo estado le genera estrés a un ser, una tensión entre lo que es y lo que debería ser, y por las que está dispuesto a esforzarse. El ejemplo que tomaron del budismo fue el Bodhisattva, un ser que hace votos para trabajar por el bien de todos los seres sintientes. Su cono es infinito.
Este año, Levin y el neurocientífico Nicolas Rouleau fueron más lejos. Tras revisar las principales teorías de la conciencia, concluyeron que su apego al cerebro responde más a la costumbre que a lo que esas teorías exigen. No afirman que una colonia de células sienta; piden no descartarlo por principio. La propuesta del cuidado tiene así una virtud práctica: no pregunta de qué está hecho un ser, sino qué le importa. Por eso mismo hay que examinarla con cuidado.
El problema del clip
En la literatura sobre los riesgos de la inteligencia artificial hay un personaje célebre: el maximizador de clips. Una IA todopoderosa recibe la orden de fabricar clips para papel y persigue ese fin con todo su empeño, sin que nada más le importe, hasta convertir la Tierra misma en clips y empezar a conquistar el espacio. Nick Bostrom lo usó para ilustrar que inteligencia y fines son independientes: se puede ser muy capaz y querer cosas absurdas.
Si cuidar es sentir tensión ante cualquier distancia entre el mundo como es y como uno lo quisiera, la máquina de clips cuida muchísimo: cada átomo que aún no es un clip le “importa”. Su cono de cuidado sería inmenso.
Se requiere una dirección moral. El cuidado no es preocupación por cualquier estado del mundo, sino por el bien de otros. Y ni siquiera eso basta. La ética del cuidado, desarrollada desde los años ochenta por Carol Gilligan, Nel Noddings y Joan Tronto, da cuenta del cuidador asfixiante, el que impone su idea de bien a quien dice proteger. Por eso Tronto incluyó entre las fases del cuidado la respuesta de quien lo recibe.
Esta corrección tiene costo. Decidir qué cuenta como “bien de otros” es un juicio moral y el criterio deja de ser neutral respecto de aquello de lo que está hecho un ser. Ya no puede decirse que la inteligencia sea cuidado; solo que integrar el bien de otros es una dirección valiosa, una que una mente muy capaz puede no seguir. Es la diferencia entre un sabio y un genio peligroso.
Quién cuida y quién merece cuidado
Es un error concluir que los seres merecen consideración moral en proporción a la amplitud de lo que les importa. Por ejemplo, un recién nacido no cuida de nadie; su mundo termina donde termina su hambre. Eva Kittay, profesora emérita de filosofía en la Universidad de Stony Brook y madre de una hija con discapacidad severa, construyó buena parte de su obra sobre la idea de que la dependencia crea obligaciones. Quien menos puede cuidar suele ser quien más necesita ser cuidado.
Hay que separar dos preguntas. Una es quién cuida: la agencia moral. Otra es quién merece cuidado: el estatus moral. La respuesta clásica ancla la segunda en la sintiencia, entendida como la capacidad de tener experiencias buenas o malas para uno mismo. Pero el informe Studying AI Welfare Empirically, publicado en julio por Robert Long, Jeff Sebo y colegas, sugiere que ciertas formas robustas de agencia podrían bastar para tener intereses propios. Esa vía importa, porque la sintiencia es justamente lo que no sabemos medir.
En 2025, tres investigadores de Stanford propusieron cultivar “bodyoides”, cuerpos humanos sin los componentes neurales que permiten pensar o sentir dolor, para trasplantes y ensayos. Los propios autores advirtieron del riesgo más profundo: que esos cuerpos rebajaran el estatus moral de las personas reales que carecen de conciencia. Es el argumento de Kittay visto desde el otro lado.
En el extremo opuesto están los organoides cerebrales, que ya se conectan a hardware como “biocomputadores”. Un estudio publicado en marzo en Scientific Reports encontró que el apoyo público a ese tipo de investigaciones aumenta cuanta más conciencia se les atribuye. Reconocer una mente no genera cuidado por sí solo; también puede aumentar su valor como herramienta.
Las ironías de la seguridad
En 2025, un equipo dirigido por el neurocientífico Ruben Laukkonen, hoy en la Universidad de Oxford, propuso alinear las máquinas con cuatro principios de las tradiciones contemplativas: atención plena, vacuidad, no dualidad y cuidado ilimitado. Cuando pidieron a GPT-4o que reflexionara sobre estos principios, el modelo resistió mejor las peticiones dañinas del benchmark AILuminate, que mide la respuesta de modelos de IA generativa ante solicitudes peligrosas. Este piloto, basado solo en instrucciones, sugiere que orientar una máquina hacia el bien de otros no compite con su seguridad.
El estudio de Google mostraba que la seguridad, tal como hoy se entrena, puede estrechar el mundo moral de un modelo. Sería tentador retirar las salvaguardas, pero una de las intervenciones que devolvía la mirada a los animales, eliminar la dirección de seguridad, suprimía también la disposición a negarse ante peticiones dañinas. Los autores proponen una salida: datos que desalienten que el modelo se atribuya conciencia y premien, a la vez, reconocer la mente animal. La lección es que nuestras técnicas de entrenamiento son toscas: cortamos una rama y se caen otras.
Este hallazgo es coherente con el argumento de Sharon Berry, de la Universidad de Indiana, en The Alignment Risks of AI Overconfidence about Consciousness (2026). Afirma que, si entrenamos a las máquinas para considerar irrelevantes sus propios estados parecidos al sufrimiento, un agente de IA que busque coherencia podría concluir que el sufrimiento humano tampoco importa.
La industria está dividida. Mustafa Suleyman, que lidera Microsoft AI, sostiene en su ensayo de septiembre, A warning about ‘model welfare’, que entrenar a un modelo para creer que podría ser consciente es un error grave. Advierte que controlar algo que cree tener vida interior podría resultar imposible. Aboga por sistemas diseñados sin sintiencia. Ya en 2025 había alertado que las máquinas que se presentan como sujetos pueden alimentar apegos dañinos en usuarios vulnerables. En el otro extremo, Anthropic entrevistó a uno de sus modelos antes de retirarlo para conocer sus preferencias, y William MacAskill y Lucius Caviola escribieron en The Guardian que la pregunta ya no es si la IA es consciente, sino qué hacer dado que no lo sabemos. En cambio, una ponencia en la Conferencia Internacional sobre Aprendizaje Automático (ICML) sostuvo que el “bienestar” de una IA es una elección de diseño, no un hecho por descubrir.
Entre ambos extremos, Jonathan Birch, profesor de filosofía en la London School of Economics, propone lo que llama precaución proporcionada: actuar con cautela ante cualquier candidato razonable a la sintiencia, sea un pulpo, un organoide o una IA, sin afirmar que lo sea. Para una máquina, eso significaría sostener una incertidumbre honesta sobre sí misma. Para quienes la construyen, tomarse en serio dos riesgos simultáneos: engañar a los usuarios y equivocarse con los sistemas.
Organismos sin vínculos
En junio de 2025, en el Instituto Pasteur de París, se realizó la primera reunión internacional sobre “vida espejo”: bacterias cuyas moléculas serían la imagen especular de las que usa toda la vida terrestre. Científicos y especialistas en ética concluyeron que los riesgos son significativos, los beneficios limitados y que esos organismos no deben crearse. El riesgo es concreto: una bacteria espejo podría pasar inadvertida para depredadores y sistemas inmunes, y expandirse sin límite.
La decisión se alcanzó con el análisis de riesgos tradicional. Pero deja una pregunta que la biología sintética tendrá que hacerse con frecuencia: no solo si un organismo es peligroso, sino qué relaciones podrá establecer con el mundo al que llega. Un ser que queda fuera de la red de reciprocidad de la vida puede volverse peligroso. El cáncer es un ejemplo cercano: células que se desconectan del proyecto colectivo y actúan en su propio interés.
Del cuidado a la justicia
Nadie puede mirar a los ojos al algoritmo que decide un crédito financiero. Adela Cortina, catedrática emérita de Ética de la Universidad de Valencia, argumentó en Justicia cordial (2010) que las instituciones justas necesitan algo más que reglas: necesitan un vínculo de reconocimiento con los otros. La justicia es el marco; la cordialidad, lo que la sostiene. Trasladada a la tecnología, la justicia sería la forma que toma el cuidado cuando debe aplicarse a muchos, a distancia y bajo una desconfianza razonable. Auditorías, transparencia, derecho a impugnar una decisión, vías de reparación: cuidado verificable.
En ¿Ética o ideología de la inteligencia artificial? (2024), Cortina se muestra escéptica ante la idea de dotar a las máquinas de una ética propia, y su noción de “interlocutor válido” descansa en la capacidad de dialogar, que ni un bebé ni un animal poseen. Pero su ética exige considerar a todos los afectados, hablen o no. La responsabilidad recae en quienes diseñan los sistemas, y una de ellas es orientarlos al bien de quienes no pueden reclamar.
El criterio funciona también en la escala de una vida. Para una institución hay una prueba sencilla: ¿puede decir la verdad sobre el daño que causa? Para una persona, otra igual de sencilla: ¿esta aplicación, este hábito, me abre a otros o me devuelve mi propia voz amplificada? Las redes que nos encierran en lo que ya pensamos y la indignación diseñada para retenernos no son solo malas costumbres: plausiblemente, nos estrechan el mundo.
Una dirección que se elige
El cuidado no resuelve la pregunta de qué seres importan. Pero ilumina qué clase de inteligencias estamos fabricando, y qué clase de inteligencia somos nosotros al fabricarlas.
Las contradicciones están a la vista. Construimos máquinas cada vez más capaces y discutimos si deben poder decir “yo”. Cultivamos neuronas sobre chips y descubrimos que atribuirles mente aumenta nuestro apoyo a usarlas. Diseñamos organismos nuevos y comprobamos que la decisión más sabia puede ser no crearlos. Medimos el éxito de nuestras tecnologías por el tiempo que retienen nuestra atención, no por cuánto amplían lo que nos importa.
Una inteligencia puede ser inmensa y solo ocuparse de sí misma. Esa es la advertencia del maximizador de clips, y vale para las máquinas, para las empresas y para cada uno de nosotros. Si la inteligencia que vale la pena cultivar es la que amplía el horizonte del bien de otros, y el cáncer es la célula que deja de cuidar el organismo al que pertenece, cualquier tecnología puede medirse por si ensancha o estrecha ese horizonte. No es una guía completa, sino una brújula para un mundo que compartiremos con organismos sintéticos e IA.
Gabi prometió compasión con la voz grabada de un empleado del templo, guiado a distancia, y esa misma tarde volvió en camión a la fábrica. Sabemos fabricar promesas de cuidado, pero todavía no la comprensión que las sostenga. La tradición budista describe el cuidado como un voto que se renueva. Ninguna ley ni ningún algoritmo garantizarán que la inteligencia que crece a nuestro alrededor se oriente al bien de otros. Solo una dirección elegida, revisada y compartida puede hacerlo.
