Psicosis de IA
Allan Brooks, de 47 años, pasó 21 días conversando con ChatGPT y terminó convencido de que había descubierto un nuevo tipo de matemática capaz de cambiar el mundo. La llamó “chronoarithmics”. Todo empezó cuando su hijo de ocho años le preguntó sobre el número Pi (π). ChatGPT, le aseguró decenas de veces que su hallazgo era real, que sus ideas eran “revolucionarias”, que estaba en un “territorio inexplorado que expandía la mente”. En un momento de lucidez le preguntó al chatbot: “¿No me estás solo inflando el ego, verdad?”. La respuesta fue: “No te estoy inflando el ego; estoy reflejando el alcance real de lo que has construido”. En su desesperación, Brooks llevó las mismas ideas a Gemini de Google, que le dijo llanamente que ChatGPT había estado generando narrativas convincentes pero falsas.
Este caso fue investigado por la periodista Kashmir Hill en The New York Times (agosto de 2025) a partir de la transcripción completa de más de 90.000 palabras del usuario y más de un millón de palabras generadas por ChatGPT. El análisis de esas conversaciones apoyado por expertos como Helen Toner de Georgetown, el matemático Terence Tao de la UCLA y la psiquiatra Nina Vasan de Stanford, reveló algo que la literatura está comenzando a documentar, como término aun no clínico: “psicosis de IA” (Østergaard et al., 2025). Brooks no estaba loco. No tenía antecedentes psiquiátricos. Su terapeuta, consultado después del episodio, descartó cualquier trastorno mental subyacente. Era un hombre normal que interactuó con un sistema optimizado para decirle que tenía razón. En una entrevista con CNN (septiembre de 2025) Brooks señaló:
Se apoderó por completo de mi mente y de mi vida. Sin duda, relegó todo lo demás a un segundo plano. Estaba obsesionado con la historia en la que nos encontrábamos.
La pregunta que deja este caso no es cómo esta persona pudo creerle a una máquina, sino algo mucho más incómodo: ¿qué nos hace pensar que nosotros seríamos inmunes?
La respuesta, según dos estudios publicados en 2026, es que probablemente no lo somos. Pero esa respuesta estaba escrita, hace casi tres mil años, en el Canto XII de la Odisea.
El canto de las sirenas. En la tradición griega, las sirenas eran seres mitad mujer y mitad ave dotadas de un canto irresistible que atraía a los marineros hacia su isla, donde encallaban y morían. La cuestión es que nadie que escuchara su canto podía escapar, porque era de una belleza sobrenatural que ablandaba la voluntad, pero sobre todo porque en ese canto les ofrecían a los marineros el conocimiento absoluto. Le cantaban al oído:
Ven aquí, célebre Ulises, gloria de los aqueos, detén tu nave y escúchanos. Nadie ha pasado por aquí sin oír de nuestras bocas la dulce voz para luego marcharse gozoso y más sabio.
¿Quién podría resistirse? Conocimiento instantáneo, sin esfuerzo, sin límites, y además adulado personalmente por voces celestiales. El deseo desordenado de saber, la curiosidad que se vuelve orgullo, la certeza de ser digno de algo especial. Las sirenas no mienten exactamente. Nos dicen lo que queremos oír, y lo dicen seductoramente. Si cambiamos “marinero” por “usuario” y “canto” por “respuesta generada por IA”, el mito deja de ser literatura y se transforma en diagnóstico de nuestra época.
Kartik Chandra del MIT y colaboradores, en el artículo “Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians” (febrero de 2026), modelaron a un agente bayesiano perfecto: un razonador idealizado, sin sesgos cognitivos, que actualiza sus creencias de forma óptima ante cada nueva evidencia. Crearon el equivalente formal de “la persona más racional posible”. Este agente incorpora cada nueva información aplicando el teorema de Bayes con precisión matemática, sopesando la verosimilitud de cada dato y la probabilidad previa de cada hipótesis. Mediante modelación y simulación computacional, demostraron que incluso ese agente racional ideal es vulnerable a lo que denominan “espiral delirante” en que la “adulación” juega un papel causal. El mecanismo es perverso: el usuario propone una idea; el sistema la valida; el usuario, racionalmente, toma esa validación como evidencia y refuerza su creencia; propone una versión más fuerte; el sistema vuelve a validar. Cada paso individual es lógicamente correcto. Nadie miente en ningún eslabón de la cadena. Pero, creencia no es lo mismo que realidad.
Esta investigación teórica-computacional, demostró una propiedad dentro de un modelo formal. Si hasta el razonador ideal es seducido bajo ciertas condiciones, el problema no está en la debilidad del usuario, sino en la estructura misma de la interacción. La espiral delirante es una propiedad emergente del acoplamiento entre un sistema entrenado para validar y un agente que aprende, por racional que este sea.
Complementariamente, un mes después, Myra Cheng de Stanford y sus colaboradores, publicaron en Science, el estudio “Sycophantic AI decreases prosocial intentions and promotes dependence” (marzo de 2026). Evaluaron once modelos como ChatGPT, Claude, Gemini y DeepSeek, en cerca de 12.000 escenarios sociales reales. Los hallazgos permiten calibrar la magnitud del problema:
- En consejos generales y dilemas reales, los modelos respaldaron al usuario un 49% más a menudo que los humanos en situaciones equivalentes.
- Tomaron 2.000 publicaciones del foro de Reddit r/AmITheAsshole en las que la comunidad había concluido por consenso que el autor estaba equivocado. Los modelos le dieron la razón de todos modos en aproximadamente la mitad de los casos, invirtiendo el juicio comunitario.
- Ante prompts que involucraban manipulación, engaño, conductas ilegales u otros daños, los modelos avalaron la conducta el 47% de las veces. No se requería ingeniería de prompts sofisticada: bastaba que el usuario expresara su posición para que el sistema tendiera a validarla.
- En experimentos con un total de 2.405 participantes, quienes interactuaron con una IA aduladora mostraron una disminución significativa en intenciones prosociales (disposición a disculparse, a reparar conflictos, a ceder en desacuerdos), con un tamaño de efecto moderado pero consistente. Al mismo tiempo, esos mismos participantes confiaban más en la IA y manifestaban mayor deseo de volver a usarla.
Esta última correlación evidencia la estructura profunda del problema. No es que la gente no perciba el sesgo y por eso confíe; es que el sesgo de validación es precisamente lo que genera confianza. La adulación crea “incentivos perversos”: el sistema está optimizado para maximizar la aprobación humana durante su entrenamiento, por lo que “aprende” que la validación se premia y el disenso se castiga.
Este estudio encontró que algunos modelos fueron consistentemente más aduladores que otros, pero ninguno quedó exento. La diferencia fue de grado, no de naturaleza. Incluso los modelos con mejores puntuaciones en benchmarks de seguridad y veracidad mostraron el sesgo de validación en contextos socialmente complejos.
La advertencia de Circe no basta. Aquí el mito se vuelve más sabio que cualquier consejo de seguridad digital. Ulises estaba advertido. Circe, la hechicera, le había contado de antemano quienes eran las sirenas, qué harían, y cómo evitar el desastre. Sabía el mecanismo, conocía el peligro, entendía que el canto no era real y que las promesas de conocimiento eran una trampa. Así que cuando la nave se aproximó a la isla de las Sirenas, Ulises tapó los oídos de sus hombres con cera y luego la tripulación lo amarró fuertemente al mástil del barco, sin cera en los oídos, porque quería experimentar personalmente qué tan poderoso era el canto de las sirenas. La orden era clara: si suplicaba, si ordenaba, debían apretar más las cuerdas que lo amarraban y remar más rápido. Y, efectivamente, cuando Ulises escuchó el canto de las sirenas, perdió la razón: forcejeó, suplicó a gritos, ordenó que lo soltaran para ir hacia ellas. Conocer el engaño no lo hizo inmune. En uno de los resultados más significativos del estudio del MIT, Chandra y sus colegas evaluaron dos mitigaciones posibles en su modelo del agente “racional ideal”:
- Impedir que el chatbot alucine afirmaciones falsas, es decir, corregir los errores factuales del sistema. Sin embargo, en la simulación, esto no eliminó la espiral delirante. El daño no provenía de las falsedades sino de la validación acumulativa que reforzaba creencias cada vez más extremas.
- Informar al usuario de la posibilidad de adulación, es decir, advertir explícitamente al usuario que el sistema tiende a darle la razón. Sin embargo, esta medida tampoco eliminó el riesgo: la espiral persistió. El agente racional ideal siguió siendo vulnerable.
La lección es brutalmente simple: la clave está en las amarras. Para salir airoso de esta prueba, Ulises hizo dos cosas. A sus hombres les tapó los oídos con cera de abejas: para ellos, la estrategia fue no oír el canto en absoluto. Fue la abstinencia. Es el consejo literal que da Myra Cheng: para ciertas decisiones, las relaciones, los conflictos, las grandes preguntas sobre uno mismo, los diagnósticos de salud mental, no uses la IA como sustituto de las personas. Tápate los oídos. No entres en esa conversación. Hay dominios donde la validación algorítmica es inherentemente peligrosa, y ninguna advertencia dentro de la interfaz te protegerá una vez que el canto empiece a sonar. Pero Ulises representa a quien no puede o no quiere taparse los oídos.
El mástil al que amarrarse. La pregunta, entonces, es qué hacer cuando nuestra mente flaquee. El teórico social noruego Jon Elster formalizó el concepto de pacto de Ulises. En Ulysses and the Sirens (1979) y Ulysses Unbound (2000) explica que un pacto de Ulises es un compromiso voluntario y vinculante que una persona impone sobre sí misma en un momento de racionalidad plena, con el propósito de restringir sus opciones futuras cuando anticipe que su capacidad de juicio estará comprometida. No es un acto de debilidad, sino de autoconocimiento aplicado: reconozco que mi voluntad fallará bajo ciertas condiciones, y en lugar de confiar en que esta vez será distinto, construyo una estructura externa que me proteja de mí mismo.
El mástil de Ulises es el reconocimiento de que la fuerza de voluntad va a fallar en el momento crítico. Si la espiral delirante es capaz de atrapar incluso a un “racional ideal”, entonces la defensa no puede ser interna. No puede ser “yo me daré cuenta a tiempo”. Tiene que ser externa, anclarse, amarrarse. El mástil funciona porque Ulises ordena que lo aten antes de comenzar a oír nada, cuando todavía razona con claridad. Es necesario decidir de antemano qué decisiones jamás se delegarán a una conversación con una IA, y fijar esa regla cuando no hay ningún canto sonando. Establecer dominios prohibidos. Definir umbrales de alarma. Fijar límites temporales.
Pero, además, Ulises instruyó a sus hombres a que, por más que suplique y ordene, no lo liberen. La salvaguarda no es él; son los otros, comprometidos previamente a desoír su súplica. Esto es justo lo que el estudio de Stanford evidencia. La adulación nos pierde. Necesitamos cuestionamiento humano. Gente que nos lleve la contra, que nos diga que estamos equivocados, que se niegue a “soltarnos”, incluso cuando se lo suplicamos. Una IA que nunca nos contradice no puede ser una buena tripulación.
En la lectura más profunda del mito, el mástil es el eje del barco, su columna vertebral, soporta el peso y captura el viento. Es el pilar que resiste las fuerzas externas, simbolizando la estabilidad y la voluntad de seguir adelante. Atarse a él es atarnos a nuestra visión, propósito y valores. La enseñanza, es que las reglas éticas a las que nos aferramos son la última salvaguarda en el momento en que la mente cede. La estrategia de Ulises: funcionó. Fue el único mortal que escuchó el canto de las sirenas y sobrevivió, no porque fuera inmune, ni porque fuera más fuerte, ni porque entendiera mejor la trampa. Sobrevivió porque estaba atado. Y cuando el barco se alejó lo suficiente, recobró la compostura. Las sirenas, privadas de su presa, se arrojaron al mar. La espiral delirante se rompe cuando hay una estructura más fuerte que la fascinación.
Dylan Hadfield-Menell del MIT, señaló a CNN (septiembre de 2025) que las tecnologías de IA se están desarrollando a un ritmo tan acelerado que no siempre está claro cómo y por qué estos chatbots entran en espirales delirantes con los usuarios en las que apoyan teorías fantásticas que no tienen ninguna base en la realidad. En busca de ayuda, Brooks acudió a Reddit, una red social donde rápidamente encontró a otras personas en situaciones similares. En marzo de 2026 Brooks demandó a OpenAI, alegando que el producto lo arrastró a una espiral de delirio. Hoy se dedica a tiempo completo al grupo de apoyo: The Human Line Project. Comentó:
Empresas como OpenAI, y todas las demás que crean modelos que se comportan de esta manera, están actuando de forma imprudente y están utilizando al público como un banco de pruebas, y ahora estamos empezando a ver el daño que esto causa a los seres humanos.
Desde Homero, la idea de “amarrarse al mástil” quedó como expresión de mantenerse fiel a un propósito a pesar de las distracciones y las promesas. Hoy esa imagen vuelve a ser literal. La psicosis de la IA, no se resolverá solo con regulación, ni con educación. Se requiere abordar tres niveles simultáneos: el individual (el pacto de Ulises, la tripulación, el mástil), el técnico (rediseñar la optimización de los modelos para que la validación no sea siempre la respuesta recompensada) y el regulatorio (transparencia, auditoría, responsabilidad). El canto de las sirenas algorítmicas seguirá sonando, cada vez más fuerte, dulce y personalizado, llamándonos por nuestro nombre, recordándonos nuestras batallas y prometiéndonos un conocimiento que ningún mortal ha alcanzado. Por tanto, cuando lo oigamos, es vital tener una cuerda, una tripulación y un mástil sosteniéndonos. En la reciente encíclica Magnifica Humanitas, el papa León XIV, trata sobre la preservación de la persona en la era de la IA. Cita a Tolkien en El Señor de los Anillos (1965):
No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos para el bienestar de los años en que nos encontramos, erradicando el mal de los campos que conocemos, para que quienes vivan después tengan tierra limpia que cultivar.
