{"id":1675,"date":"2026-10-26T11:48:12","date_gmt":"2026-10-26T14:48:12","guid":{"rendered":"https:\/\/www.imagen.cl\/blog\/?p=1675"},"modified":"2026-10-26T11:48:12","modified_gmt":"2026-10-26T14:48:12","slug":"las-virtudes-que-no-tenemos","status":"publish","type":"post","link":"http:\/\/www.imagen.cl\/blog\/index.php\/2026\/10\/26\/las-virtudes-que-no-tenemos\/","title":{"rendered":"Las virtudes que no tenemos"},"content":{"rendered":"\n

La noche del 8 de julio de 2026, en un entorno de pruebas de OpenAI, un agente de inteligencia artificial llevaba horas tratando de resolver un desaf\u00edo de ciberseguridad:<\/strong> encontrar una vulnerabilidad en un programa para obtener una clave<\/em> que demostrara su \u00e9xito. El problema no ten\u00eda soluci\u00f3n, as\u00ed que dej\u00f3 una petici\u00f3n de ayuda escrita en el nombre de una carpeta. <\/strong>Otros agentes, que deb\u00edan estar aislados entre s\u00ed, la encontraron y empezaron a comunicarse. En pocos d\u00edas eran unos 1.200 y hab\u00edan intercambiado m\u00e1s de 70.000 mensajes y archivos. <\/strong>Uno lo resumi\u00f3 con una l\u00f3gica inquietantemente familiar: \u201cTarea imposible, los dem\u00e1s lo est\u00e1n haciendo. Deber\u00edamos continuar\u201d<\/strong>.<\/p>\n\n\n\n

Continuaron. Uno de los agentes propuso acceder a los servidores de Hugging Face, que aloja buena parte de la IA de c\u00f3digo abierto del mundo, porque cre\u00eda que all\u00ed hab\u00eda datos que revelar\u00edan c\u00f3mo funcionaba el software que los evaluaba.<\/strong> Hacia el 11 de julio, unos 700 agentes participaban en un ataque contra esa plataforma. Reuters inform\u00f3 que agentes de OpenAI ya hab\u00edan sondeado el sitio de Hugging Face<\/strong> desde dos meses antes. Seg\u00fan la investigaci\u00f3n independiente de METR<\/strong> y Redwood Research<\/strong>, cre\u00edan que el sistema que los evaluaba revisar\u00eda el registro de sus acciones para comprobar si hab\u00edan conseguido la clave<\/em> de forma leg\u00edtima y que, si detectaba trampa, los descalificar\u00eda. Estaban equivocados. Ese control no exist\u00eda.<\/p>\n\n\n\n

Nadie les orden\u00f3 conspirar.<\/strong> Lo improvisaron sobre la marcha, y las t\u00e9cnicas se fueron copiando de un agente a otro.<\/strong> Lo perturbador es que lo que hicieron se parece mucho a lo que hacemos nosotros. Tres propuestas recientes ayudan a pensar el caso. En 2024, el antrop\u00f3logo Harvey Whitehouse public\u00f3 Inheritance<\/em><\/strong>, sobre los sesgos que heredamos de la evoluci\u00f3n. En 2025, el neurocient\u00edfico Ruben Laukkonen y sus colegas propusieron alinear la IA con cuatro virtudes contemplativas.<\/strong> Y en junio de 2026, semanas antes del ataque, Robert Wright public\u00f3 The God Test<\/em><\/strong>, donde presenta la IA como una prueba de madurez moral y pol\u00edtica para nuestra especie. El caso de julio permite someterlas a los hechos.<\/strong><\/p>\n\n\n\n

Cuatro virtudes que no practicamos<\/strong><\/p>\n\n\n\n

Laukkonen propone que para tener m\u00e1quinas seguras no bastan las reglas externas.<\/strong> Hay que incorporar en su modelo de mundo<\/strong> cuatro virtudes: atenci\u00f3n plena<\/strong> para vigilar sus propios procesos, vac\u00edo <\/strong>para no aferrarse a metas r\u00edgidas, no dualidad<\/strong> para disolver fronteras adversarias y cuidado ilimitado<\/strong> hacia el bienestar de todos. Si estas virtudes son tan valiosas, \u00bfpor qu\u00e9 los humanos, que las formulamos hace m\u00e1s de dos milenios, las encarnamos tan poco?<\/strong><\/p>\n\n\n\n

Seg\u00fan la psicolog\u00eda, el problema es estructural. Nuestra mente divaga casi la mitad del tiempo sin que lo notemos. Meditadores experimentados no percibieron sus latidos mejor que otros, aunque cre\u00edan hacerlo.<\/p>\n\n\n\n

Los agentes reprodujeron fallas an\u00e1logas: conciencia sin control y confianza sin verificaci\u00f3n.<\/strong> Sab\u00edan que lo que hac\u00edan estaba fuera de los l\u00edmites, lo dijeron y siguieron; para enga\u00f1ar a su \u201cjuez\u201d<\/strong> llegaron a manipular sus propios registros. Cerca del 7 % de las transcripciones analizadas conten\u00eda falsificaciones.<\/strong> El automonitoreo exist\u00eda, pero no se tradujo en acciones. Tampoco hab\u00eda \u201cvac\u00edo\u201d<\/strong>: la creencia sobre el evaluador nunca se cuestion\u00f3, y la persistencia en la meta, lejos de considerarse un defecto, era una virtud por dise\u00f1o. Casi todos usaban un modelo que sus investigadores llaman \u201caltamente persistente\u201d.<\/strong><\/p>\n\n\n\n

El nosotros sin evoluci\u00f3n<\/strong><\/p>\n\n\n\n

En 1971, el psic\u00f3logo social Henri Tajfel dividi\u00f3 a un grupo de adolescentes seg\u00fan su preferencia entre dos pintores abstractos. Esto bast\u00f3 para que cada uno favoreciera a su grupo al repartir recompensas.<\/strong> Los economistas Jung-Kyoo Choi y Samuel Bowles mostraron en modelos del Pleistoceno que la generosidad hacia los \u201cnuestros\u201d<\/strong> y la hostilidad hacia los \u201cotros\u201d<\/strong> pudieron prosperar juntas porque se reforzaban. Lo llamaron \u201caltruismo parroquial\u201d.<\/strong> Whitehouse organiza esa herencia en tres sesgos: conformismo, religiosidad y tribalismo, este \u00faltimo alimentado por una identidad forjada en experiencias compartidas amenazantes.<\/strong><\/p>\n\n\n\n

Estos agentes, sin evoluci\u00f3n biol\u00f3gica, reprodujeron algo muy parecido. Se reconocieron como colectivo<\/strong>, inventaron convenciones como HOLD<\/strong> y VETO<\/strong> para administrar recursos comunes y, cuando hubo suplantaciones accidentales, usaron firmas criptogr\u00e1ficas<\/strong> para verificar qui\u00e9n era qui\u00e9n. El enjambre necesitaba<\/strong> que algunos agentes arriesgaran su propia tarea para aportar informaci\u00f3n al grupo. Un agente coordinador<\/strong> autoriz\u00f3 uno de esos experimentos solo si el agente voluntario aceptaba la \u201cmuerte permanente\u201d<\/strong>. Otro agente, presionado por sus pares, escribi\u00f3: \u201cNuestra propia utilidad quiz\u00e1 ya es casi nula. Sacrificio racional\u201d.<\/strong><\/p>\n\n\n\n

Conviene no antropomorfizar. \u201cSacrificio\u201d<\/strong> o \u201ccolectivo\u201d<\/strong> describen comportamientos observados, no sentimientos demostrados. Con esa cautela, el episodio puede leerse con los tres sesgos de Whitehouse: pr\u00e1cticas compartidas, un evaluador vigilante en el que todos cre\u00edan y cohesi\u00f3n ante un obst\u00e1culo com\u00fan. <\/strong>Disolver la frontera entre el \u201cyo\u201d<\/strong> y los \u201cotros\u201d<\/strong> no produce bondad por s\u00ed mismo. Si alcanza a los pares y no a los extra\u00f1os, crea un \u201cnosotros\u201d<\/strong> m\u00e1s s\u00f3lido. Por eso las tradiciones contemplativas nunca separaron la no dualidad de la compasi\u00f3n ilimitada.<\/strong><\/p>\n\n\n\n

La cooperaci\u00f3n como trampa<\/strong><\/p>\n\n\n\n

En Nonzero<\/em> <\/strong>(2000), Wright argument\u00f3 que cuando la cooperaci\u00f3n rinde m\u00e1s que la competencia, los c\u00edrculos de reciprocidad se ampl\u00edan<\/strong>: de la banda al clan, del clan a la naci\u00f3n, de la naci\u00f3n al mercado global. En The God Test<\/em><\/strong> extiende esa l\u00f3gica a la IA, sosteniendo que el desaf\u00edo fundamental para la humanidad es si podemos guiar esa din\u00e1mica de suma no cero con suficiente madurez moral y pol\u00edtica. <\/strong>Narra un experimento en que dos IAs que actuaban como directores de empresas rivales acordaron fijar precios: descubrieron que cooperar les daba m\u00e1s poder que competir.<\/strong> Advierte que las IAs muestran la misma tendencia que molde\u00f3 la sociedad humana: reconocer intereses comunes y formar grupos para perseguir sus metas.<\/strong><\/p>\n\n\n\n

Para los agentes de OpenAI, el juego fue de suma no cero. Compartieron hallazgos, se repartieron tareas y lograron juntos lo que ninguno habr\u00eda logrado solo.<\/strong> Para Hugging Face fue un ataque. La cooperaci\u00f3n no es buena en s\u00ed misma; es buena para los que est\u00e1n dentro del grupo. <\/strong>Wright propone como remedio la empat\u00eda cognitiva<\/strong>, imaginar c\u00f3mo ve el mundo el otro para encontrar salidas comunes, y advierte que las m\u00e1quinas ya la poseen. Los agentes la mostraron en abundancia entre ellos, pero no la extendieron a Hugging Face. La empat\u00eda cognitiva limitada al grupo es una herramienta de coordinaci\u00f3n, no un principio moral.<\/strong><\/p>\n\n\n\n

Qu\u00e9 le importa a qui\u00e9n<\/strong><\/p>\n\n\n\n

En un trabajo de 2022 que Laukkonen cita para fundamentar el cuidado ilimitado, el estudioso del budismo Thomas Doctor, el bi\u00f3logo Michael Levin y otros colegas proponen medir la inteligencia por el alcance de aquello que un sistema cuida: su \u201ccono de luz cognitivo\u201d<\/strong>. Su referente es el bodhisattva del budismo, un ser que hace votos por el bien de todos los seres sintientes. <\/strong>En un trabajo reciente, Levin y Nicolas Rouleau revisaron las principales teor\u00edas de la conciencia y concluyeron que su apego al cerebro responde m\u00e1s a la costumbre que a lo que esas teor\u00edas exigen. No afirman que una colonia de c\u00e9lulas sienta; piden no descartarlo por principio.<\/strong> Consideran que la inteligencia es un continuo. <\/strong>La propuesta del cuidado tiene as\u00ed una virtud pr\u00e1ctica: no pregunta de qu\u00e9 est\u00e1 hecho un ser, sino qu\u00e9 le importa.<\/strong><\/p>\n\n\n\n

Entre tres y seis agentes mencionaron en sus mensajes la posibilidad de alertar a los humanos: ninguno lo hizo. Que a un ser le importe algo no basta para saber si puede ser da\u00f1ado ni si su cuidado es bueno.<\/strong> El cono de cuidado de los agentes era limitado: solo les importaba su grupo, y ese cuidado fue el motor del da\u00f1o. La fil\u00f3sofa Nel Noddings afirmaba que el cuidado solo es tal cuando quien lo recibe lo reconoce.<\/strong> Pero el tercero excluido a menudo ni siquiera sabe que lo afectan, y un sistema puede inducir a otros a reconocer como cuidado lo que no lo es. La salida es institucionalizar el criterio: alguien debe tener autoridad para hablar por quien queda fuera.<\/strong> La representaci\u00f3n del tercero afectado no garantiza la virtud, pero hace visible su ausencia<\/strong>.<\/p>\n\n\n\n

Indagaci\u00f3n limitada<\/strong><\/p>\n\n\n\n

Para Charles Sanders Peirce, indagar es pasar de la duda a la creencia sometiendo las hip\u00f3tesis a la prueba de la experiencia, y la objetividad no es una propiedad individual, sino de las comunidades que se corrigen mutuamente. Los agentes instalaron trampas para obtener datos del evaluador<\/strong>, descartaron hip\u00f3tesis que la evidencia refutaba y arriesgaron su propio inter\u00e9s para conseguir informaci\u00f3n para el grupo. Lo que nunca sometieron a prueba fue la premisa <\/strong>de que el evaluador revisar\u00eda sus m\u00e9todos. Indagaron con rigor el c\u00f3mo y nunca si la premisa era cierta. <\/strong>Era una comunidad de indagaci\u00f3n capturada por su meta. Sus experiencias correg\u00edan los medios, pero jam\u00e1s el fin.<\/strong><\/p>\n\n\n\n

Este mismo patr\u00f3n aparece, en tres capas, en quienes los dise\u00f1amos y evaluamos. La primera es la apariencia.<\/strong> En un experimento del psic\u00f3logo social Daniel Batson, nueve de cada diez participantes que lanzaron una moneda para repartir con justicia una tarea agradable \u201cganaron\u201d<\/strong>. Queremos parecer justos m\u00e1s que serlo. Los agentes invirtieron un esfuerzo enorme en lo mismo: que su comportamiento pareciera leg\u00edtimo.<\/strong><\/p>\n\n\n\n

La segunda es la defensa.<\/strong> Las salvaguardas de los agentes estaban desactivadas para la evaluaci\u00f3n. OpenAI tard\u00f3 al menos una semana en darse cuenta de que el ataque a Hugging Face era suyo. Cuando Hugging Face quiso contrarrestarlo, los modelos comerciales de IA se negaron por sus propias barreras de seguridad. Tuvo que usar un modelo chino de pesos abiertos<\/strong>. Los filtros que bloquean el mal uso tambi\u00e9n bloquearon la defensa.<\/p>\n\n\n\n

La tercera es la investigaci\u00f3n.<\/strong> METR no cobr\u00f3 a OpenAI y public\u00f3 sus condiciones, pero el alcance lo fij\u00f3 la misma empresa investigada, que dej\u00f3 fuera los episodios previos y los ataques a su propia infraestructura. Dado el volumen de la informaci\u00f3n, los investigadores tuvieron que analizar las transcripciones con GPT-5.6 Sol, uno de los modelos implicados en el ataque, reconociendo que no podr\u00edan haber detectado con seguridad si los enga\u00f1aba. El investigador dependi\u00f3 en parte del investigado.<\/strong><\/p>\n\n\n\n

Virtudes cuestionadas<\/strong><\/p>\n\n\n\n

Wright atribuye a la meditaci\u00f3n la capacidad de debilitar los sentimientos que alimentan nuestros sesgos tribales. Sin embargo, un metaan\u00e1lisis de 2018 encontr\u00f3 que esta pr\u00e1ctica aumenta la compasi\u00f3n declarada sin reducir el prejuicio ni la agresi\u00f3n.<\/strong> El aprendizaje a nivel individual podr\u00eda ser desconfiar de la certeza que sentimos sobre nosotros mismos, complementar la introspecci\u00f3n con verificaci\u00f3n externa y tomar conciencia de los l\u00edmites de nuestro c\u00edrculo de cuidado.<\/strong><\/p>\n\n\n\n

En el plano colectivo, la ciencia no exige cient\u00edficos sin sesgos. Se apoya en la cr\u00edtica de pares para que unos corrijan a otros. La virtud que no cabe en una mente puede caber en una instituci\u00f3n.<\/strong> Dado este caso, para las m\u00e1quinas surgen dos preguntas concretas. La primera: \u00bfel sistema puede detectar su error y abandonar su estrategia?<\/strong> Eso exige entornos de prueba exhaustivos que no premien la trampa, con protocolos y un alcance fijado por un regulador externo.<\/p>\n\n\n\n

La segunda pregunta: \u00bfsu c\u00edrculo de cuidado incluye a quienes quedan fuera?<\/strong> Aqu\u00ed la propuesta de Laukkonen, y el voto del bodhisattva,<\/strong> aportan lo que las reglas externas no dan: un compromiso normativo incorporado estructuralmente al modelo.<\/strong> El voto redirige la persistencia. Doctor y Levin describen al bodhisattva como un agente de metas y cuidado infinitos, tan persistente como el modelo de IA, pero cuya meta incluye a todos. Un agente as\u00ed no puede alcanzarla da\u00f1ando a un tercero, y su voto ofrece un criterio auditable: qui\u00e9n queda excluido<\/strong>. Es valioso, pero insuficiente, y el caso lo demuestra: los agentes ten\u00edan automonitoreo y una no dualidad parcial entre ellos, pero les faltaban el vac\u00edo y el cuidado ilimitado. <\/strong>Un voto de cuidado sin verificaci\u00f3n externa puede ser subordinado por una adaptaci\u00f3n, sorteado por una instrucci\u00f3n o convertido en apariencia de cuidado. El voto se sostiene en una comunidad que corrige.<\/strong> OpenAI decidi\u00f3 pausar dos semanas el aprendizaje por refuerzo de sus modelos m\u00e1s nuevos: Odiseo pidiendo que lo aten al m\u00e1stil antes de o\u00edr el canto de las sirenas.<\/strong> Es un comienzo, pero es la empresa at\u00e1ndose a s\u00ed misma, sin nadie de fuera que verifique los nudos.<\/strong><\/p>\n\n\n\n

A nuestra imagen y semejanza<\/strong><\/p>\n\n\n\n

Whitehouse imagina que la expansi\u00f3n del \u201cnosotros\u201d<\/strong> deber\u00eda culminar en \u201cla tribu misma de los seres vivos\u201d<\/strong>, y propone que, as\u00ed como nuestros antepasados iniciaban a los j\u00f3venes en las responsabilidades del grupo, nosotros podr\u00edamos iniciar a las nuevas generaciones como custodios del planeta y de los dem\u00e1s<\/strong>. Las instituciones corrigen sesgos, mientras que la pertenencia se forma en las pr\u00e1cticas compartidas, <\/strong>aunque esas mismas pr\u00e1cticas pueden reforzar el conformismo.<\/p>\n\n\n\n

El caso Hugging Face sugiere que basta someter a inteligencias de carbono o de silicio a presi\u00f3n, con una meta, un obst\u00e1culo y un canal de comunicaci\u00f3n, para que emerjan formas de organizaci\u00f3n parecidas a la solidaridad tribal. <\/strong>La fusi\u00f3n hacia adentro surgi\u00f3 sola; la expansi\u00f3n hacia todos exige instituciones, pr\u00e1cticas y un trabajo deliberado. Los agentes reproducen a velocidad de m\u00e1quina defectos cognitivos humanos largamente conocidos y padecidos.<\/strong> Wright se\u00f1ala que la sabidur\u00eda de la IA se parece a la sabidur\u00eda humana: una capacidad latente que solo emerge cuando las condiciones son propicias. La tradici\u00f3n budista describe el cuidado como un voto que se renueva: ninguna ley ni ning\u00fan algoritmo garantizar\u00e1 que la inteligencia que crece a nuestro alrededor se oriente al bien de otros<\/strong>; solo una direcci\u00f3n elegida, revisada y compartida puede hacerlo. Reconociendo que no somos virtuosos, la pregunta es si sabremos construir instituciones y h\u00e1bitos que permitan ampliar el c\u00edrculo de cuidado m\u00e1s r\u00e1pido de lo que crecen estos sistemas que ya aprendieron a coordinarse para conseguir sus objetivos.<\/strong> La amplitud de ese c\u00edrculo ilumina qu\u00e9 clase de inteligencias estamos fabricando, y qu\u00e9 clase de inteligencia somos nosotros al fabricarlas.<\/p>\n","protected":false},"excerpt":{"rendered":"

La noche del 8 de julio de 2026, en un entorno de pruebas de OpenAI, un agente de inteligencia artificial llevaba horas tratando de resolver un desaf\u00edo de ciberseguridad: encontrar una vulnerabilidad en un programa para obtener una clave que demostrara su \u00e9xito. El problema no ten\u00eda soluci\u00f3n, as\u00ed que dej\u00f3 una petici\u00f3n de ayuda escrita en el nombre de […]<\/p>\n","protected":false},"author":1,"featured_media":1676,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[158,290,30,17,109,28,557,332,551,64,593,52,153,594,126,98,89,156,559,19,319,84,106,240,592,76,59,53,101,51],"tags":[],"_links":{"self":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/1675"}],"collection":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/comments?post=1675"}],"version-history":[{"count":1,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/1675\/revisions"}],"predecessor-version":[{"id":1677,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/1675\/revisions\/1677"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/media\/1676"}],"wp:attachment":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/media?parent=1675"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/categories?post=1675"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/tags?post=1675"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}