{"id":1354,"date":"2025-06-23T11:17:06","date_gmt":"2025-06-23T14:17:06","guid":{"rendered":"https:\/\/www.imagen.cl\/blog\/?p=1354"},"modified":"2025-06-23T11:17:06","modified_gmt":"2025-06-23T14:17:06","slug":"la-ilusion-de-pensar","status":"publish","type":"post","link":"http:\/\/www.imagen.cl\/blog\/index.php\/2025\/06\/23\/la-ilusion-de-pensar\/","title":{"rendered":"La ilusi\u00f3n de pensar"},"content":{"rendered":"\n

La publicaci\u00f3n reciente del art\u00edculo de Apple: The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity<\/strong> (4 de junio de 2025), ha generado un amplio debate, cr\u00edticas y r\u00e9plicas en la comunidad de inteligencia artificial. El estudio se pregunt\u00f3 directamente si los modelos de lenguaje grandes (LLMs) y los modelos de razonamiento grandes (LRMs), que muestran paso a paso su \u2018proceso de pensamiento\u2019<\/strong>, realmente realizan un razonamiento significativo o simplemente lo simulan<\/strong>. Los investigadores identificaron un \u2018l\u00edmite de escalabilidad\u2019<\/strong>, donde el esfuerzo de razonamiento de los modelos aumenta con la complejidad del problema hasta un punto, luego declina, incluso con recursos computacionales suficientes. Adem\u00e1s, los modelos fallan en usar algoritmos expl\u00edcitos y razonan de manera inconsistente en problemas complejos. <\/strong>Estos resultados sugieren que los LLM\/LRM en realidad no razonan, sino que siguen patrones aprendidos que colapsan al enfrentar desaf\u00edos nuevos. Esto sustenta el t\u00edtulo del art\u00edculo de Apple: \u2018La ilusi\u00f3n de pensar\u2019<\/strong>. A pesar de que los LRMs generan textos que suenan<\/em> a razonamiento l\u00f3gico, en muchos casos no es m\u00e1s que una ilusi\u00f3n ling\u00fc\u00edstica<\/strong>. Cornelia Walther en su art\u00edculo Intelligence Illusion: What Apple\u2019s AI Study Reveals About Reasoning<\/strong>, publicado en Forbes<\/strong> afirma que estos sistemas no razonan, simplemente generan respuestas estad\u00edsticamente<\/em> probables a partir de conjuntos de datos masivos. Concluye: \u2018la elocuencia no es inteligencia, y la imitaci\u00f3n no es comprensi\u00f3n\u2019<\/strong>. En sus palabras:<\/p>\n\n\n\n

Cuando confundimos fluidez con comprensi\u00f3n<\/strong>, nos arriesgamos a tomar decisiones cr\u00edticas basadas en procesos de razonamiento fundamentalmente defectuosos. El peligro no es solo tecnol\u00f3gico, sino epistemol\u00f3gico.<\/strong><\/p>\n\n\n\n

Estos hallazgos, confirman lo que investigadores destacados como Yann LeCun, ganador del Premio Turing, profesor de la Universidad de Nueva York y cient\u00edfico jefe de IA en Meta, llevan a\u00f1os argumentando. LeCun, reconocido como uno de los \u2018padres de la IA\u2019<\/strong>, es un pionero en el aprendizaje profundo<\/strong>, especialmente en redes neuronales convolucionales logrando hitos relevantes al identificar d\u00edgitos escritos a mano. LeCun inicialmente otorg\u00f3 al lenguaje un papel estructurante.<\/strong> Entrenaba m\u00e1quinas con grandes conjuntos de ejemplos etiquetados por humanos. Las categor\u00edas y descripciones ling\u00fc\u00edsticas serv\u00edan de gu\u00eda para que la m\u00e1quina ordenase su representaci\u00f3n del mundo. <\/strong>Sin embargo, en los \u00faltimos a\u00f1os, LeCun ha expresado su escepticismo hacia los modelos de lenguaje grandes (LLM\/LRM) como base para lograr una Inteligencia Artificial General.<\/strong> En el art\u00edculo AI And The Limits Of Language<\/strong>, que escribi\u00f3 en conjunto con el fil\u00f3sofo Jacob Browning, afirma:<\/p>\n\n\n\n

Un sistema de inteligencia artificial entrenado solo con palabras y oraciones jam\u00e1s <\/strong>se aproximar\u00e1 a la comprensi\u00f3n humana.<\/p>\n\n\n\n

LeCun argumenta que los modelos actuales centrados \u00fanicamente en lenguaje presentan limitaciones fundamentales<\/em>. De hecho, ha sido cr\u00edtico sobre el t\u00e9rmino \u2018Inteligencia Artificial General\u2019<\/strong>, sugiriendo \u2018Inteligencia Avanzada de M\u00e1quina\u2019<\/strong>. Si bien los grandes modelos tipo GPT han demostrado capacidades sorprendentes para generar texto, LeCun subraya que carecen de entendimiento genuino y sentido com\u00fan,<\/strong> precisamente porque solo han consumido texto.<\/strong> En la entrevista para Time:<\/strong> Meta\u2019s AI Chief Yann LeCun on AGI, Open-Source, and AI Risk<\/strong>, ilustr\u00f3 el problema con una comparaci\u00f3n cuantitativa. Un ni\u00f1o de 4 a\u00f1os, solo con sus experiencias visuales en el mundo real, ha absorbido del orden de 1015<\/sup> bytes de informaci\u00f3n, lo que es 50 veces m\u00e1s informaci\u00f3n<\/strong> que todo el texto con el que se entrena un modelo ling\u00fc\u00edstico grande. \u2018La gran mayor\u00eda del conocimiento humano no se expresa en texto\u2019<\/strong>, sino que se adquiere antes del lenguaje y fuera de \u00e9l, mediante la experiencia f\u00edsica y perceptual del mundo. Eso es lo que llamamos sentido com\u00fan, y \u2018los LLM no lo tienen, porque no tienen acceso a ello\u2019<\/strong>. Para LeCun el lenguaje es una fuente limitada de inteligencia<\/em>, pues deja fuera todo ese conocimiento t\u00e1cito <\/strong>que obtenemos interactuando con la realidad. Se\u00f1ala:<\/p>\n\n\n\n

El lenguaje no agota el conocimiento<\/strong>; al contrario, es solo un tipo de representaci\u00f3n<\/strong> altamente espec\u00edfico y profundamente limitado.<\/strong><\/p>\n\n\n\n

Hay una gran diferencia entre leer la partitura de una pieza musical y escucharla, y otra a\u00fan mayor entre escucharla y saber interpretarla. <\/strong>La partitura no transmite la experiencia sonora; y la experiencia sonora no equivale a poder tocarla. De modo an\u00e1logo, una descripci\u00f3n textual jam\u00e1s captar\u00e1 completamente la realidad que vivimos ni las destrezas que poseemos.<\/strong> LeCun tambi\u00e9n ha criticado la idea de que simplemente escalando el tama\u00f1o de los LLMs \u00e9stos \u2018entender\u00e1n\u2019<\/strong> el mundo. El problema no es de tama\u00f1o ni potencia de c\u00f3mputo, sino estructural.<\/strong> La comprensi\u00f3n profunda requiere anclar el lenguaje a la realidad extraling\u00fc\u00edstica. Por ello, LeCun aboga por nuevas arquitecturas<\/strong> que combinen visi\u00f3n, acciones y lenguaje, de modo que la IA disponga de m\u00faltiples \u2018canales\u2019<\/strong> de pensamiento. Hasta que eso suceda, los LLMs mostrar\u00e1n destellos impresionantes, pero tropezar\u00e1n con tareas que requieren algo m\u00e1s que palabras encadenadas. Gabriel Snyder en el art\u00edculo Yann LeCun, Pioneer of AI, Thinks Today’s LLM’s Are Nearly Obsolete<\/strong>, publicado en Newsweek<\/strong>, comenta que la extra\u00f1a paradoja de los LLMs es que han dominado las habilidades de orden superior del lenguaje sin aprender ninguna de las habilidades humanas fundacionales.<\/strong> Damos demasiada importancia al lenguaje como sustrato de la inteligencia. Cita a LeCun:<\/p>\n\n\n\n

Tenemos sistemas ling\u00fc\u00edsticos que pueden aprobar el examen de abogac\u00eda, resolver ecuaciones, calcular integrales, pero \u00bfD\u00f3nde est\u00e1 nuestro robot para el hogar? \u00bfD\u00f3nde hay un robot que sea tan h\u00e1bil como un gato en el mundo f\u00edsico?<\/strong> No creemos que las tareas que un gato puede realizar sean inteligentes, pero en realidad s\u00ed lo son.<\/p>\n\n\n\n

LeCun explica que la evidencia de la biolog\u00eda y la IA demuestra que hay formas de inteligencia no ling\u00fc\u00edstica muy poderosas.<\/strong> Especies como los pulpos o los gatos muestran comportamientos inteligentes sin poseer lenguaje<\/strong> en el sentido humano. Afirma: \u2018un perro tiene m\u00e1s sentido com\u00fan sobre el mundo f\u00edsico que cualquier sistema de IA actual\u2019<\/strong>. LeCun sintetiza cuatro pilares esenciales del comportamiento inteligente<\/strong>, ya sea en animales o humanos:<\/p>\n\n\n\n