Otro experimento
Esta semana, muchos quedamos sorprendidos al notar un nuevo ícono en la pantalla de WhatsApp. Mark Zuckerberg comenzó otro experimento. Lanzó Llama 3.1 405B, la inteligencia artificial de Meta, que él califica como el sistema de IA más avanzado del mundo. Solo en chips para sus centros de datos, la empresa de Zuckerberg ha invertido más de 10.500 millones de dólares en sus modelos de código abierto. Por otra parte, según indica The Information, OpenAI, bajo la dirección de Sam Altman y considerada la startup más valiosa a nivel global, ha gastado ya más de 4.000 millones de dólares en infraestructura tecnológica y entrenamiento de sus modelos. Además, se proyecta que este año podría sumar 5.000 millones de dólares en pérdidas adicionales. En este contexto, Goldman Sachs ha publicado recientemente el artículo GEN AI: Too much spend, too little benefit? donde se plantea la pregunta:
“Los gigantes de la tecnología y otros, gastarán más de 1 billón de dólares en inversiones en IA en los próximos años, sin que hasta ahora se hayan visto grandes resultados. ¿Valdrá la pena tanto gasto?”
Jim Covello de Goldman Sachs compara esta situación con tecnologías previas como la realidad virtual y la cadena de bloques, que también impulsaron grandes inversiones, pero con pocos resultados prácticos. Señala que la IA, a diferencia de la internet en sus inicios, es una tecnología extremadamente costosa que no ofrece soluciones de bajo costo a problemas concretos. Acemoglu en su artículo Don’t Believe the AI Hype, señala que la adopción temprana de la IA generativa tuvo lugar, naturalmente, en sectores donde se desempeña razonablemente bien, es decir, en tareas en las que su impacto se puede medir de manera objetiva, como la generación de código informático simple o la verificación de información. En esos casos los modelos pueden aprender de la información explícita y los datos históricos disponibles. Pero es poco probable que esos adelantos constituyan una fuente importante de crecimiento económico en los próximos diez años. En sus palabras:
“La industria tecnológica está excesivamente dedicada a la automatización y monetización de los datos más que a la introducción de nuevas tareas de producción para las personas”.
Acemoglu, afirma que la IA es una tecnología de uso general y podemos hacer muchas cosas con ella, por lo que si dejamos que sea la industria tecnológica quien fije la agenda, podríamos desperdiciar gran parte de su potencial. En su libro Power and Progress, escrito en colaboración con Simon Johnson, realizaron un amplio análisis histórico de cuán desigualmente se han distribuido los beneficios y los costos del cambio tecnológico. Los autores afirman que la tecnología no es en sí misma una fuerza, sino más bien una herramienta desarrollada para apoyar las agendas de las personas e instituciones que detentan el poder en la sociedad. En una entrevista Acemoglu dijo:
“Este es un momento crítico para pensar en el futuro de la tecnología. Muchas decisiones de gran importancia se ven obstaculizadas por el hecho de que existe un ´tecnooptimismo´ en el mundo académico, el mundo tecnológico y el mundo político. El tecnooptimismo es la noción de que un cambio tecnológico impresionante conducirá automáticamente a mejores resultados para la sociedad”.
Acemoglu y Johnson sostienen que un pequeño número de corporaciones gigantes están vendiendo una narrativa que dice que lo que es bueno para ellos también es bueno para todo el mundo. El mensaje implícito es que como sociedad debemos permitirles seguir con sus experimentos sin obstaculizarlos con regulaciones, ya que con eso impediremos el ´progreso´. La investigación de Acemoglu y Johnson, muestra que los desarrollos tecnológicos de los últimos 1.000 años tendieron a enriquecer y empoderar a las pequeñas élites mientras generaban pocos beneficios para la sociedad en su conjunto. La narrativa de que la tecnología es igual a progreso debe ser cuestionada. Acemolglu comenta:
“Deberíamos utilizar máquinas para potenciar a los humanos. La IA generativa es tan prometedora porque tiene esa capacidad. Podría ayudar con la recuperación y filtrado de información para que los tomadores de decisiones humanos lo hagan mejor. Pero eso es muy diferente a automatizar unos cuantos quioscos McDonald’s más”.
A diferencia de los sistemas de IA tradicionales, que se limitan a reconocer patrones y hacer predicciones, los modelos de Inteligencia Artificial Generativa, como ChatGPT y Meta AI, han sido entrenados con una vasta cantidad de datos, incluyendo todos los libros y textos digitales disponibles, así como vídeos e imágenes de Internet. Esto les permite realizar tareas como escribir textos, crear imágenes, componer música, y programar código informático. Sin embargo, estas capacidades también se extienden a la falsificación de contenido, voces e imágenes que erosiona nuestra capacidad de discernir la realidad y fomenta una profunda desconfianza hacia el ecosistema informativo global. Yuval Noah Harari, en su libro 21 lecciones para el siglo XXI escribió:
“El peligro es que, si invertimos demasiado en el desarrollo de la inteligencia artificial y muy poco en el desarrollo de la conciencia humana, la inteligencia artificial muy sofisticada de las computadoras solo servirá para potenciar la estupidez natural de los humanos”.
Los datos, la información y el conocimiento sobre cualquier tema se acumulan, empaquetan y comercializan a un ritmo exponencial. Paradójicamente, terminamos recomprando nuestros propios datos, información y conocimiento que hemos compartido. Marta G. Franco, en su libro Las redes son nuestras: Una historia popular de internet y un mapa para volver a habitarla, argumenta que con la inteligencia artificial estamos presenciando una nueva fase del extractivismo de datos, donde se extrae valor de los contenidos y el trabajo realizado por la sociedad en Internet. Los sistemas aprenden de grandes cantidades de contenido publicado por los mismos usuarios, remezclan lo que hemos creado y luego nos lo venden como herramientas supuestamente útiles para resolver problemas que, en muchos casos, no entendemos completamente. Escribe:
“Internet era nuestra. Nos la robaron entre quienes viven de extraer nuestros datos personales y quienes necesitan que se extienda el odio, pero antes todo ese espacio era nuestro. Y si era nuestro, se puede recuperar”.
Por su parte, la investigadora Melanie Mitchell, en su reciente libro Inteligencia artificial: Guía para seres pensantes, analiza en forma crítica la situación actual de los avances en este campo. Explica que hay muchas cosas sobre el sentido común y el conocimiento que no están codificadas en el lenguaje, que simplemente se adquieren a través de la experiencia. Por lo tanto, es posible que para que una máquina tenga realmente una comprensión similar a la humana, tenga que experimentar el mundo de la misma manera que lo hacemos nosotros. En una reciente entrevista señaló:
“No creo que haya algo intrínsecamente especial en nuestra mente o en nuestro ser que sea, en principio, imposible de mecanizar. Sin embargo, también pienso que la complejidad de estos aspectos es mayor de lo que algunas personas imaginan”.
Mitchell explica que uno de los objetivos de la IA es ayudar a comprender mejor lo que entendemos por inteligencia. Y, cuando tratamos de implementarla en máquinas, a menudo nos damos cuenta de que la inteligencia en realidad incluye muchas cosas en las que nunca habíamos pensado. En cierto sentido, estos sistemas son cajas negras. Son sistemas de software enormemente complejos que no han sido programados explícitamente para hacer cosas, sino que han sido entrenados, han aprendido a partir de datos y nadie puede entender por qué funcionan como lo hacen. Mitchell comenta:
“Hay gente que gana mucho dinero intentando hacer que los sistemas funcionen lo mejor posible. Pero es pura alquimia, no hay ninguna ciencia detrás. Se trata simplemente de prueba y error. Algunas cosas funcionan y otras no, y no tenemos ni idea de por qué”.
Como explica Mitchell, el campo de la inteligencia artificial ha pasado varias veces por periodos de optimismo e inversión masiva y periodos de decepción y reducción de la financiación. El problema es que, como no entendemos cómo funciona la inteligencia humana, tendemos a simplificar en exceso la búsqueda de inteligencia artificial, y esto no es solo una cuestión de construir redes neuronales más grandes y profundas. Mitchell comenta:
“A la gente le preocupa que los computadores se vuelvan demasiado inteligentes y se apoderen del mundo, pero el verdadero problema es que son demasiado estúpidos y ya se han apoderado del mundo. Me preocupa la inteligencia artificial, pero me preocupa más que los humanos la utilicen mal… temo más a Elon Musk que a Skynet”.
Manfred Max-Neef ganador del Right Livelihood Award considerado el Premio Nobel alternativo de economía, en su libro La economía desenmascarada escribió:
“Si debiera definir de alguna manera nuestro tiempo me atrevería a decir que hemos alcanzado un punto en nuestra evolución como seres humanos, en que sabemos mucho, pero comprendemos muy poco. No cabe duda alguna de que la razón, la lógica lineal y el reduccionismo han contribuido a alcanzar niveles insospechados de conocimiento. El saber ha crecido de manera exponencial, pero recién ahora comenzamos a sospechar que ello no es suficiente, no por razones cuantitativas, sino por razones cualitativas. El saber es sólo uno de los caminos, es un lado de la moneda. El otro camino es el de la sabiduría”.
El filósofo británico Nicholas Maxwell en su libro World Crisis, The – And What To Do About It: A Revolution For Thought And Action, sostiene que el principal desastre de nuestro tiempo es que tenemos ciencia sin sabiduría. Nos hemos dedicado a la búsqueda de conocimientos y tecnologías especializadas, en vez de mejorar el mundo y la condición humana. Para resolver problemas complejos necesitamos sabiduría. Necesitamos progresar en sabiduría tan rápido como progresamos en conocimientos. La sabiduría otorga discernimiento para juzgar el curso de acción más adecuado en situaciones confusas. Por lo tanto, la sabiduría puede verse como la combinación del conocimiento acumulado y la capacidad de sintetizar ese conocimiento utilizando la comprensión ética de las circunstancias y el contexto que experimentamos. Lamentablemente como dijo una vez Benjamín Franklin:
“La tragedia de la vida es que envejecemos demasiado pronto y somos sabios demasiado tarde”.
En octubre de 2022, el psiquiatra Iain McGilchrist pronunció el discurso de apertura en la Cumbre Mundial de Inteligencia Artificial de Ámsterdam, organizada por Inspired Minds. En la ocasión señaló:
“Todas las decisiones que afectan a los humanos son morales. La moralidad no es puramente utilitaria. No puede reducirse al cálculo. Cada situación humana es única y la unicidad tiene que ver con la historia personal, conciencia, memoria, intención. Todo lo que no es explícito. A lo que nos referimos con esa palabra engañosamente simple: emoción. Toda la experiencia y comprensión adquirida a través del cuerpo y almacenada en él. Todo lo que nos hace humanos y no máquinas. La bondad proviene de mentes virtuosas que no siguen las reglas de máquinas”.
La diferencia principal entre sabiduría, conocimiento e inteligencia es que la sabiduría implica una gran dosis de perspectiva y la capacidad de emitir juicios acertados sobre los desafíos que se nos presentan. Mientras que el conocimiento proviene del aprendizaje, la sabiduría proviene de la experiencia y la reflexión. Las actuales herramientas basadas en aprendizaje profundo cuentan con modelos que han sido entrenados para predecir con gran precisión y han mejorado significativamente, pero aún hay muy poca evidencia de su poder de comprensión y abstracción. Estas capacidades plantean un gran impacto y riesgo. Es necesario fomentar el flujo de ideas sobre cómo la tecnología digital puede utilizarse para el florecimiento humano en lugar de exclusivamente para el beneficio de una elite. En palabras de Mitchell:
“¿Podemos realmente capturar la profundidad de la experiencia humana en algoritmos y circuitos? La tarea de replicar la mente humana y la esencia del ser en una máquina no es sencilla y probablemente implique desafíos y sutilezas que aún no comprendemos por completo. Esta discusión no solo toca los límites de la tecnología, sino también la esencia de lo que significa ser humano”.
