Inteligencia Alienígena
El Go es un juego de estrategia que se originó en la antigua China hace más de 2.500 años. Era considerado una de las cuatro formas de arte que un erudito debía dominar. La dinámica del juego consiste en colocar, por turnos, piedras blancas y negras en un tablero con una cuadrícula de 19 x 19. El objetivo es rodear las fichas del oponente para capturarlas. A pesar de la aparente simplicidad, el Go es uno de los juegos más complejos que existen. El número de posibles posiciones en un tablero de Go excede el número de átomos de todo el universo. Durante mucho tiempo los expertos en inteligencia artificial, consideraban al Go un desafío mucho más difícil de resolver que el ajedrez. La opinión era que el Go requiere elementos que imitan el pensamiento humano: intuición, pensamiento creativo y estratégico.
Antes de 2015, los mejores programas de Go solo lograban un nivel básico. Sin embargo, en 2016, se organizó un torneo en que compitieron el programa AlphaGo desarrollado por Google DeepMind y el campeón coreano de Go, Lee Sedol, considerado uno de los mejores jugadores de la historia. El evento fue comparado con la histórica partida de ajedrez entre Deep Blue de IBM y Garry Kasparov en 1997. Sedol, reconocido por su juego poco convencional y creativo, antes del torneo predijo que derrotaría al software. El torneo conocido como Google DeepMind Challenge Match, consistió en cinco juegos que sorprendentemente AlphaGo ganó 4 a 1. En una conferencia posterior Sedol comentó:
“Su estilo era diferente, y fue una experiencia tan inusual que me tomó tiempo adaptarme. AlphaGo me hizo comprender que debo estudiar más Go”.
El jugador chino Ke Jie, estudió en detalle las partidas que jugó AlphaGo contra Sedol, y lo calificó de bastante humano. Declaró que él le hubiera ganado. Tras meses de trabajo diseñó una estrategia para enfrentar a AlphaGo. En 2017, en la Cumbre Future of Go en China, se realizó el encuentro entre AlphaGo y Ke Jie. El torneo consistió en tres juegos. AlphaGo derrotó a Ke Jie en los tres juegos. Luego de su derrota Ke Jie señaló:
“Es más que humano, similar al de un dios del Go”.
Los dos mejores jugadores de Go del mundo habían sido derrotados por un software. Mustafa Suleyman cofundador y ex director de DeepMind, en su libro The Coming Wave, relata el movimiento 37 de AlphaGo. Una jugada que círculos académicos reconocen como un punto de inflexión en la historia de la Inteligencia Artificial. Ocurrió en el segundo juego contra Lee Sedol. Escribe Suleyman:
“Luego llegó la jugada número 37. No tenía sentido. AlphaGo aparentemente había metido la pata, siguiendo ciegamente una estrategia aparentemente perdedora que ningún jugador profesional jamás seguiría. Los comentaristas de la partida en vivo, profesionales del más alto nivel dijeron que era una ´jugada muy extraña’ y pensaron que era ‘un error’. Fue tan inusual que Sedol tardó 15 minutos en responder e incluso se levantó del tablero para dar un paseo. Mientras observábamos desde nuestra sala de control, la tensión era irreal. Sin embargo, a medida que se acercaba el final, esa jugada ‘errónea’ fue clave. AlphaGo ganó de nuevo. La estrategia de Go se estaba reescribiendo ante nuestros ojos. Nuestra IA había descubierto ideas que no se les habían ocurrido a los jugadores más brillantes en miles de años”.
El movimiento 37, era completamente subóptimo según los estándares humanos. Sin embargo, era parte de la estrategia diseñada por AlphaGo para ganar. AlphaGo fue inicialmente entrenada con una base de datos de 30 millones de partidas, luego de lo cual jugó contra si misma para seguir aprendiendo. Mientras que un jugador profesional juega alrededor de mil partidas por año, AlphaGo aprendía a un ritmo de un millón de partidas por día. Durante milenios, las mentes humanas habían explorado ciertas áreas del Go, otras, estaban intactas. La IA, al estar libre de las limitaciones humanas, las exploró y descubrió. Suleyman escribe:
“En la IA, las redes neuronales que avanzan hacia la autonomía no son, en la actualidad, explicables. No se puede guiar a alguien a través del proceso de toma de decisiones para explicar con precisión por qué un algoritmo produjo una predicción específica. Los ingenieros no pueden mirar debajo del capó y explicar fácilmente con gran detalle qué causó que algo sucediera. GPT 4, AlphaGo y el resto son cajas negras, sus resultados y decisiones se basan en cadenas opacas e imposiblemente intrincadas de señales diminutas”.
Sin embargo, no estaba todo dicho. En el cuarto juego Sedol decidió usar una estrategia extrema, el todo o nada, conocida como amashi. Era una opción frente a la aparente preferencia de AlphaGo por la estrategia Souba Go, que intenta ganar acumulando pequeñas ganancias incrementales. Cuando el juego parecía dominado por AlphaGo, en la jugada 78, Sedol hizo una jugada inesperada descrita como un tesuji brillante, y dio vuelta el juego. Un comentarista señaló:
“Fue una jugada divina”.
Los expertos que observaban y comentaban el torneo coincidieron que el movimiento realizado por Sedol había sido completamente imprevisto. AlphaGo respondió mal y terminó perdiendo el juego. Un analista señaló:
“Una obra maestra de Lee Sedol, casi con certeza se convertirá en una jugada famosa en la historia del Go”.
Sedol reconoció que su victoria pudo deberse a un error en el algoritmo de AlphaGo ya que la IA respondió de forma defectuosa a un movimiento poco usual. Explicó:
“Mi jugada 78 no debía ser contrarrestada directamente. Tal error todavía ocurre en otras aplicaciones de IA de Go como la de origen chino Fine Arts. Fine Arts difícilmente puede ser derrotada. Pero cuando pierde, pierde de una manera extraña. Se debe a un error”.
En noviembre de 2019, Lee Sedol anunció su retiro como jugador profesional de Go. Dijo:
“Con la llegada de la IA en las partidas de Go, siento que no puedo ser el número uno incluso aunque invierta mis mayores esfuerzos. Incluso si soy el número uno (humano), existe una entidad a la que no puedo vencer”.
En diciembre de 2019, Lee Sedol accedió a jugar un partido de tres juegos contra la aplicación de IA coreana HanDol. Sedol derrotó a la máquina en el primer juego. Posteriormente, HanDol ganó los dos juegos restantes, ganando el torneo. Sedol dijo:
“Esta es una entidad que no puede ser derrotada”.
Yuval Noah Harari, comenta que tradicionalmente, el término ‘IA’ se ha utilizado como acrónimo de inteligencia artificial, pero quizá sea mejor pensar en él como un acrónimo de Inteligencia Alienígena. Harari, recientemente publicó en The Guardian un extracto editado de su nuevo libro Nexus: A Brief History of Information Networks from the Stone Age to AI. Relata que cuando la Revolución Industrial estaba dando sus primeros pasos y las máquinas comenzaban a reemplazar a los humanos en numerosas tareas, Johann Wolfgang von Goethe publicó un poema titulado El aprendiz de brujo. Este poema cuenta la historia de un viejo brujo que deja a un joven aprendiz a cargo de su taller, mientras él está fuera y le encarga algunas tareas que debe realizar, como ir a buscar agua al río. El joven decide facilitarse las cosas y, utilizando uno de los hechizos del brujo, encanta una escoba para que le traiga agua. Pero el aprendiz no sabe cómo detener la escoba, que incesantemente va a buscar más y más agua, amenazando con inundar el taller. Presa del pánico, el aprendiz intenta destruir la escoba encantada cortándola en dos con un hacha, solo para ver cómo cada mitad se convierte en otra escoba. Ahora tenía dos escobas encantadas inundando el taller con agua. Cuando el viejo brujo regresa, el aprendiz pide ayuda y le dice:
“Ya no puedo librarme de los espíritus que invoqué”.
El brujo rompe el hechizo y detiene la inundación. Harari, afirma que, en el siglo XXI, es evidente que los humanos nos hemos negado a prestar atención a los estragos que hemos causado. Ya hemos desequilibrado el clima de la Tierra y hemos convocado a miles de millones de escobas encantadas, drones, chatbots y otros espíritus algorítmicos que pueden escapar a nuestro control y desatar un aluvión de consecuencias indeseadas. Escribe:
“La IA es una amenaza sin precedentes para la humanidad porque es la primera tecnología de la historia que puede tomar decisiones y crear nuevas ideas por sí sola. La IA no es una herramienta, es un agente. Estamos convocando a la Tierra a innumerables agentes nuevos y poderosos que son potencialmente más inteligentes e imaginativos que nosotros, y que no comprendemos ni controlamos del todo”.
En el artículo Superhuman artificial intelligence can improve human decision-making by increasing novelty, Minkyu Shin, y su equipo examinaron los cambios en la toma de decisiones de los jugadores profesionales de Go durante los últimos setenta años. Descubrieron que el nivel de calidad de las decisiones humanas en el juego de Go se mantuvo bastante uniforme durante 66 años, sin embargo, a partir del período 2016-2017, en que las IA vencieron a los super campeones de Go, los puntajes de calidad de decisión de todos los jugadores comenzaron a subir. Escriben:
“Nuestros hallazgos ilustran que la IA puede alentar la toma de decisiones novedosas por parte de los humanos en ciertos dominios y sugiere que el pensamiento innovador puede extenderse de las máquinas a los humanos y entre los propios humanos, posiblemente mejorando la toma de decisiones humanas en esos dominios”.
El equipo dirigido por Shin, descubrió que los humanos ahora estaban tomando mejores decisiones de juego, tal vez no lo suficiente como para vencer a las IA, pero han mejorado. David Silver, investigador principal en DeepMind y líder del proyecto AlphaGo, señaló al respecto:
“Es sorprendente ver que los jugadores humanos se han adaptado rápidamente para incorporar estas nuevas estrategias en su propio juego. Estos resultados sugieren que los humanos se adaptarán y aprovecharán estos descubrimientos para aumentar enormemente su potencial”.
Frente a la preocupación sobre la masificación de aplicaciones como ChatGPT y otras IA, los hallazgos de estas investigaciones ofrecen una perspectiva esperanzadora. Shin escribe:
“En lugar de ver la IA como una amenaza para la inteligencia humana, deberíamos adoptarla como una herramienta valiosa que puede mejorar nuestras habilidades”.
El neurocientífico Rodrigo Quian, en su libro NeuroCienciaFicción, destaca que lo notable es que Lee Sedol le hubiera ganado un juego a AlphaGo, habiendo jugado una ínfima cantidad de partidas comparado con la computadora. Esto demuestra la superioridad humana y pone el foco en lo que todavía las máquinas no han logrado: la capacidad de inteligencia general, de abstraer y transferir significado. En sus palabras:
“La inteligencia humana va mucho más allá de la lógica que puede implementarse en una computadora. La gente usa un paraguas para evitar mojarse, pero no le importa mojarse cuando va a una piscina. La maleta que se usa para transportar ropa también puede usarse para pararse sobre ella y cambiar una ampolleta. Este es el rasgo más notable de la inteligencia humana, la capacidad de crear analogías y hacer diversos usos de las cosas, de desarrollar el sentido común y tener infinidad de maneras posibles de encarar y resolver problemas. La inteligencia humana permite entender una fábula y el doble sentido, yendo más allá del sentido literal de las palabras. Y aunque no necesariamente lleguemos a ser un gran maestro de Go, podemos aprender a jugarlo sin necesitar millones de ejemplos”.
Leonardo Werner en su artículo ChatGPT and the place of the human being in an automated society, explora la posibilidad de externalizar tareas intelectuales que hasta ahora eran exclusivas de los seres humanos. Afirma que es fundamental reflexionar sobre qué tareas deseamos subcontratar a una máquina y cuáles queremos conservar. Werner pregunta:
“¿Queremos simplemente ‘consumir’ esta tecnología tanto como podamos, en el sentido de extraer la mayor cantidad de información y conveniencia posible de ChatGPT? ¿O estamos dispuestos a explorar nuevas formas de compromiso con él para generar resultados únicos, creativos e híbridos?”.
Las herramientas actuales que emplean aprendizaje profundo se basan en modelos entrenados específicamente para realizar predicciones, lo que puede mejorar considerablemente la toma de decisiones. No obstante, estas herramientas aún no alcanzan el nivel de inteligencia general; su habilidad para inferir, hacer analogías, y su capacidad de comprensión y abstracción siguen siendo limitadas y poco evidentes. Sin embargo, en la medida que las tecnologías sigan mejorando, la barrera que separa la IA y la inteligencia humana será cada vez más difusa. El auge de la IA plantea un peligro existencial para la humanidad, no por la malevolencia de los computadores, sino por nuestras propias deficiencias. Harari advierte:
“Mucha gente intenta medir e incluso definir la IA utilizando la métrica de la ‘inteligencia humana’, y existe un intenso debate sobre cuándo podemos esperar que la IA la alcance. Esta métrica es profundamente engañosa. Es como evaluar aviones con la métrica del ‘vuelo de un pájaro’. La IA no está progresando hacia una inteligencia a nivel humano, sino que está desarrollando un tipo de Inteligencia Alienígena”.
