{"id":856,"date":"2023-06-12T10:24:31","date_gmt":"2023-06-12T13:24:31","guid":{"rendered":"http:\/\/www.imagen.cl\/blog\/?p=856"},"modified":"2023-06-12T10:24:31","modified_gmt":"2023-06-12T13:24:31","slug":"y-si-sale-mal","status":"publish","type":"post","link":"http:\/\/www.imagen.cl\/blog\/index.php\/2023\/06\/12\/y-si-sale-mal\/","title":{"rendered":"\u00bfY si sale mal?"},"content":{"rendered":"\n

Sam Altman, cofundador de OpenAI<\/em>, la empresa creadora de la aplicaci\u00f3n de Inteligencia Artificial Generativa<\/em> ChatGPT, contin\u00faa con su campa\u00f1a p\u00fablica de promoci\u00f3n y solicitud para crear una agencia reguladora para la Inteligencia Artificial. En la intervenci\u00f3n que realiz\u00f3 en el congreso de Estados Unidos dijo:<\/p>\n\n\n\n

Es esencial regular la inteligencia artificial, y que esas normas garanticen que el p\u00fablico acceda a los muchos beneficios de esta tecnolog\u00eda. [\u2026]\u00a0Mi peor miedo es que esta tecnolog\u00eda salga mal. Y si sale mal, puede salir muy mal.<\/strong>\u00a0La gente est\u00e9 ansiosa por c\u00f3mo la IA puede cambiar la forma en que vivimos. Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar sus tremendos beneficios.<\/em><\/p><\/blockquote>\n\n\n\n

La idea de Altman es crear una organizaci\u00f3n internacional que establezca est\u00e1ndares para la Inteligencia Artificial, similar a la IAEA de la ONU, que fue creada con posterioridad a que Estados Unidos lanzara bombas at\u00f3micas sobre Jap\u00f3n. A principios de 1942, poco despu\u00e9s que Estados Unidos entrara en la segunda guerra mundial, el f\u00edsico te\u00f3rico Robert Oppenheimer fue nombrado l\u00edder del Proyecto Manhattan. Sus esfuerzos resultaron fruct\u00edferos, y el 16 de julio de 1945, se deton\u00f3 la primera bomba at\u00f3mica en Nuevo M\u00e9xico. Un mes despu\u00e9s, se lanzaron las bombas at\u00f3micas sobre las ciudades japonesas de Hiroshima y Nagasaki. Len Giovannitti, en su libro The Decision to Drop the Bomb<\/em><\/strong>, cuenta que luego de la prueba en Nuevo M\u00e9xico, Oppenheimer dijo:<\/p>\n\n\n\n

Supimos que el mundo no ser\u00eda el mismo<\/em><\/strong>. Unas pocas personas rieron, unas pocas lloraron, muchas estuvieron en silencio. Recuerdo la l\u00ednea de la escritura hind\u00fa, el Bhagavad-Gita. Vishnu est\u00e1 tratando de persuadir al Pr\u00edncipe para que cumpla con su deber y para impresionarlo toma su forma con m\u00faltiples brazos y dice:\u00a0\u2018Ahora, me he convertido en la muerte, el destructor de mundos\u2019<\/strong>. Supongo que todos pensamos eso, de una u otra forma.<\/em><\/p><\/blockquote>\n\n\n\n

Oppenheimer cre\u00eda que ten\u00eda las manos manchadas de sangre. En una charla que dio en 1946, se\u00f1al\u00f3:<\/p>\n\n\n\n

Pensamos en la leyenda de Prometeo, en\u00a0ese profundo sentimiento de culpa que traen los nuevos poderes del hombre<\/strong>, que refleja su reconocimiento del mal y su conocimiento de eso mismo desde hace mucho tiempo.<\/em><\/p><\/blockquote>\n\n\n\n

El sentimiento de culpa de Oppenheimer no fue por el uso de la bomba en el contexto de la Segunda Guerra Mundial, ya que sent\u00eda que en ese momento la bomba estaba justificada. Se sent\u00eda responsable de haber impulsado una carrera armamentista que provocar\u00eda una civilizaci\u00f3n en permanente amenaza<\/em><\/strong>. Esperaba que la tecnolog\u00eda nuclear pudiera encontrar aplicaciones civiles pac\u00edficas, pero ten\u00eda dudas de que fuera viable debido a los altos costos y riesgos involucrados.<\/em><\/strong> Sin embargo, r\u00e1pidamente, los mismos dise\u00f1os de reactores de fisi\u00f3n se trasladaron a dise\u00f1os comerciales para la generaci\u00f3n de electricidad. Un gramo de uranio pod\u00eda producir el equivalente a tres toneladas de carb\u00f3n. Era una fuente de energ\u00eda tres millones de veces m\u00e1s poderosa.<\/em><\/strong> La energ\u00eda nuclear se consider\u00f3 un regalo para la humanidad. Pero, la Ley de Murphy dice que, si algo puede salir mal, saldr\u00e1 mal.<\/em><\/strong> El 26 de abril de 1986, ocurri\u00f3 el accidente de Chern\u00f3bil, que es considerado el peor accidente nuclear y medioambiental de la historia. La noche del lunes 28 de abril, durante la emisi\u00f3n del programa de noticias de la televisi\u00f3n oficial, la presentadora se\u00f1al\u00f3:<\/p>\n\n\n\n

Ha ocurrido un accidente en la central de energ\u00eda de Chern\u00f3bil y uno de los reactores result\u00f3 da\u00f1ado. Est\u00e1n tom\u00e1ndose medidas para eliminar las consecuencias del accidente. Se est\u00e1 asistiendo a las personas afectadas.\u00a0Se ha designado una comisi\u00f3n del Gobierno.<\/strong><\/em><\/p><\/blockquote>\n\n\n\n

Treinta y una personas murieron a consecuencia directa de la explosi\u00f3n. Aunque persiste la controversia en la cantidad de muertes directas, se estima que fueron por lo menos 80.000 v\u00edctimas. La estructura destruida ardi\u00f3 durante 10 d\u00edas, contamin\u00f3 155.000 kil\u00f3metros cuadrados. La lluvia radiactiva, 400 veces superior a la radiactividad liberada en Hiroshima, desencaden\u00f3 una epidemia de c\u00e1ncer de tiroides. La radiaci\u00f3n liberada fue tan masiva que los contaminantes radiactivos se detectaron en casi todo el mundo. Esa radiactividad no se extinguir\u00e1 hasta pasados 300.000 a\u00f1os.<\/em><\/strong> Las p\u00e9rdidas econ\u00f3micas se han cifrado en cientos de miles de millones de d\u00f3lares. Seg\u00fan el art\u00edculo El accidente de Chern\u00f3bil<\/em><\/strong> publicado por National Geographic<\/em>, las principales causas del desastre nuclear fueron errores humanos:<\/p>\n\n\n\n

Los responsables de la central no siguieron las medidas de seguridad y el combustible de uranio del reactor se recalent\u00f3.<\/em><\/p><\/blockquote>\n\n\n\n

En los a\u00f1os 50, Jap\u00f3n hab\u00eda superado su derrota de la segunda guerra mundial y logr\u00f3 un crecimiento econ\u00f3mico milagroso. Quer\u00edan que el crecimiento econ\u00f3mico durara para siempre<\/em><\/strong>, por lo que necesitaban una gran cantidad de energ\u00eda. Apostaron fuertemente por la energ\u00eda nuclear. La serie The Days<\/em><\/strong> de Netflix, recuerda el desastre nuclear de Fukushima. El 11 de marzo de 2011 un terremoto de magnitud 9 y el posterior tsunami golpearon la central de Fukushima Daiichi<\/em><\/strong> y da\u00f1aron gravemente varios reactores, dejando fuera de servicio los sistemas de enfriamiento de las piscinas de combustible agotado. La interrupci\u00f3n de la energ\u00eda el\u00e9ctrica provoc\u00f3 la fusi\u00f3n de tres reactores nucleares, con las consiguientes explosiones de hidr\u00f3geno y la liberaci\u00f3n de contaminantes radioactivos. El 9 de julio de 2013, dos a\u00f1os despu\u00e9s del accidente el l\u00edder de la central, Masao Yoshida, quien lider\u00f3 las acciones para manejar la cat\u00e1strofe, falleci\u00f3 de c\u00e1ncer a los 58 a\u00f1os. Reiko Hachisuka, l\u00edder de un grupo empresarial en la ciudad de Okuma se\u00f1al\u00f3:<\/p>\n\n\n\n

Si Yoshida no hubiera estado all\u00ed, el desastre podr\u00eda haber sido mucho peor.<\/em><\/p><\/blockquote>\n\n\n\n

El accidente nuclear provoc\u00f3 que m\u00e1s de 110.000 personas fueron trasladadas de sus hogares. Esta evacuaci\u00f3n caus\u00f3 cerca de unas 2.000 muertes prematuras y los efectos medio ambientales siguen. El n\u00facleo de los reactores requiere un enfriamiento continuo. Desde el accidente se han generado cerca de 180 toneladas de aguas contaminadas cada d\u00eda.<\/em><\/strong> La empresa que gestiona la central nuclear la Tokyo Electric Power Company (TEPCO) reconoci\u00f3 haber descargado por varios a\u00f1os las aguas residuales contaminadas al oc\u00e9ano<\/em><\/strong>, provocando un esc\u00e1ndalo internacional. Aunque Jap\u00f3n es una naci\u00f3n desarrollada y su industria nuclear est\u00e1 altamente regulada, las normas y precauciones no alcanzan.<\/em><\/strong> El fil\u00f3sofo espa\u00f1ol George Santayana, en su libro La raz\u00f3n en el sentido com\u00fan<\/em><\/strong>, escribi\u00f3:<\/p>\n\n\n\n

Aquellos que no pueden recordar el pasado est\u00e1n condenados a repetirlo.<\/em><\/p><\/blockquote>\n\n\n\n

David Krieger, en su art\u00edculo Ten Lessons from Chernobyl and Fukushima<\/em><\/strong>, destaca que la energ\u00eda nuclear es una forma de energ\u00eda extremadamente peligrosa, los accidentes ocurren y a menudo resultan ser peor de lo imaginado. Los expertos no pueden planificar todas las contingencias ni prevenir todos los desastres que puedan ocurrir. La arrogancia, la complacencia y las tecnolog\u00edas peligrosas son una mezcla mortal. En sus palabras:<\/p>\n\n\n\n

Los reguladores gubernamentales de la industria nuclear a menudo provienen de la misma industria<\/em><\/strong>\u00a0y tienden a estar demasiado cerca para regularlos de manera efectiva.<\/em><\/p><\/blockquote>\n\n\n\n

Aunque en circunstancias diferentes, el accidente de la central nuclear de Chern\u00f3bil volvi\u00f3 a repetirse en Fukushima.<\/p>\n\n\n\n

\u00bfHa aprendido nuestra sociedad alguna lecci\u00f3n sobre el uso de tecnolog\u00edas peligrosas?<\/em><\/p>\n\n\n\n

La forma en que se desarrollan y utilizan ciertas tecnolog\u00edas tiene consecuencias de gran alcance para la vida en la tierra. Este es actualmente el caso de la inteligencia artificial, las biotecnolog\u00edas y la tecnolog\u00eda nuclear<\/em><\/strong>. Hace unos d\u00edas Future of Life Institute<\/em><\/strong>, public\u00f3 una carta abierta<\/em><\/strong> en la que ped\u00eda una pausa de seis meses<\/em><\/strong> para estudiar los efectos de la Inteligencia Artificial Generativa,<\/em> y explorar formas en que se pueda innovar de manera m\u00e1s responsable. Escriben:<\/p>\n\n\n\n

La IA avanzada podr\u00eda representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes.\u00a0Desafortunadamente, este nivel de planificaci\u00f3n y gesti\u00f3n no est\u00e1 ocurriendo.<\/strong><\/em><\/p><\/blockquote>\n\n\n\n

A diferencia de los sistemas de IA tradicionales que est\u00e1n dise\u00f1ados para reconocer patrones y hacer predicciones, la Inteligencia Artificial Generativa<\/em> es capaz de escribir textos, crear im\u00e1genes, componer m\u00fasica y escribir c\u00f3digo inform\u00e1tico.<\/em><\/strong> Pero tambi\u00e9n est\u00e1n surgiendo muchas capacidades adicionales, como falsificar voces e im\u00e1genes de personas, redactar proyectos de ley, encontrar errores en c\u00f3digos inform\u00e1ticos y corregir contratos legales.<\/em><\/strong> Estas capacidades plantean un gran impacto y riesgo. Podemos comparar con lo que sucedi\u00f3 con los trabajos manuales durante la revoluci\u00f3n industrial, excepto que esta vez, los trabajos que se ven potencialmente m\u00e1s impactados son los de profesiones intensivas en conocimiento y creatividad. Joseph Briggs y Devesh Kodnani de Goldman Sachs, en su art\u00edculo Generative AI could raise global GDP by 7%<\/em><\/strong>, se\u00f1alan:<\/p>\n\n\n\n

A pesar de la incertidumbre significativa sobre el potencial de la IA generativa, su capacidad para generar contenido que no se puede distinguir de la producci\u00f3n creada por humanos y para derribar las barreras de comunicaci\u00f3n entre humanos y m\u00e1quinas refleja un avance importante con efectos macroecon\u00f3micos potencialmente grandes.<\/em><\/p><\/blockquote>\n\n\n\n

Estos analistas consideran que la IA generativa podr\u00eda impulsar un aumento del 7 % en el PIB mundial y elevar el crecimiento de la productividad en 1,5 puntos porcentuales en un per\u00edodo de 10 a\u00f1os. Sin embargo, estos avances tecnol\u00f3gicos podr\u00edan afectar hasta dos tercios de los actuales puestos de trabajo.<\/em><\/strong> La carta del Future of Life Institute <\/em>invita a preguntarnos:<\/p>\n\n\n\n

  • \u00bfDeber\u00edamos dejar que las m\u00e1quinas inunden nuestros canales de informaci\u00f3n con propaganda y falsedad?<\/li>
  • \u00bfDeber\u00edamos automatizar todos los trabajos?<\/li>
  • \u00bfDeber\u00edamos desarrollar mentes no humanas que eventualmente podr\u00edan superarnos en n\u00famero, ser m\u00e1s inteligentes, hacernos obsoletos y reemplazarnos?<\/li>
  • \u00bfDeber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n?<\/li><\/ul>\n\n\n\n

    Luego de publicada la carta, Bill Gates, el cofundador de Microsoft en una entrevista con Reuters<\/em>, indic\u00f3 que, seg\u00fan su punto de vista, solicitar una suspensi\u00f3n en el desarrollo de estas tecnolog\u00edas es un error. <\/em><\/strong>En su opini\u00f3n, lo mejor ser\u00eda analizar c\u00f3mo sacar mejor provecho de los modelos de inteligencia artificial para terminar con las desigualdades a nivel global. Adem\u00e1s, dijo que es muy dif\u00edcil de entender c\u00f3mo se har\u00eda para aplicar una pausa mundial al trabajo sobre tecnolog\u00edas como GPT-4. En sus palabras:<\/p>\n\n\n\n

    No creo que pedirle a un grupo en particular que haga una pausa resuelva los desaf\u00edos.<\/em><\/strong>\u00a0Claramente, hay enormes beneficios en estas cosas. Lo que tenemos que hacer es identificar los temas problem\u00e1ticos. Realmente no entiendo a qui\u00e9n le est\u00e1n diciendo que deber\u00eda detenerse.\u00a0Tampoco, si todos los pa\u00edses del mundo estar\u00edan de acuerdo en detenerse, y por qu\u00e9 detenerse.<\/strong><\/em><\/p><\/blockquote>\n\n\n\n

    Kai-Fu Lee en su libro AI Superpowers<\/em><\/strong>,<\/em>explica como actualmente en China la Inteligencia Artificial<\/em><\/strong> est\u00e1 reforzando otros campos como la Automatizaci\u00f3n<\/em><\/strong>, la Computaci\u00f3n cu\u00e1ntica<\/em><\/strong>, los desarrollos en Ciencias de la Vida<\/em><\/strong> y Nuevas fuentes de Energ\u00eda<\/em><\/strong>. Estas cinco tecnolog\u00edas combinadas continuar\u00e1n revolucionando empresas, industrias y sociedades completas. Los sistemas potenciados por Inteligencia Artificial pueden realizar muchas tareas mejor que las personas, a costo cero<\/em><\/strong>. Este hecho est\u00e1 generando un tremendo valor econ\u00f3mico para algunos, pero provoca un desplazamiento laboral sin precedentes, una ola de disrupci\u00f3n que afectar\u00e1 tarde o temprano a todas las sociedades, empresas y personas. En palabras de Lee:<\/p>\n\n\n\n

    Estas fuerzas se est\u00e1n combinando para crear un\u00a0fen\u00f3meno hist\u00f3rico \u00fanico<\/strong>, que sacudir\u00e1 los cimientos de nuestros mercados laborales, econom\u00edas y sociedades. Incluso si las predicciones m\u00e1s nefastas sobre la p\u00e9rdida de puestos de trabajo no llegaran a materializarse por completo,\u00a0el impacto social de la desgarradora desigualdad\u00a0<\/strong>podr\u00eda resultar igual de traum\u00e1tico.<\/em><\/p><\/blockquote>\n\n\n\n

    Cuando el Club de Roma le pidi\u00f3 a Jay Forrester, del MIT, que estudiara las relaciones entre los graves problemas globales de la pobreza y el hambre, la destrucci\u00f3n del medio ambiente, el agotamiento de los recursos, el deterioro urbano y el desempleo, y propusiera algunas soluciones, Forrester dise\u00f1\u00f3 un modelo inform\u00e1tico y encontr\u00f3 un factor evidente: el crecimiento desmedido<\/em><\/strong>. Crecimiento demogr\u00e1fico y econ\u00f3mico. Decisiones arriesgadas tomadas visceralmente. Arrogancia en la negaci\u00f3n de la posibilidad de riesgos. Desde 1945 sab\u00edamos que la tecnolog\u00eda nuclear pod\u00eda destruir a la humanidad y tambi\u00e9n que pod\u00eda beneficiarnos al producir energ\u00eda barata y abundante. Tomamos el riesgo y las consecuencias son evidentes. Maya Angelou en On the Pulse of Morning<\/em><\/strong>, escribi\u00f3:<\/p>\n\n\n\n

    La historia, a pesar de su dolor desgarrador, no puede dejar de vivirse, pero si se la enfrenta con coraje no es necesario volver a vivirla.<\/em><\/p><\/blockquote>\n\n\n\n

    Ahora tenemos que lidiar con una nueva arma de destrucci\u00f3n masiva que puede aniquilar nuestro mundo mental y social. Es una nueva oportunidad para que los diferentes actores se involucren en\u00a0buscar el beneficio para la sociedad en su conjunto<\/em><\/strong>. Donella Meadows en su libro\u00a0Pensar en sistemas<\/em><\/strong>\u00a0escribe:<\/p>\n\n\n\n

    No conviene maximizar algunas partes de los sistemas o de los subsistemas e ignorar al conjunto del sistema<\/em><\/strong>\u00a0[\u2026] no conviene molestarse demasiado en optimizar algo que nunca deber\u00eda haberse hecho.<\/em><\/p><\/blockquote>\n\n\n\n

    Oppenheimer no fue capaz de resolver su dilema moral, lamentaba profundamente la destrucci\u00f3n y muertes que su trabajo hab\u00eda generado. En Atom and Void: Essays on Science and Community<\/em><\/strong>, escribi\u00f3 su visi\u00f3n de un mundo posnuclear:<\/p>\n\n\n\n

    La sociedad abierta, el acceso irrestricto al conocimiento, la asociaci\u00f3n no planificada y desinhibida de los hombres para su promoci\u00f3n, esto es lo que puede hacer que un mundo tecnol\u00f3gico vasto, complejo, en constante crecimiento, en constante cambio, cada vez m\u00e1s especializado y experto, sea sin embargo\u00a0un mundo de la comunidad humana.<\/strong><\/em><\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

    Sam Altman, cofundador de OpenAI, la empresa creadora de la aplicaci\u00f3n de Inteligencia Artificial Generativa ChatGPT, contin\u00faa con su campa\u00f1a p\u00fablica de promoci\u00f3n y solicitud para crear una agencia reguladora para la Inteligencia Artificial. En la intervenci\u00f3n que realiz\u00f3 en el congreso de Estados Unidos dijo: Es esencial regular la inteligencia artificial, y que esas normas garanticen que el p\u00fablico acceda a los […]<\/p>\n","protected":false},"author":1,"featured_media":857,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[34,329,158,30,220,306,285,17,80,109,127,28,48,64,52,160,153,313,327,140,323,278,33,50,90,108,328,267,138,110,266,155,126,215,15,37,156,317,227,31,320,243,214,152,330,211,159,284,324,19,319,318,84,119,224,83,304,47,240,85,76,53,287,269,101,51,321],"tags":[],"_links":{"self":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/856"}],"collection":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/comments?post=856"}],"version-history":[{"count":1,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/856\/revisions"}],"predecessor-version":[{"id":858,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/posts\/856\/revisions\/858"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/media\/857"}],"wp:attachment":[{"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/media?parent=856"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/categories?post=856"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.imagen.cl\/blog\/index.php\/wp-json\/wp\/v2\/tags?post=856"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}