El papa Le\u00f3n XIV public\u00f3 el lunes su primera enc\u00edclica, uno de los documentos m\u00e1s importantes que revela la doctrina de un pont\u00edfice sobre un tema religioso o social, y lo hizo con una presentaci\u00f3n personal y acompa\u00f1ado de invitados que no son parte de la Iglesia, algo que llam\u00f3 la atenci\u00f3n.<\/p>\n
es Magn\u00edfica Humanitas (“Magn\u00edfica Humanidad”), Le\u00f3n XIV hace una advertencia al mundo sobre las posibilidades y los riesgos que representan los modelos de inteligencia artificial (IA), en particular si no se sustentan en una base \u00e9tica en beneficio colectivo de la humanidad.<\/p>\n
Uno de los riesgos, se\u00f1ala, es que tiene el potencial de desplazar masivamente a muchos trabajadores a nivel mundial.<\/p>\n
Entre los invitados a la presentaci\u00f3n estaba Christopher Olah, un joven canadiense de 33 a\u00f1os que en la \u00faltima d\u00e9cada se ha vuelto conocido en el mundo tecnol\u00f3gico por su amplio trabajo para desentra\u00f1ar la compleja forma en la que funcionan los LLM (Large Language Model, o Modelo de Lenguaje Grande).<\/p>\n
Esos LLM son el “cerebro” de chatbots como Claude, que ayud\u00f3 a crear el propio Olah, y como ChatGPT, de OpenAI; G\u00e9minis, de Google; Copiloto, de Microsoft; Grok, de SpaceXAI; o DeepSeek, de High-Flyer.<\/p>\n
Todos ellos han estado aumentando su capacidad a un ritmo acelerado. pero a\u00fan son una tecnolog\u00eda con cierto grado de descontrol y enigma, incluso entre los propios desarrolladores.<\/p>\n
“Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspecci\u00f3n. No s\u00e9 qu\u00e9 significa eso, pero creo que requiere un discernimiento constante”, dijo Olah en El Vaticano, luego de la presentaci\u00f3n de la enc\u00edclica del Papa.<\/p>\n
Y la incertidumbre de su avance, sumado a que est\u00e1n en manos de unas pocas firmas privadas con intereses propios, plantea un debate en el que, a juicio de Le\u00f3n XIV, deber\u00eda participar en todo el mundo y no solo unos cuantos l\u00edderes tecnol\u00f3gicos.<\/p>\n
Federico Peinado, profesor en el departamento de software e IA de la Universidad Complutense de Madrid, se\u00f1ala a BBC Mundo que estos dilemas es lo que curiosamente “une dos mundos aparentemente tan distantes”, el de la Iglesia cat\u00f3lica con la IA.<\/p>\n
“Esto habla de un Papa que es muy consciente del tiempo en el que vive: estamos ante una revoluci\u00f3n con la inteligencia artificial y mucha gente est\u00e1 preocupada por las posibles consecuencias”, apunta.<\/p>\n
Seg\u00fan Olah, el mundo necesita de “cr\u00edticos competentes que les digan a los laboratorios cu\u00e1ndo se equivocan”, as\u00ed como “voces morales que no se dejen doblar por los incentivos”, seg\u00fan se\u00f1al\u00f3 en la presentaci\u00f3n de la enc\u00edclica en El Vaticano.<\/p>\n
\u00bfPero qui\u00e9n es ese joven que ha tomado la bandera de desentra\u00f1ar los misterios de la IA y que no deja de reconocer que \u00e9l mismo es parte de estas empresas en conflicto de intereses?<\/p>\n
Christopher Olah es uno de los investigadores m\u00e1s influyentes en el mundo de la IA | EPASu entrada a la escena de la IALa preparaci\u00f3n y trayectoria de Olah ha sido poco convencional para el mundo tecnol\u00f3gico mismo.<\/p>\n
Naci\u00f3 en Toronto, Canad\u00e1, y se educ\u00f3 en el exclusivo colegio privado The Abelard School, donde desde joven demostr\u00f3 gran capacidad.<\/p>\n
Seg\u00fan sitios especializados, Olah nunca obtuvo un t\u00edtulo universitario de una instituci\u00f3n en particular, pues fue m\u00e1s autodidacta que alumno. Present\u00f3 una serie de ex\u00e1menes del sistema AP Scholar para acreditar sus conocimientos.<\/p>\n
Con apenas 18 a\u00f1os, ingres\u00f3 al equipo de Google Brain, donde realiz\u00f3 investigaciones sobre redes neuronales cuando estaban en desarrollo los LLM.<\/p>\n
Ah\u00ed fue coautor de un documento que ha sido citado como pionero en la materia, Incepcionismo: profundizando en las redes neuronales (“Incepcionismo: una inmersi\u00f3n en las redes neuronales”), que en t\u00e9rminos generales desentra\u00f1aba c\u00f3mo la IA entiende las im\u00e1genes.<\/p>\n
Al interior del lenguaje de los LLM, no hay una “palabra” o c\u00f3digo \u00fanico para identificar, por ejemplo, un cable para cargar un celular, pero hay algoritmos que se unen en las redes neuronales para llegar a eso.<\/p>\n
Y el trabajo de Olah y sus colegas Alexander Mordvintsev y Mike Tyka fue considerado como una de las primeras formas de “ver” c\u00f3mo interact\u00faan esas redes neuronales.<\/p>\n
Deep Dream fue un proyecto de Google que mostr\u00f3 las primeras producciones de la IA en el campo visual en la d\u00e9cada pasada | Im\u00e1genes falsas
\nEn 2018 fue reclutado por OpenAI, la empresa que ya trabajaba en el modelo que dar\u00eda vida al popular ChatGPT de la actualidad y donde el joven investigador continu\u00f3 su an\u00e1lisis de los circuitos neuronales.<\/p>\n
Eso hasta 2020, cuando se produjo una gran separaci\u00f3n dentro de esa firma.<\/p>\n
Ese a\u00f1o, un grupo de especialistas liderados por los hermanos Dario y Daniela Amonei se separaron tras un desacuerdo sobre el rumbo que estaba tomando OpenAI, a cuya direcci\u00f3n acusaban de priorizar un modelo comercial de IA m\u00e1s que el desarrollo controlado y seguro de tal tecnolog\u00eda.<\/p>\n
Olah se sum\u00f3 al grupo de Amonei para fundar su firma, Anthropic, siendo el joven investigador uno de los m\u00e1s influyentes en la investigaci\u00f3n de c\u00f3mo los LLM construyen sus circuitos neuronales artificiales.<\/p>\n
La “Constituci\u00f3n” de la IA”Eso es milagroso, pero tambi\u00e9n plantea retos para la seguridad. Si no sabes c\u00f3mo funciona un nuevo sistema tan potente, \u00bfc\u00f3mo puedes estar seguro de que no es peligroso? Aqu\u00ed entra Chris Olah”, destac\u00f3 la publicaci\u00f3n en 2024.<\/p>\n
Y es que Olah ha desarrollado con otros la idea de elaborar una “Constituci\u00f3n de la IA”, explica Peinado, que consistir\u00eda en “inculcar” a los LLM principios inquebrantables que responden al beneficio humano colectivo.<\/p>\n
De la mano de esto est\u00e1 la idea de la “interpretabilidad mec\u00e1nica”.<\/p>\n
“Esto viene a ser lo siguiente: nosotros est\u00e1bamos creando inteligencias artificiales sin saber lo que hab\u00eda dentro. B\u00e1sicamente ten\u00edamos la capacidad de crearlas, pero se cultivaban -como dice el Papa en la enc\u00edclica- en lugar de crearse”, explica Peinado.<\/p>\n
“Se las somete a todo internet y ellas solas aprenden -estoy simplificando mucho-, pero es algo as\u00ed: no s\u00e9 exactamente a qu\u00e9 se est\u00e1n dedicando las neuronas artificiales que tiene, pero funciona, que es lo asombroso del asunto”, prosigue<\/p>\n
“Y lo que quiere hacer Chris Olah es entenderlo. Es como el estudio del cerebro humano, que es demasiado complejo. Y no es algo moral, es cient\u00edfico saber para qu\u00e9 sirven. Y a \u00e9l le parece que es algo que tenemos que conseguir entender”.<\/p>\n
En su trabajo con Claude, Olah ha identificado esas capas neuronales que trabajan en conjunto en algunas \u00e1reas.<\/p>\n
“Es un an\u00e1lisis parecido al de la neurociencia aplicada al cerebro humano: no lo conocemos a la perfecci\u00f3n, no tenemos el mapa neurona a neurona, pero s\u00ed sabemos qu\u00e9 regiones sirven para qu\u00e9 funciones”, a\u00f1ade Peinado.<\/p>\n
Olah no es el \u00fanico experto en la materia, pero es uno de los que m\u00e1s ha avanzado en su estudio, y eso explicar\u00eda su participaci\u00f3n en la presentaci\u00f3n de la enc\u00edclica.<\/p>\n
Aparte de su aparici\u00f3n en El Vaticano, Olah no se presenta regularmente ante el p\u00fablico, pero es muy conocido por sus publicaciones en l\u00ednea | Reuters\u00bfQui\u00e9n ocupa el vac\u00edo?En su participaci\u00f3n en El Vaticano, Olah destac\u00f3 tres \u00e1reas que, seg\u00fan \u00e9l, requieren atenci\u00f3n urgente para controlar a la IA y que no genere efectos adversos generalizados:<\/p>\n
abordar el riesgo de grandes p\u00e9rdidas de puestos de trabajo;garantizar que los beneficios de la IA lleguen a todo el mundo;controlar el comportamiento de los LLM.”El desarrollo de la IA se concentra en un pu\u00f1ado de naciones ricas. \u00bfC\u00f3mo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?”, pregunt\u00f3 Olah a la audiencia en El Vaticano, adem\u00e1s de agregar que grandes empresas y gobiernos est\u00e1n recibiendo presiones.<\/p>\n
Anthropic ya entr\u00f3 en disputa con el gobierno de Donald Trump hace unos meses por negarse a poner su LLM a disposici\u00f3n del Departamento de Defensa para sus objetivos militares.<\/p>\n
Para algunos cr\u00edticos, es conflictivo que Anthropic sea juez y parte en el destino de la IA, pero otros consideran que es la \u00fanica firma que se ha tomado en serio esto.<\/p>\n
“La \u00e9tica tambi\u00e9n es un ingrediente de marketingporque a mucha gente le cuesta creer que haya una preocupaci\u00f3n \u00e9tica en las grandes empresas, cuando parece que todo se mueve por el dinero, que es precisamente lo que critica la enc\u00edclica. La pregunta es: \u00bfqu\u00e9 parte es real y qu\u00e9 parte es posicionamiento?\u201d, plantea Peinado.<\/p>\n
La tecnolog\u00eda de los LLM est\u00e1 siendo desarrollada por empresas con fines propios, dicen Olah y otros expertos | Im\u00e1genes falsasPara el experto, “el problema de fondo es que los gobiernos han perdido el liderazgo en este tema. Todo esto lo est\u00e1n llevando empresas privadas, estadounidenses o chinas (…) Y Anthropic ha cogido la bandera de la \u00e9tica ocupando ese vac\u00edo que nadie m\u00e1s ha querido tomar”.<\/p>\n
El propio Christopher Olah reconoce que es parte de estas empresas, pero dice que est\u00e1 involucrado en un debate no solo con la Iglesia cat\u00f3lica, sino con otras religiones con las que ha tenido di\u00e1logo.<\/p>\n
La pregunta de fondo -considera Peinado- es si deben ser las propias empresas quienes se autocensuren y sean responsables, o si esa responsabilidad corresponde a los gobiernos ya los usuarios.<\/p>\n
“Siendo algo que va a ser tan importante a nivel mundial, lo razonable ser\u00eda que existiera alg\u00fan organismo internacional que estableciera una \u00e9tica com\u00fan aplicable a todas las inteligencias artificiales”, expone.<\/p>\n
“Como lo ha hecho la Iglesia, todos los organismos -la Uni\u00f3n Europea, la ONU, los gobiernos- tienen que ponerse muy en serio con esto”.<\/p>\n","protected":false},"excerpt":{"rendered":"
El papa Le\u00f3n XIV public\u00f3 el lunes su primera enc\u00edclica, uno de los documentos m\u00e1s importantes que revela la doctrina de un pont\u00edfice sobre un tema religioso o social, y lo hizo con una presentaci\u00f3n personal y acompa\u00f1ado de invitados que no son parte de la Iglesia, algo que llam\u00f3 la atenci\u00f3n. es Magn\u00edfica Humanitas […]<\/p>\n","protected":false},"author":513,"featured_media":68912,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17810,1856,332],"tags":[],"class_list":["post-68911","post","type-post","status-publish","format-standard","has-post-thumbnail","category-christopher-olah","category-inteligencia-artificial","category-venezuela"],"_links":{"self":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts\/68911","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/users\/513"}],"replies":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/comments?post=68911"}],"version-history":[{"count":0,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/posts\/68911\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/media\/68912"}],"wp:attachment":[{"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/media?parent=68911"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/categories?post=68911"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/service.codeus.ca\/index.php\/wp-json\/wp\/v2\/tags?post=68911"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}