En el Vaticano, Christopher Olah elogió la primera encíclica del Pontífice y alertó de la "evidencia de introspección" que ya muestran algunos modelos de inteligencia artificial
El papa León XIV junto a Christopher Olah, cofundador de Anthropic, durante la presentación de la encíclica Magnifica Humanitas
Foto:
EFE El papa León XIV junto a Christopher Olah, cofundador de Anthropic, durante la presentación de la encíclica Magnifica Humanitas
Foto:
EFE El investigador y empresario canadiense Christopher Olah (33), cofundador de Anthropic, admitió este lunes que en el campo de la inteligencia artificial (IA) son necesarias "voces morales que los incentivos no puedan doblegar", advirtió sobre un eventual reemplazo en la fuerza laboral humana y elogió la iniciativa del papa León XIV con su encíclica Magnifica Humanitas.
"Necesitamos que más sectores del mundo (…) hagan lo que su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección", dijo Olah ante el Pontífice, en el acto celebrado en la Santa Sede con motivo de la primera encíclica de León XIV.
El cofundador de Anthropic fue invitado a este acto como expresión de "un diálogo con la Iglesia por el bien común de la humanidad" y como representante de una empresa que se bate por el uso moral de la IA y que se negó a utilizar esta tecnología para usos bélicos, lo que le valió un enfrentamiento con Donald Trump y la supresión de los contratos con el Pentágono de Estados Unidos.
En su discurso, Olah admitió que las IA "operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto" y citó como ejemplos "la presión por mantenerse comercialmente viables y permanecer en la vanguardia de la investigación", la presión geopolítica o "las presiones más antiguas y simples del orgullo y la ambición".
"Por más sinceramente que cualquiera de nosotros intente hacer lo correcto —y creo que muchos lo hacemos— siempre estaremos influenciados por esos incentivos", reconoció de todos modos
Y por ello, destacó que "si queremos que esta tecnología salga bien, es enormemente importante que existan personas fuera de esos incentivos: personas a quienes les importe que las cosas salgan bien, que estén prestando mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos".
"Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar", reclamó el empresario de la IA.
También indicó que el llamado del papa a reflexionar sobre IA es muy importante y puso el foco en cuestiones como que "existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme. Si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas".
"El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente?", se preguntó.
Otra de las cuestiones que planteó fue la necesidad de "imaginación y ambición moral" respecto a la prosperidad del ser humano: "Si los modelos de inteligencia artificial van a estar ampliamente presentes ¿cómo será una vida próspera para las personas, las familias y el mundo? (…) Estas nos son preguntas que un laboratorio pueda responder", dijo.
Y además destacó la necesidad de discernimiento sobre la naturaleza misma de los modelos de IA: "Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos. Y seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes", admitió.
"Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo", añadió el cofundador de Anthropic.