En un mundo cada vez más mediado por los algoritmos, el Papa León XIV publicó su primera carta encíclica, titulada Magnifica Humanitas, un extenso documento dedicado a “la custodia de la persona humana en el tiempo de la inteligencia artificial”.
El Sumo Pontífice reflexionó sobre el impacto de la inteligencia artificial, cuestionó la concentración del poder tecnológico y reclamó regulaciones. La opinión de un experto.
En la carta encíclica "Magnifica humanitas", el sumo Pontífice llama a regular la inteligencia artificial.
Foto:
En un mundo cada vez más mediado por los algoritmos, el Papa León XIV publicó su primera carta encíclica, titulada Magnifica Humanitas, un extenso documento dedicado a “la custodia de la persona humana en el tiempo de la inteligencia artificial”.
A 135 años de Rerum novarum, el Pontífice reflexionó sobre los impactos de la revolución digital y advirtió que la humanidad enfrenta “una elección decisiva” entre construir una nueva “torre de Babel” o una sociedad basada en la dignidad humana y el bien común.
El documento plantea que la IA no debe quedar subordinada a intereses económicos, militares o de control social. “La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias”, sostiene el Papa.
A lo largo de la encíclica, León XIV insiste en que la tecnología no es “un mal en sí misma”, aunque tampoco puede considerarse neutral. Según explica, las herramientas digitales “toman el rostro de quien las concibe, las financia, las regula y las utiliza”, por lo que detrás de cada avance tecnológico hay corporaciones con intereses y existen decisiones políticas, económicas y éticas.
Para Arián Vaquer, docente y divulgador de IA y tecnologías emergentes, el hecho de que la Iglesia dedique una encíclica completa a la inteligencia artificial resulta significativo porque instala públicamente una discusión que atraviesa a toda la sociedad.
“Me parece algo positivo que tanto la Iglesia como institución, como con este Papa en particular, publique esta encíclica hablando del tema, porque es poner a hablar a la institución de algo que está ocurriendo y que ya está pasando”, señaló.
Según explicó, el crecimiento de la IA generativa ya impacta “globalmente en muchísimos aspectos y en todos los rubros, tanto laborales como sociales”, por lo que considera importante que actores con influencia mundial intervengan en el debate.
Vaquer destacó especialmente la necesidad de preservar una mirada humanista frente al avance tecnológico. “Está bueno porque ayuda a correr un poco el eje del debate, que siempre es el avance tecnológico y lo nuevo que puede hacer la tecnología. No vemos con la misma periodicidad discusiones que tengan que ver con la ética al momento de utilizar o desarrollar estas herramientas”, sostuvo.
Uno de los puntos centrales del texto es la diferenciación entre la inteligencia humana y la artificial. El Pontífice rechaza la idea de equiparar ambas capacidades y advierte sobre los riesgos de reducir la experiencia humana a datos y algoritmos.
“Las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”, afirma el Papa. En la misma línea, remarca que estos sistemas “tampoco tienen una conciencia moral: no juzgan el bien y el mal”.
La encíclica también pone el foco en la concentración del poder tecnológico en manos de grandes corporaciones. El Papa advierte que el control de plataformas, datos y sistemas de inteligencia artificial ya no depende principalmente de los Estados, sino de actores privados con enorme capacidad de influencia.
“El control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos”, señala el texto.
Además, el Pontífice alerta sobre la posibilidad de que pequeños grupos puedan “orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio”.
Para Vaquer, una de las claves está en evitar que estas tecnologías profundicen desigualdades ya existentes. “Hay que tratar de apuntar a que estas herramientas contribuyan a democratizar y no a acrecentar desigualdades”, explicó.
El especialista también advirtió sobre la necesidad de evitar una mirada ingenua frente a estas herramientas. “Es importante poder aprovechar todas las potencialidades de este tipo de tecnologías sin dejar de considerar todos los impactos negativos que pueden llegar a tener”, señaló.
Frente a este escenario, el Papa León XIV reclama regulaciones internacionales, supervisión independiente y un código ético compartido. “No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente y educación de los usuarios”, sostiene.
Una de las frases más contundentes de la encíclica resume esa preocupación: “No serviría de nada una IA más moral, si esa moral es decidida por unos pocos”.
En otro pasaje, el Papa plantea que “se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose”.
En la misma línea, Vaquer remarcó que uno de los grandes desafíos actuales es generar acuerdos colectivos sobre los límites y usos de la IA. En ese sentido, afirmó que “es súper importante empezar a generar acuerdos globales, acuerdos de la sociedad civil, donde la Iglesia y el Papa son un actor más, un actor muy importante”.
Otro de los ejes más novedosos de Magnifica Humanitas es el referido al uso militar de la inteligencia artificial. León XIV advierte que la revolución digital está modificando la naturaleza de las guerras y reduciendo el umbral moral de la violencia.
“No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”, afirma el Papa. Además, advierte que “toda tecnología que facilite atacar sin ver el rostro del otro rebaja el umbral moral del conflicto”.
Para Vaquer, este es uno de los debates más urgentes. “Hay que debatir hasta dónde, como humanidad, puede ser considerado también un crimen de guerra inclusive en el marco de estas tecnologías”, sostuvo al referirse a sistemas militares respaldados por inteligencia artificial.
El Pontífice propone “desarmar” la inteligencia artificial: impedir que la inteligencia artificial quede atrapada en la lógica de la competencia armamentística, económica y geopolítica. “La Inteligencia Artificial requiere hoy ser desarmada, liberada de lógicas que la transforman en instrumento de dominio, de exclusión o de muerte”, sostiene.
La encíclica dedica además un apartado al impacto cultural y educativo de la inteligencia artificial. Allí, León XIV advierte sobre el riesgo de reemplazar el pensamiento crítico por respuestas automatizadas y llama a “educarnos en el ayuno de la IA”.
Para el divulgador de IA, gran parte de la sociedad todavía desconoce cómo funcionan realmente estas herramientas. “Mucha gente considera o cree que es lo mismo que un buscador de internet, como Google, pero un poquito mejorado. En realidad, son herramientas distintas, funcionan de forma distinta y tienen propósitos distintos”, explicó.
Según señaló, la masividad del uso sin comprensión de los sesgos, errores o “alucinaciones” de los sistemas puede generar problemas importantes. “No hay que tenerle miedo a la herramienta en sí, pero sí ser cautelosos, saber cómo utilizarlas y saber cuándo utilizarla y cuándo no”, sostuvo.
El especialista también alertó sobre otros usos problemáticos ya presentes en redes sociales y plataformas digitales, especialmente la generación de imágenes sexuales falsas sin consentimiento. Según explicó, “ha habido mucho problema con inteligencias artificiales generativas que han permitido generar contenido explícito para adultos con imágenes de un montón de personas que no habían dado consentimiento para eso”.
A lo largo de toda la encíclica, León XIV insiste en que el principal desafío no es técnico, sino humano: evitar que el progreso tecnológico provoque una pérdida de humanidad.
“En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos”, concluye el Papa.