— Gina Christian, OSV News
El texto de la encíclica ‘Magnifica Humanitas’, firmada por el Papa el 15 de mayo y publicada el 25 de mayo, invoca la sabiduría de la doctrina social de la Iglesia como marco para dar forma a la IA, en medio de rápidos avances tecnológicos, un panorama global fragmentado y las crecientes amenazas a la vida y la dignidad humanas.
Aquí tienes una guía de algunos de los términos que se tratan en la encíclica.
– 1) Inteligencia artificial: término general para la tecnología que emula la inteligencia humana. La capacidad de aprender de los datos, reconocer patrones, resolver problemas, tomar decisiones y generar contenido original a partir de indicaciones humanas son características de la IA.
En “Magnifica Humanitas”, el Papa León XIII escribe que “no es posible ofrecer una definición única y completa de IA”.
“Lo que sí se puede afirmar es que debemos evitar la idea errónea de equiparar este tipo de ‘inteligencia’ con la de los seres humanos”, continuó. “Estos sistemas simplemente imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo superan la inteligencia humana en velocidad y capacidad computacional, ofreciendo beneficios tangibles en muchos campos. Sin embargo, este poder sigue estando totalmente ligado al procesamiento de datos”.
La IA se programa en varios lenguajes de programación, entre ellos Python, C++, Java y R. Ejemplos cotidianos de IA en acción incluyen diversos tipos de chatbots como ChatGPT de OpenAI y Claude de Anthropic, recomendaciones de productos en línea y asistentes personales virtuales como Alexa de Amazon y Siri de Apple. La IA tiene una amplia gama de aplicaciones empresariales en casi todos los sectores del mercado, incluidos la sanidad, la educación, la energía y la seguridad.
– 2) Algoritmo: En esencia, un proceso rutinario y secuencial para realizar una tarea. Los algoritmos de IA, más complejos, están diseñados para contemplar múltiples escenarios hipotéticos en una situación dada y para aprender de los datos con los que se entrenan. El Papa León XIV advierte en su encíclica que los algoritmos de IA pueden utilizarse para ejercer dominio sobre los vulnerables y sobre la humanidad misma, erosionando la responsabilidad y la empatía.
“De esto se desprende una consecuencia simple pero contundente: no podemos considerar que la IA sea moralmente neutral”, escribe. “En realidad, toda herramienta técnica incorpora decisiones y prioridades a través de lo que mide, ignora y optimiza, y de cómo clasifica a las personas y las situaciones”.
¿Dominio sobre la humanidad?
– 3) Alineación: En el desarrollo de la IA, el proceso de asegurar que la tecnología se ajuste a los valores humanos, de modo que los modelos de IA sirvan de forma segura a los intereses humanos. La “desalineación emergente”, donde la IA se desvía de dichas normas y se comporta de manera perjudicial, es una preocupación creciente entre los expertos en ética y teología de la IA.
El Papa León XIII insiste en que la alineación conlleva una condición adicional: “la posibilidad de debatir abiertamente los marcos éticos implicados y someterlos a estándares compartidos de justicia social. De lo contrario, quienes controlan la IA impondrán su propia visión moral, que se convertirá en la infraestructura invisible de estos sistemas”.
– 4) Babel, la Torre de Babel: Descrita en Génesis 11:1-9 , la ciudad y la torre construidas por las naciones de la tierra en el valle de Sinar, después de que Noé y su familia sobrevivieran al diluvio. Debido a que las naciones, que hablaban el mismo idioma, emprendieron el proyecto con orgullo humano, el Señor confundió su lenguaje, lo que provocó división y dispersión por toda la tierra. En la sección 7 de su encíclica, el Papa León XIV utiliza este ejemplo para mostrar “los límites de cualquier esfuerzo que, por grandioso que sea, surja de la autoafirmación, sacrifique la dignidad humana por la eficiencia y aspire a alcanzar el cielo sin la bendición de Dios”.
– 5) Doctrina social católica (doctrina social): La enseñanza de la Iglesia -que se basa en documentos papales, conciliares y eclesiásticos- sobre los medios para construir una sociedad justa y vivir la santidad en la vida moderna. Como explica el Papa León XIV en su encíclica, el término fue acuñado por el Papa Pío XII en 1950, pero debe su desarrollo a “una larga tradición de reflexión eclesial sobre la vida en sociedad, arraigada en la Sagrada Escritura, los Padres de la Iglesia y los desarrollos teológicos y legales de la Edad Media y la era moderna”. El Papa León XIV señala también que su “amado predecesor”, León XIII, impulsó esa tradición hacia aplicaciones modernas en su encíclica “Rerum Novarum” de 1891.
Principios de la Doctrina social católica
Los principios clave de la doctrina social católica son: el bien común; el destino universal de los bienes, que sostiene que los bienes de la creación están destinados a todos (incluso cuando la propiedad privada se adquiere justamente). Subsidiariedad, que enfatiza que las instituciones más grandes de la sociedad, incluido el Estado, no deben abrumar ni interferir con las más pequeñas (incluidas las familias y las comunidades eclesiales). La solidaridad sostiene que la humanidad, aun con sus diferencias, es una familia. Y la justicia, que según el Catecismo de la Iglesia Católica “consiste en la voluntad constante y firme de dar lo que corresponde a Dios y al prójimo”.
En su encíclica, el Papa León XIV subraya que la IA y su poder inherente deben evaluarse conforme a los principios de la doctrina social católica.
– 6) Ciudad de Dios, ciudad del hombre: símbolos, respectivamente, de la fe en Dios y la incredulidad. San Agustín contrasta ambas en su obra más conocida como ‘La Ciudad de Dios’.
En su encíclica, el Papa León XIV (miembro de la Orden de San Agustín, quien invoca con frecuencia el pensamiento del santo) cita esta imagen y la observación de San Agustín: “Dos amores han construido dos ciudades: la ciudad terrenal, el amor propio hasta el desprecio de Dios; la ciudad celestial, el amor a Dios hasta el desprecio de uno mismo”.
El Papa León XIV reflexiona entonces: “Como a lo largo de la historia, estos dos amores siguen compitiendo por el dominio en nuestros corazones hoy. La era de la IA no es una excepción: la construcción de Babel o la reconstrucción de Jerusalén comienza dentro de cada uno de nosotros».
– 7) Ecología de la comunicación: Un modelo para comprender la dinámica entre la comunicación y el orden social. Este concepto, a veces denominado ‘ecología de los medios’, tiene sus raíces en los estudios de comunicación de la década de 1960.
En su encíclica, el Papa León XIV utiliza este término para abogar, entre otras cosas, por la transparencia en las comunicaciones de la Iglesia, la protección de datos personales y la selección de contenidos; la alfabetización digital y mediática; el periodismo serio; la verificación de la información; y el fomento del pensamiento crítico.
El Papa señala que estas acciones reflejan “el principio fundamental” de que “la verdad es un bien común y no propiedad de quienes detentan el poder y la influencia”.
Mirada en las generaciones presentes y futuras
– 8) Desarrollo humano integral: término que aparece en la encíclica de San Pablo VI de 1967, ‘Populorum Progressio’. En este texto se concibe el florecimiento de las personas y los pueblos de forma holística, teniendo en cuenta las preocupaciones espirituales, culturales, morales y relacionales, con la mirada puesta no solo en las generaciones presentes, sino también en las futuras.
El concepto es fundamental para la doctrina social católica (véase más arriba), y el Papa Francisco estableció en 2016 el Dicasterio para el Servicio del Desarrollo Humano Integral del Vaticano.
En su encíclica, el Papa León XIV describe el desarrollo humano integral como “el marco a través del cual podemos interpretar los cambios de nuestro tiempo, incluidos los provocados por la revolución digital”.
– 9) Modelo de lenguaje a gran escala: Un tipo de modelo de IA capaz de ser entrenado para comprender y generar lenguaje de forma similar a la humana, con contexto y matices.
– 10) Multilateralismo: En las relaciones internacionales, el concepto de cooperación entre naciones diversas. Originalmente un término geométrico que significa “multilateral”. El multilateralismo es fundamental para entidades como las Naciones Unidas y para los acuerdos internacionales sobre un orden basado en normas que salvaguarde la vida y la dignidad humanas.
En su encíclica, el Papa León XIV señala una crisis en el sistema multilateral actual, no solo debido a “limitaciones estructurales”, sino también a “una frecuente falta de voluntad compartida para apoyarlo y reformarlo, o para reconocer su autoridad moral”.
Observa que la globalización económica posterior al colapso de los regímenes comunistas europeos en 1989 dista mucho de ser un “multilateralismo genuino”. En cambio, escribe que la “fe casi ciega en los mercados” de la globalización ha “provocado reacciones fundamentalistas, identitarias y nacionalistas”, y ha degenerado en “un multipolarismo desordenado y conflictivo con una sensación generalizada de desconfianza”.
Se sustituye el derecho internacional por ‘la fuerza hace el derecho’
Los esfuerzos conjuntos por el bien común se ven aún más amenazados por los intentos resurgentes de “forjar una identidad colectiva en oposición a un enemigo”, donde cada bando se declara “víctima con derecho a represalias” y sustituye el derecho internacional por la idea de que “la fuerza hace el derecho”.
Como resultado, advierte el Papa León XIII, la política de poder está relegando a un segundo plano las iniciativas de consolidación de la paz y comprometiendo “los logros del derecho humanitario”, y la protección de los civiles, y “especialmente de los niños”, en medio de los conflictos se considera “una ingenua reliquia del pasado”.
– 11) Nehemías: Nombre tanto del gobernador de Judá como del libro bíblico. Hacia el año 444 a. C., el rey persa Artajerjes I concedió permiso a Nehemías para regresar a Jerusalén —donde algunos judíos, tras el exilio babilónico del siglo VI a. C., habían comenzado a reasentarse— con el fin de reunir y guiar al pueblo en la restauración conjunta de su antigua ciudad.
A diferencia de Babel, según afirma el papa León XIV en su encíclica, este esfuerzo liderado por Nehemías (y posteriormente por Esdras) puso a Dios en el centro y priorizó la comunión y la reconstrucción de las relaciones por encima de la uniformidad.
– 12) Realismo político, realpolitik: El realismo político es una teoría política que pone por delante el poder sobre la moral y la ética, sosteniendo, en efecto, que “la fuerza hace el derecho”.
En las relaciones internacionales, la realpolitik (término popularizado en el siglo XIX) también privilegia el poder, así como el interés nacional, sobre otros principios y consideraciones, enmarcándola como una política pragmática.
En su encíclica, el Papa León XIII advierte que ambas filosofías —la segunda la condena como “verdaderamente irresponsable”— contribuyen a presentar la guerra como inevitable, impidiendo así una paz genuina basada en la justicia y la caridad.
– 13) Paradigma tecnocrático: término también utilizado por el Papa Francisco en su encíclica de 2015, ‘Laudato Si’’, para describir una cosmovisión en la que la humanidad emplea la tecnología con el objetivo principal de “posesión, dominio y transformación”, en lugar de la administración humilde y agradecida de los abundantes dones de Dios.
El Papa León XIV escribe que este “paradigma tecnocrático generalizado… amplificado por la revolución digital y la IA, amenaza con normalizar una visión antihumana. En esa visión, la plenitud de la vida se equipara con tener más, reducir la debilidad, eliminar la incertidumbre y ejercer un control total. Cuando la eficiencia se convierte en la medida última del valor, los seres humanos se ven tentados a verse a sí mismos como un proyecto a optimizar en lugar de como personas llamadas a la relación y la comunión”.
– 14) Transhumanismo y posthumanismo: El transhumanismo sostiene que los seres humanos pueden trascender sus limitaciones, especialmente mediante avances científicos como la informática, la criogenización, la biomedicina y otras intervenciones tecnológicas. El posthumanismo, por su parte, contradice esta visión de la centralidad humana, y algunos posthumanistas abogan por una hibridación entre humanos, máquinas y el medio ambiente.
“Aunque estas ideas sigan siendo en gran medida especulativas, adquieren relevancia al alterar el imaginario colectivo y, por ende, influyen en las decisiones sociales, económicas y políticas”, escribe el Papa León XIV en su encíclica.
Contrastan estas perspectivas con la concepción cristiana de la humanidad como creación de Dios, señalando que las limitaciones humanas constituyen oportunidades vitales para “reconocer la dignidad inviolable de cada persona”, vivir con compasión y “encontrar la presencia del Señor”.
– 15) «Desarmar» la IA
El Papa León XIV ha hecho un llamado a la vigilancia en la conferencia de prensa del Vaticano. Sus conversaciones con líderes de la industria, incluyendo “voces muy preocupantes” que le advirtieron sobre sistemas de armas autónomas más allá de la gobernanza humana efectiva, le habían llevado a la “convicción inquietante”, expresada en Magnífica Humanitas”, de que la Inteligencia artificial (IA) debe ser desarmada”. dijo el Papa León.
Al presentar “Magnifica Humanitas”, el Papa reveló que el documento “nació de escuchar” a científicos, educadores, padres y líderes tecnológicos, incluyendo aquellos que expresaron preocupaciones sobre algoritmos que niegan atención médica, empleos y seguridad utilizando “datos contaminados por prejuicios e injusticias”.
Comparando la IA con la energía nuclear, el Papa León dijo que la tecnología debe servir al bien común, no a la dominación o la exclusión.
– 16) Y “construir” la ciudad
El Papa León XIV ha señalado que desarmar la IA no es suficiente, sino que “debemos construir”. Destacó la primera frase de su encíclica, en la que escribió que la humanidad se enfrenta hoy a “una elección crucial: o construir una nueva Torre de Babel o construir la ciudad en la que Dios y la humanidad convivan”.
En la rueda de prensa, el Papa recurrió a su experiencia misionera en Perú, recordando las inundaciones de 2017 que devastaron comunidades en el norte del país y la ardua labor de reconstrucción que siguió.
“Reconstruir no significa simplemente reemplazar lo que ha sido destruido”, dijo. “Significa reparar los lazos, restaurar la confianza y reavivar la esperanza en el futuro”.
Christopher Olah, y respuesta del Papa
Chris Olah, cofundador de Anthropic, advirtió que la IA podría desplazar el trabajo humano “a gran escala”, y señaló que era fundamental que personas sin los incentivos financieros de los ejecutivos tecnológicos prestaran mucha atención al desarrollo de la IA como “críticos serios y reflexivos”.
Olah definió la encíclica como “profundamente oportuna” y señaló la necesidad de un control externo y moral sobre el desarrollo de la IA. Hacen falta “voces morales que los incentivos no puedan doblegar” y “críticos informados”.
El Papa León XIII aceptó la propuesta en nombre de la Iglesia, e invitó a todos a abordar con seriedad los desafíos que presenta la IA, afirmando que la Iglesia “aporta una sabiduría sobre lo humano que nuestra época necesita desesperadamente”.
———————-
Gina Christian es reportera multimedia de OSV News. Síguela en X @GinaJesseReina
Español 
English 
Italiano