El Papa León XIV ha manifestado una alerta global ante el fenómeno de la IA (inteligencia artificial), y propone una alianza ante su poder de simulación. El objetivo no es detener la innovación digital, sino guiarla como aliados, en defensa de la dignidad humana y de la verdad.
El llamamiento se ha producido en el Mensaje del Papa para la LX Jornada Mundial de las Comunicaciones Sociales, hecho público en la fiesta de san Francisco de Sales el 24 de enero. “El rostro y la voz son sagrados. Nos han sido dados por Dios, que nos ha creado a su imagen y semejanza, llamándonos a la vida con la Palabra que Él mismo nos ha dirigido”, ha señalado.
“No somos algoritmos bioquímicos”
“Custodiar rostros y voces humanas significa conservar este sello, este reflejo indeleble del amor de Dios”, señala el Santo Padre al comienzo de su mensaje. “No somos una especie hecha de algoritmos bioquímicos definidos de antemano. Cada uno de nosotros tiene una vocación insustituible e inimitable que surge de la vida y que se manifiesta precisamente en la comunicación con los demás”.
Riesgos y alianza
Los riesgos que advierte León XIV y su llamamiento, y los términos de la alianza que propone el Pontífice, pueden sintetizarse así:
1. El fallo en el cuidado de la tecnología digital modifica pilares de la civilización humana.
“Simulando voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad”, manifiesta el Papa, “los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas”.
2. El desafío no es tecnológico sino antropológico.
Custodiar los rostros y las voces significa, en última instancia, cuidarnos a nosotros mismos. Acoger con valentía, determinación y discernimiento las oportunidades que ofrecen la tecnología digital y la inteligencia artificial no significa ocultar para nosotros mismos los puntos críticos, las opacidades, los riesgos, explica el Papa.
3. Algoritmos proyectados para maximizar la implicación en las redes sociales premian emociones rápidas.
Y penalizan al mismo tiempo, añade el Papa, “expresiones humanas que necesitan tiempo, como el esfuerzo por comprender y la reflexión. Encerrando grupos de personas en burbujas de fácil consenso y fácil indignación, estos algoritmos debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social”.
A esto se ha sumado “una confianza ingenuamente acrítica en la inteligencia artificial como ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, “oráculo” de todo consejo”.
4. Los sistemas de inteligencia artificial están asumiendo cada vez más el control de la producción de textos, música y vídeos.
Gran parte de la industria creativa humana “corre así el riesgo de ser desmantelada y sustituida por la etiqueta “Powered by AI”, convirtiendo a las personas en meros consumidores pasivos de pensamientos no pensados, de productos anónimos, sin autoría, sin amor”.
Las obras maestras del genio humano en el campo de la música, el arte y la literatura se reducen a un mero campo de entrenamiento para las máquinas, diagnostica el Papa.
5. Fabricación de realidades paralelas, y no distinción de realidad y ficción.
“El poder de la simulación es tal que la inteligencia artificial también puede engañarnos con la fabricación de “realidades” paralelas, apropiándose de nuestros rostros y nuestras voces.. (…). Cada vez es más difícil distinguir la realidad de la ficción”, señala el Mensaje papal.
A su vez, León XIV suma “el problema de la falta de precisión. Los sistemas que hacen pasar una probabilidad estadística por conocimiento nos ofrecen, en realidad, como mucho, aproximaciones a la verdad, que a veces son auténticas ‘alucinaciones’”.
6. Falta de verificación de las fuentes y crisis del periodismo de campo.
Estos dos factores, cuya superación requiere “un trabajo continuo de recopilación y verificación de información en los lugares donde ocurren los acontecimientos, puede favorecer un terreno aún más fértil para la desinformación, provocando una creciente sensación de desconfianza, desconcierto e inseguridad.”
Al estar los modelos de la IA moldeados por la visión del mundo de quienes los construyen, se suscita “una importante preocupación por el control del oligopolio de los sistemas algorítmicos y de inteligencia artificial capaces de orientar sutilmente los comportamientos e incluso reescribir la historia de la humanidad —incluida la historia de la Iglesia— a menudo sin que nos demos cuenta realmente”, añade el Pontífice.
7. Qué podemos o podremos hacer nosotros. Alianza con la innovación digital
León XIV reflexiona sobre qué podemos o podremos hacer nosotros, creciendo en humanidad y conocimiento, con un sabio uso de instrumentos tan poderosos a nuestro servicio. Porque no podemos “enterrar los talentos que hemos recibido para crecer como personas en relación con Dios y con los demás. Significa ocultar nuestro rostro y silenciar nuestra voz”.
“El desafío que nos espera no es el de detener la innovación digital sino el de guiarla, y en ser conscientes de su carácter ambivalente”, propone el Papa.
Corresponde “a cada uno de nosotros” alzar la voz en defensa de las personas humanas para que “estos instrumentos puedan realmente ser integrados por nosotros como aliados”.
Esta alianza es posible, pero necesita fundamentarse, a su juicio, en tres pilares: ‘responsabilidad, cooperación y educación’.
8. Responsabilidad. Según las funciones, ésta puede traducirse en “honestidad, transparencia, valentía, capacidad de visión, deber de compartir conocimientos, derecho a estar informado”. Pero, en general, nadie puede eludir su responsabilidad ante el futuro que estamos construyendo.
Para quienes están en la cúspide de las plataformas online, esto significa asegurarse de que las propias estrategias empresariales no estén guiadas por el único criterio del máximo beneficio, sino también por una visión de futuro que tenga en cuenta el bien común.
9. Creadores y programadores de modelos de la IA, y legisladores nacionales: respeto a la dignidad humana.
A éstos “se les pide les pide transparencia y responsabilidad social respecto a los principios de planificación y a los sistemas de moderación que están en la base de sus algoritmos y de los modelos diseñados con el fin de favorecer un consentimiento informado por parte de los usuarios”.
La misma responsabilidad se exige también “a los legisladores nacionales y a las entidades reguladoras supranacionales, a quienes compete vigilar sobre el respeto de la dignidad humana”.
10. Agencias de noticias y medios de comunicación: fijar prioridades
Las agencias y medios de comunicación no pueden permitir que los algoritmos orientados a ganar a toda costa la batalla por unos segundos más de atención, prevalezcan sobre la fidelidad a sus valores profesionales, orientados a la búsqueda de la verdad.
Los contenidos generados o manipulados por la IA deben señalarse y distinguirse claramente de los contenidos creados por personas, indica el Papa.
La información es un bien público. Un servicio público constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de las partes implicadas y un alto nivel de calidad, añade.
11. Todos llamados a cooperar, crear mecanismos de protección.
“Todas las partes interesadas -desde la industria tecnológica a los legisladores, desde las empresas creativas al mundo académico, desde los artistas a los periodistas y a los educadores- deben implicarse en construir y hacer efectiva una ciudadanía digital consciente y responsable”, urge León XIV.
12. Educación, reflexión crítica, alfabetización digital
Se trata de “aumentar nuestras capacidades personales de reflexión crítica; evaluar la credibilidad de las fuentes y los posibles intereses que están detrás de la selección de información que nos llega; comprender los mecanismos psicológicos que se activan ante ello; permitir a nuestras familias, comunidades y asociaciones elaborar criterios prácticos para una cultura de la comunicación más sana y responsable”.
Es importante, reflexiona el Papa León XIV, “educar y educarse a usar la IA en modo intencional y, en este contexto, cuidar la propia imagen (foto y audio), el propio rostro y la propia voz, para evitar que vengan utilizados en la creación de contenidos y comportamientos dañosos como estafas digitales, ciberacoso, deepfakes que violan la privacidad y la intimidad de las personas sin su consentimiento”.
En suma, “la revolución digital también requiere una alfabetización digital (junto con una formación humanística y cultural) para comprender cómo los algoritmos modelan nuestra percepción de la realidad, cómo funcionan los prejuicios de la IA”, sigue el Papa.
Conclusión
Al final del Mensaje, León XIV afirma que “necesitamos custodiar el don de la comunicación como la verdad más profunda del hombre, hacia la cual orientar también toda innovación tecnológica”.
Español 
English 
Italiano