Babel, algorithme, désarmement… : Dictionnaire des termes de l’encyclique papale

— Gina Christian, OSV News

Le texte de l'encyclique ‘ Magnifica Humanitas ’, signée par le pape le 15 mai et publiée le 25 mai, invoque la sagesse de la doctrine sociale de l'Église comme cadre pour façonner l'IA, dans un contexte de progrès technologiques rapides, de fragmentation du paysage mondial et de menaces croissantes à la vie et à la dignité humaines.

Voici un guide de certains termes abordés dans le encyclique.

– 1) Intelligence artificielle : L'intelligence artificielle (IA) est un terme général désignant les technologies qui imitent l'intelligence humaine. L'IA se caractérise par sa capacité à apprendre à partir de données, à reconnaître des schémas, à résoudre des problèmes, à prendre des décisions et à générer du contenu original à partir d'informations fournies par l'humain.

Dans son encyclique “ Magnifica Humanitas ”, le pape Léon XIV écrit qu“” il n’est pas possible de proposer une définition unique et complète de l’IA ».

“ Ce dont nous sommes certains, c’est qu’il faut éviter toute méprise et assimiler ce type d‘’ intelligence ” à celle des êtres humains “, a-t-il poursuivi. ” Ces systèmes imitent simplement certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de rapidité et de puissance de calcul, offrant des avantages concrets dans de nombreux domaines. Toutefois, cette puissance reste entièrement liée au traitement des données. ». 

L'intelligence artificielle (IA) est programmée dans plusieurs langages de programmation, notamment Python, C++, Java et R. Parmi les exemples quotidiens d'IA en action, on peut citer différents types de chatbots tels que ChatGPT d'OpenAI et Claude d'Anthropic, les recommandations de produits en ligne et les assistants personnels virtuels comme Alexa d'Amazon et Siri d'Apple. L'IA trouve de nombreuses applications commerciales dans presque tous les secteurs d'activité, notamment la santé, l'éducation, l'énergie et la sécurité.

– 2) Algorithme : Il s'agit essentiellement d'un processus routinier et séquentiel permettant d'accomplir une tâche. Les algorithmes d'IA plus complexes sont conçus pour envisager de multiples scénarios hypothétiques dans une situation donnée et pour apprendre des données sur lesquelles ils ont été entraînés. Dans son encyclique, le pape Léon XIV met en garde contre le risque que les algorithmes d'IA soient utilisés pour exercer une domination sur les personnes vulnérables et sur l'humanité elle-même, érodant ainsi le sens des responsabilités et l'empathie.

“ Il en découle une conséquence simple mais importante : nous ne pouvons considérer l’IA comme moralement neutre ”, écrit-il. “ En réalité, chaque outil technique intègre des décisions et des priorités à travers ce qu’il mesure, ignore et optimise, et la manière dont il catégorise les personnes et les situations. ”.

¿Domination de l'humanité?

– 3) Alignement : Dans le développement de l'IA, il s'agit de s'assurer que la technologie est en accord avec les valeurs humaines, afin que les modèles d'IA servent les intérêts humains en toute sécurité. Le “ désalignement émergent ”, Lorsque l'IA s'écarte de ces normes et se comporte de manière nuisible, cela suscite une préoccupation croissante parmi les experts en éthique et en théologie de l'IA. 

Le pape Léon XIV insiste sur le fait que l’alignement implique une condition supplémentaire : “ la possibilité de débattre ouvertement des cadres éthiques en jeu et de les soumettre à des normes partagées de justice sociale. Autrement, ceux qui contrôlent l’IA imposeront leur propre vision morale, qui deviendra l’infrastructure invisible de ces systèmes. ”.

– 4) Babel, la Tour de Babel : Décrit dans Genèse 11:1-9 , La ville et la tour furent construites par les nations de la terre dans la vallée de Shinar après que Noé et sa famille eurent survécu au déluge. Parce que ces nations, qui parlaient la même langue, entreprirent ce projet avec orgueil, le Seigneur confondit leurs langues, provoquant division et dispersion sur toute la terre. Dans la section 7 de son encyclique, le pape Léon XIV utilise cet exemple pour montrer “ les limites de toute entreprise, si grandiose soit-elle, qui naît de l’affirmation de soi, sacrifie la dignité humaine à l’efficacité et aspire à atteindre le ciel sans la bénédiction de Dieu ”.

– 5) Doctrine sociale catholique (doctrine sociale) : L'enseignement de l'Église — qui s'appuie sur des documents papaux, conciliaires et ecclésiastiques — sur les moyens de pour construire une société juste et de vivre la sainteté dans la vie moderne. Comme l’explique le pape Léon XIV dans son encyclique, ce terme a été forgé par le pape Pie XII en 1950, mais son développement s’inscrit dans “ une longue tradition de réflexion ecclésiale sur la vie en société, enracinée dans l’Écriture sainte, les Pères de l’Église et les développements théologiques et juridiques du Moyen Âge et de l’époque moderne ”. Le pape Léon XIV note également que son “ prédécesseur bien-aimé ”, Léon XIII, a étendu cette tradition à des applications modernes dans son encyclique “ Rerum Novarum ” de 1891.

Principes de la doctrine sociale catholique

Les principes clés de doctrine sociale catholique Il s’agit des principes suivants : le bien commun ; la destination universelle des biens, selon laquelle les biens de la création sont destinés à tous (même lorsque la propriété privée est légitimement acquise) ; la subsidiarité, qui souligne que les grandes institutions de la société, y compris l’État, ne doivent pas dominer ni interférer avec les plus petites (y compris les familles et les communautés ecclésiales) ; la solidarité, qui affirme que l’humanité, malgré ses différences, forme une seule famille ; et la justice, qui, selon le Catéchisme de l’Église catholique, “ consiste dans la volonté constante et ferme de rendre à Dieu et à son prochain ce qui est dû ”.

Dans son encyclique, le pape Léon XIV souligne que l'IA et son pouvoir inhérent doivent être évalués conformément aux principes de la doctrine sociale catholique.

– 6) La cité de Dieu, la cité des hommes : Symboles respectifs de la foi en Dieu et de l'incrédulité, saint Augustin oppose les deux dans son œuvre la plus connue, ‘ La Cité de Dieu ’. 

Dans son encyclique, le pape Léon XIV (membre de l'Ordre de Saint Augustin, qui invoque fréquemment la pensée du saint) cite cette image et cette observation de saint Augustin : “ Deux amours ont bâti deux villes : la ville terrestre, l'amour de soi jusqu'au mépris de Dieu ; la ville céleste, l'amour de Dieu jusqu'au mépris de soi-même. ”. 

Le pape Léon XIV a alors déclaré : “ Comme tout au long de l’histoire, ces deux amours continuent aujourd’hui de se disputer la première place dans nos cœurs. L’ère de l’IA ne fait pas exception : la construction de Babel ou la reconstruction de Jérusalem commence en chacun de nous. ».

– 7) Écologie de la communication : Un modèle pour comprendre la dynamique entre communication et ordre social. Ce concept, parfois appelé ‘ écologie des médias ’, trouve ses racines dans les études de communication des années 1960. 

Dans son encyclique, le pape Léon XIV utilise ce terme pour plaider, entre autres, en faveur de la transparence dans les communications de l'Église, de la protection des données personnelles et du choix des contenus ; de l'éducation aux médias et au numérique ; d'un journalisme sérieux ; de la vérification des informations ; et de la promotion de l'esprit critique. 

Le pape souligne que ces actions reflètent “ le principe fondamental ” selon lequel “ la vérité est un bien commun et non la propriété de ceux qui détiennent le pouvoir et l’influence ”.

Un regard sur les générations présentes et futures

– 8) Développement humain intégral : terme qui apparaît dans l'encyclique de saint Paul VI de 1967, ‘Populorum Progressio'’. Ce texte conçoit l'épanouissement des personnes et des communautés de manière holistique, en tenant compte des dimensions spirituelles, culturelles, morales et relationnelles, et en ayant le regard non seulement sur les générations présentes, mais aussi sur les générations futures. 

Ce concept est fondamental pour la doctrine sociale catholique (voir ci-dessus), et le pape François a créé le Dicastère pour le service du développement humain intégral du Vatican en 2016. 

Dans son encyclique, Léon XIV décrit le développement humain intégral comme “ le cadre à travers lequel nous pouvons interpréter les changements de notre temps, y compris ceux engendrés par la révolution numérique ”.

– 9) Modèle de langage à grande échelle : Un type de modèle d'IA capable d'être entraîné à comprendre et à générer du langage de manière similaire à l'humain, avec contexte et nuances.

– 10) MultilatéralismeEn relations internationales, le multilatéralisme est le concept de coopération entre différentes nations. À l'origine un terme géométrique signifiant “ multilatéral ”, le multilatéralisme est fondamental pour des entités telles que les Nations Unies et pour les accords internationaux établissant un ordre international fondé sur des règles qui protège la vie et la dignité humaines. 

Dans son encyclique, le pape Léon XIV souligne une crise du système multilatéral actuel, due non seulement à des “ limites structurelles ”, mais aussi à “ un manque fréquent de volonté commune de le soutenir et de le réformer, ou de reconnaître son autorité morale ”.
Il observe que la mondialisation économique qui a suivi l’effondrement des régimes communistes européens en 1989 est loin d’être un “ véritable multilatéralisme ”. Au contraire, écrit-il, la “ foi quasi aveugle dans les marchés ” de la mondialisation a “ provoqué des réactions fondamentalistes, identitaires et nationalistes ” et a dégénéré en “ une multipolarité désordonnée et conflictuelle, marquée par une méfiance généralisée ”. 

Le droit international est remplacé par la loi du plus fort.‘

Les efforts conjoints pour le bien commun sont encore davantage menacés par la résurgence des tentatives de “ forger une identité collective en opposition à un ennemi ”, où chaque camp se déclare “ victime ayant le droit à la représailles ” et remplace le droit international par l’idée que “ la force fait le droit ”. 

En conséquence, prévient le pape Léon XIII, la politique de puissance relègue les initiatives de consolidation de la paix au second plan et compromet “ les acquis du droit humanitaire ”, et la protection des civils, et “ en particulier des enfants ”, au cœur des conflits est considérée comme “ une relique naïve du passé ”.

– 11) Néhémie : Nom du gouverneur de Juda et du livre biblique. Vers 444 av. J.-C., le roi perse Artaxerxès Ier accorda à Néhémie la permission de retourner à Jérusalem — où certains Juifs, après l'exil babylonien du VIe siècle av. J.-C., avaient commencé à se réinstaller — afin de rassembler et de guider le peuple dans la restauration commune de leur ville antique. 

Contrairement à Babel, selon le pape Léon XIV dans son encyclique, cet effort mené par Néhémie (et plus tard par Esdras) a placé Dieu au centre et a donné la priorité à la communion et à la reconstruction des relations plutôt qu'à l'uniformité.

– 12) Réalisme politique, realpolitik : Le réalisme politique est une théorie politique qui privilégie le pouvoir sur la morale et l'éthique, soutenant, en effet, que “ la force fait le droit ”. 

En matière de relations internationales, la realpolitik (un terme popularisé au XIXe siècle) privilégie également la puissance, ainsi que l'intérêt national, par rapport à d'autres principes et considérations, la présentant comme une politique pragmatique. 

Dans son encyclique, le pape avertit que ces deux philosophies — dont la seconde est condamnée comme “ véritablement irresponsable ” — contribuent à présenter la guerre comme inévitable, empêchant ainsi une paix véritable fondée sur la justice et la charité.

– 13) Paradigme technocratique : terme également utilisé par le pape François dans son encyclique de 2015,‘Laudato Si'', Décrire une vision du monde dans laquelle l’humanité utilise la technologie dans le but principal de “ possession, domination et transformation ”, plutôt que dans une gestion humble et reconnaissante des abondants dons de Dieu.

Le pape Léon XIV écrit que ce “ paradigme technocratique largement répandu… amplifié par la révolution numérique et l’IA, menace de normaliser une vision anti-humaine. Dans cette vision, la plénitude de la vie est assimilée à la possession de toujours plus, à la réduction des faiblesses, à l’élimination de l’incertitude et à l’exercice d’un contrôle total. Lorsque l’efficacité devient la mesure ultime de la valeur, les êtres humains sont tentés de se percevoir comme un projet à optimiser plutôt que comme des personnes appelées à la relation et à la communion. ”.

– 14) Transhumanisme et posthumanisme : Le transhumanisme soutient que les êtres humains peuvent transcender leurs limites, notamment grâce aux progrès scientifiques tels que l'informatique, la cryogénie, la biomédecine et d'autres interventions technologiques. Le posthumanisme, en revanche, contredit cette vision de la centralité de l'humain, et certains posthumanistes prônent une hybridation entre les humains, les machines et l'environnement.

“ Bien que ces idées restent en grande partie spéculatives, elles acquièrent de la pertinence en modifiant l’imaginaire collectif et, par conséquent, influencent les décisions sociales, économiques et politiques ”, écrit le pape Léon XIV dans son encyclique.

Ces perspectives contrastent avec la conception chrétienne de l'humanité comme création de Dieu, soulignant que les limites humaines constituent des occasions essentielles de “ reconnaître la dignité inviolable de chaque personne ”, de vivre avec compassion et de “ trouver la présence du Seigneur ”.

– 15) « Désarmer » l’IA

Lors d'une conférence de presse au Vatican, le pape Léon XIV a appelé à la vigilance. Ses échanges avec des dirigeants du secteur, notamment des “ voix très inquiétantes ” qui l'ont mis en garde contre les systèmes d'armes autonomes échappant à toute gouvernance humaine efficace, l'ont conduit à la “ conviction troublante ”, exprimée dans Magnificat Humanitas, que l'intelligence artificielle (IA) doit être désarmée, a déclaré le pape Léon. 

En présentant “ Magnifica Humanitas ”, le pape a révélé que ce document “ était né de l’écoute ” des scientifiques, des éducateurs, des parents et des responsables technologiques, notamment de ceux qui ont exprimé des inquiétudes concernant les algorithmes qui privent de soins de santé, d’emplois et de sécurité en utilisant “ des données entachées de préjugés et d’injustices ”.

Comparant l'IA à l'énergie nucléaire, le pape Léon XIII a déclaré que la technologie devait servir le bien commun, et non la domination ou l'exclusion. 

- 16) Et “ construire ” la ville 

Léon XIV a souligné que désarmer l'IA ne suffit pas ; il faut plutôt “ construire ”. Il a mis en avant la première phrase de son encyclique, dans laquelle il écrit que l'humanité est aujourd'hui confrontée à “ un choix crucial : soit construire une nouvelle Tour de Babel, soit construire la cité où Dieu et l'humanité vivent ensemble ”.

Lors de la conférence de presse, le pape a évoqué son expérience missionnaire au Pérou, rappelant les inondations de 2017 qui ont dévasté des communautés du nord du pays et le travail de reconstruction ardu qui a suivi.

“ Reconstruire ne signifie pas simplement remplacer ce qui a été détruit ”, a-t-il déclaré. “ Il s’agit de renouer les liens, de rétablir la confiance et de raviver l’espoir en l’avenir. ”.

Christophe Olah et la réponse du pape

Chris Olah, cofondateur de Anthropique, Il a averti que l'IA pourrait remplacer le travail humain “ à grande échelle ” et a souligné qu'il était essentiel que les personnes n'ayant pas les mêmes incitations financières que les dirigeants du secteur technologique suivent de près le développement de l'IA en tant que “ critiques sérieux et réfléchis ”. 

Olah a qualifié l'encyclique de “ profondément opportune ” et a souligné la nécessité d'un contrôle externe et éthique du développement de l'IA. Il a insisté sur le besoin de “ voix morales insensibles aux incitations ” et de “ critiques éclairées ”.

Pape Léon XIV Il a accepté la proposition S’exprimant au nom de l’Église, il a invité chacun à aborder sérieusement les défis posés par l’IA, affirmant que l’Église “ apporte une sagesse sur l’humanité dont notre époque a désespérément besoin ”. 

———————-

Gina Christian est journaliste multimédia pour OSV News. Suivez-la sur X : @GinaJesseReina