Il y a une IA là-bas qui dit : « Aïe ! »

La phrase qui nous a permis d'apprendre les différences d'orthographe entre ces trois mots qui se prononcent de la même façon, bien qu'ils aient des significations différentes, résume bien le message que Léon XIV nous a transmis dans son encyclique « Magnifica Humanitas », sur la protection de la vie humaine à l'ère de l'intelligence artificielle.

À l'instar du moyen mnémotechnique appris dans notre enfance, le Pape met le doigt sur un point essentiel, attirant notre attention sur une réalité déjà présente : l'intelligence artificielle. Désormais célèbre, l'IA est là pour durer et transformer nos vies, marquant non seulement une ère de changement, mais le véritable tournant historique dans lequel nous sommes plongés, comme François l'avait lui-même prophétisé. 

Il existe déjà une IA qui prend des décisions pour vous et influence votre façon d'être en tant qu'individu et en tant que société, aussi analogique que vous soyez ou aussi isolé que vous soyez.

Bien que l’encyclique ne soit pas fondamentalement technophobe et reconnaisse que « les avantages en termes d’efficacité et le potentiel d’amélioration de certains services grâce à l’IA sont évidents », le Pape, fidèle à sa mission de pasteur qui doit protéger ses brebis des loups, nous met en garde contre de nombreux dangers très graves qui commencent déjà à montrer les dents du numérique. Chaque avertissement du Saint-Père résonne comme l’un de ces « malheurs » que Jésus a lancés contre les scribes et les pharisiens, qui ont abusé de leur autorité religieuse pour asservir le peuple. Pour paraphraser certains des thèmes les plus importants, non pas comme une condamnation mais comme un avertissement quant aux voies sur lesquelles ils nous entraînent, on pourrait dire, avec Léon XIV :

Malheur aux technocrates et aux oligarques numériques, «dotés de ressources et de capacités d'action»

» supérieurs à ceux de nombreux gouvernements «, propriétaires » de nouvelles formes de propriété, de brevets, d’algorithmes, de plateformes numériques, d’infrastructures technologiques et de données «, car, » lorsque ces biens sont concentrés entre les mains de quelques-uns, sans formes d’échange et d’accès adéquates, un nouveau déséquilibre se crée qui contredit la destination universelle des biens et alimente le fossé entre les inclus et les exclus ! »

Malheur aux développeurs d'IA qui, dans leur course à la première place, ignorent où ils nous mènent ! L'encyclique explique que les IA sont « davantage “cultivées” que “construites”, car les développeurs ne conçoivent pas directement chaque détail, mais créent plutôt une architecture sur laquelle l'IA “se développe” ». De ce fait, elles revêtent « un poids éthique et spirituel considérable, car chaque choix de projet exprime une vision de l'humanité, et il est nécessaire de «vérifier que ce qui est cultivé est véritablement bon» ».

Malheur aux promoteurs d’idéologies issues de la révolution numérique, telles que le transhumanisme ou le posthumanisme, « qui suggèrent que chaque personne doit gagner ou justifier sa propre valeur, au point d’attribuer une plus grande valeur à ceux qui sont plus efficaces et productifs », car « dans une telle perspective, la personne finit par être réduite à un moyen d’obtenir des résultats, une ressource à utiliser et à exploiter, et n’est pas reconnue comme une fin en soi » !

Malheur aux dirigeants des États qui, au milieu de cette crise mondiale provoquée par les propriétaires de l'IA, sont responsables de « garantir la cohésion, l'unité et une organisation juste de la société civile, (...) en recherchant un équilibre entre les biens individuels et collectifs, sans laisser les plus faibles de côté », car « lorsque la politique renonce à une vision à long terme et se réduit à des calculs à court terme ou à des polarisations stériles, les discours sur le bien commun perdent leur crédibilité, et dans le même temps les inégalités et les fractures sociales s'accroissent ! »

Malheur aux seigneurs de guerre qui confient des décisions mortelles à des systèmes artificiels, car « aucun algorithme ne saurait rendre la guerre moralement acceptable » ! En effet, « la décision d’utiliser la force létale ne saurait être déléguée à des processus obscurs ou automatisés, mais doit demeurer sous le contrôle humain effectif, conscient et responsable ».

Merci, Saint-Père, pour Magnifica Humanitas, de nous avoir révélé tous les « maux » de l'IA. Nous devons veiller à ce qu'elle atteigne sa destination.