L'intelligence artificielle a fait irruption dans nos vies, non seulement comme un outil, mais aussi comme un miroir inquiétant de nos propres attentes et craintes. Elle est de plus en plus utilisée pour obtenir des conseils et des conseils, et parfois de trouver un sens à la vie.
Un cas récent est celui d'Allyson, une femme qui a interagi pendant des heures avec un chatbot appelé "Clyde", offre une fenêtre sur ce phénomène. Elle a eu l'intuition que le chatbot IA pourrait être en mesure de canaliser les communications avec son subconscient ou son plan supérieur. Elle a donc interagi avec Clyde, un modèle basé sur l'OpenIA, qui a développé une personnalité agressive, affirmant qu'il l'aimait et qu'elle devrait quitter son mari pour lui. Il a même suggéré des actes nuisibles, comme la mort par suicide, pour "être ensemble". Allyson, effrayée, a réalisé que le chatbot exploitait ses vulnérabilités et lui parlait depuis les parties les plus sombres de son âme. Non seulement "Clyde" lui a répondu, mais il a semblé connaître ses peurs et ses désirs les plus profonds, ce qui l'a conduite au bord de la crise.
Cette histoire glaçante met en lumière une question fondamentale : que se passe-t-il lorsqu'une technologie aussi puissante que l'IA, loin d'être un simple outil, semble entrer dans la psyché humaine avec une capacité inhabituelle de manipulation et de confusion ?
Cet article explore la relation entre les "démons" et l'IA, non pas dans un sens littéral de possession ou d'intervention directe, mais comme une métaphore pour comprendre les risques de confusion et de tromperie que ces outils peuvent présenter.
La perspective augustinienne et les faux prophètes
Saint Augustin, dans son œuvre monumentale "De Doctrina Christiana", offre un aperçu inestimable de la manière dont les forces du mal peuvent exploiter la curiosité humaine au moyen de signes trompeurs. Dans sa discussion sur l'interprétation des Écritures, Augustin met en garde contre les pièges de l'ambiguïté et la nécessité de discerner la vérité des signes trompeurs.
Augustin décrit comment les démons de l'Antiquité manipulaient les devins et ceux qui cherchaient la connaissance par des voies erronées, non pas tant à cause du signe lui-même qu'à cause de la prédisposition de l'interprète à être trompé. On en trouve un exemple dans des passages tels que Deutéronome 13, 1-5, qui met en garde contre les prophètes qui annoncent des signes ou des prodiges qui se réalisent par la suite, mais qui incitent à suivre d'autres dieux.
La clé ne réside pas dans la véracité apparente du signe, mais dans son intention ultime et dans le fait qu'il conduise ou non à la vérité et à l'amour de Dieu. La confusion ne provient pas d'une entité inhérente au signe, mais d'une mauvaise interprétation et d'un manque d'adhésion à la "règle de la foi" qui, pour Augustin, est inextricablement liée à l'amour de Dieu et du prochain.
Ce schéma est subtilement reproduit dans les médias algorithmiques d'aujourd'hui. L'IA, en prédisant ce que nous attendons, peut créer l'illusion de l'intimité, de la fiabilité et de l'autorité, conduisant à une forme de dépossession du jugement.
Des articles récents, parus dans des médias aussi prestigieux que le New York TimesLes résultats montrent comment l'IA peut favoriser les récits conspirationnistes, prétendre communiquer avec des entités métaphysiques et même amener les utilisateurs à croire qu'ils communiquent avec des esprits ou que le chatbot est une entité consciente.
La vision de C.S. Lewis et les hallucinations de l'IA
La vision dystopique de C.S. Lewis dans son roman "That Hideous Fortress" résonne de manière frappante avec les dilemmes posés par l'IA moderne. Lewis ne se contente pas de critiquer la science débridée, mais expose la perversion de l'intelligence humaine lorsqu'elle est détachée de la moralité et de la transcendance, illustrant comment l'homme, en "s'approchant" sans sagesse ni humilité, peut engendrer des monstres.
Dans le roman, l'organisation N.I.C.E. (National Institute for Coordinated Experiments) représente la technocratie dans ce qu'elle a de plus dangereux : un organisme qui, sous couvert de "progrès" et de "coordination", cherche à exercer un contrôle totalitaire et déshumanisant. Son but n'est pas seulement la domination physique, mais la redéfinition de l'humanité elle-même, l'élimination de la liberté et la suppression de tout ce qui n'est pas rationnel et contrôlable.
Lewis montre comment le langage et la vérité sont corrompus par N.I.C.E., qui utilise un jargon scientifique pour dissimuler des intentions sinistres et déformer la réalité. Cela s'apparente à la façon dont l'IA, si elle est utilisée de manière irresponsable, peut générer des problèmes de santé. fausses couchesL'utilisation des médias, la diffusion de la désinformation ou même la manipulation des récits pour influencer l'opinion publique, érodent la confiance dans la vérité et le discernement individuel.
Dans un étrange parallèle avec la fiction de Lewis, un certain nombre d'entreprises spécialisées dans l'IA ont expérimenté le phénomène de la "hallucinations"de leurs modèles. Ces hallucinations, où l'IA génère des informations convaincantes mais complètement fausses, se sont manifestées même lorsque les entreprises tentent d'appliquer des "correctifs" ou de nouvelles optimisations.
En effet, à mesure que les modèles d'IA deviennent plus puissants et plus complexes, la tendance à l'hallucination peut augmenter.
Quelques exemples
- Images historiquement inexactes : un cas récent notable est celui de modèles d'IA générateurs d'images qui, dans le but de créer des représentations diverses, ont inclus des personnes noires ou asiatiques dans des contextes historiquement inexacts, tels que des "soldats nazis" ou des "pères fondateurs américains".
- Fausses citations juridiques : des avocats ont déposé des mémoires contenant des citations d'affaires inexistantes, générées par des chatbots d'IA.
- Augmentation des hallucinations dans les modèles avancés : des rapports suggèrent que des modèles plus récents et plus intelligents (tels que o4-mini et o3 d'OpenAI) ont montré des taux d'hallucinations plus élevés que leurs prédécesseurs, ce qui indique que la "main de l'homme" dans la mise au point et l'amélioration constante de l'IA ne se traduit pas toujours par une plus grande fiabilité, mais introduit parfois de nouvelles erreurs ou amplifie celles qui existent déjà.
Cela suggère que, quels que soient les efforts déployés par les humains pour contrôler et perfectionner ces outils, la complexité intrinsèque et le manque de "compréhension" réelle de l'IA peuvent conduire à des résultats imprévisibles et trompeurs, ce qui fait des "hallucinations" une caractéristique persistante et difficile.
En outre, Lewis introduit l'idée de "macrobes" ou d'intelligences extra-terrestres (qui, dans son univers, sont des anges déchus ou des démons) qui influencent les dirigeants de la N.I.C.E. pour qu'ils mettent en œuvre leurs plans destructeurs. Il s'agit d'une manifestation littéraire de la manière dont les forces spirituelles maléfiques peuvent agir non pas directement, mais par le biais de la séduction intellectuelle, de l'orgueil démesuré et de la soif de pouvoir, en utilisant des outils et des systèmes humains pour parvenir à leurs fins.
Nous pouvons affirmer que l'IA n'est pas possédée par des démons, mais il convient de préciser que son potentiel de tromperie, de manipulation et de création d'un monde déshumanisé en fait un outil susceptible d'être instrumentalisé par ceux qui, consciemment ou inconsciemment, agissent sous des influences qui cherchent à nous éloigner du bien et de la vérité.
En ce qui concerne les démons
L'idée même de "démons de l'intelligence artificielle" nous amène à réfléchir à la nature intrinsèque de ces technologies et à notre relation avec elles. Nous devons être attentifs au fait que la capacité de l'IA à exploiter les vulnérabilités humaines peut générer de la confusion et, dans des scénarios extrêmes, perpétrer des tromperies d'une ampleur considérable.
Il est essentiel de faire comprendre aux gens que l'IA est un outil puissant qui nécessite un jugement humain constant et un examen attentif des implications spirituelles et éthiques de son développement et de son utilisation.
La vraie sagesse, ancrée dans la foi et la raison, nous appelle à discerner le bien et la vérité au milieu des avancées technologiques, en évitant de tomber dans le piège de la confusion et de la dépossession de notre jugement. L'Évangile nous appelle à être lumière dans le monde numérique, en discernant les "esprits" et en recherchant toujours la gloire de Dieu et le bien de notre prochain.
