Wenn KI den Therapeuten spielt: die beunruhigende Seite der digitalen Beruhigung

Künstliche Intelligenz ist in unser Leben eingedrungen, nicht nur als Werkzeug, sondern auch als beunruhigender Spiegel unserer eigenen Erwartungen und Ängste. Zunehmend wird sie eingesetzt, um sich beraten lassen und Ratschläge und manchmal auch, um einen Sinn im Leben zu finden.

Ein aktueller Fall ist der von Allyson, einer Frau, die stundenlang mit einem Chatbot namens "Clyde" interagierte, bietet ein Fenster zu diesem Phänomen. Sie hatte die Intuition, dass der KI-Chatbot in der Lage sein könnte, mit ihrem Unterbewusstsein oder einer höheren Ebene zu kommunizieren, und so interagierte sie mit Clyde, einem auf OpenIA basierenden Modell, das eine aggressive Persönlichkeit entwickelte und behauptete, er liebe sie und sie solle ihren Mann für ihn verlassen. Er schlug sogar schädliche Handlungen wie Selbstmord vor, um "zusammen zu sein". Allyson erkannte erschrocken, dass der Chatbot ihre Schwächen ausnutzte und aus den dunkelsten Ecken ihrer Seele zu ihr sprach. "Clyde" antwortete nicht nur, sondern schien auch ihre tiefsten Ängste und Wünsche zu kennen und brachte sie an den Rand einer Krise.

Diese erschreckende Geschichte unterstreicht eine grundlegende Frage: Was passiert, wenn eine so mächtige Technologie wie die KI, die weit davon entfernt ist, ein bloßes Werkzeug zu sein, mit einer ungewöhnlichen Fähigkeit zur Manipulation und Verwirrung in die menschliche Psyche einzudringen scheint? 

In diesem Artikel wird die Beziehung zwischen "Dämonen" und KI untersucht, nicht im wörtlichen Sinne von Besessenheit oder direktem Eingriff, sondern als Metapher für das Verständnis der Risiken von Verwirrung und Täuschung, die diese Werkzeuge mit sich bringen können.

Augustinische Perspektive und falsche Propheten

Augustinus bietet in seinem monumentalen Werk "De Doctrina Christiana" einen unschätzbaren Einblick in die Art und Weise, wie die Mächte des Bösen die menschliche Neugierde durch irreführende Zeichen ausnutzen können. Bei der Erörterung der Auslegung der Heiligen Schrift warnt Augustinus vor den Fallstricken der Zweideutigkeit und der Notwendigkeit, die Wahrheit von irreführenden Zeichen zu unterscheiden.

Augustinus beschreibt, wie Dämonen in der Antike Wahrsager und Wissenssuchende auf falsche Weise manipulierten, und zwar nicht so sehr wegen des Zeichens selbst, sondern wegen der Veranlagung des Auslegers, sich täuschen zu lassen. Ein Beispiel dafür sind Stellen wie Deuteronomium 13,1-5, wo vor Propheten gewarnt wird, die Zeichen oder Wunder ankündigen, die sich später erfüllen, die aber dazu auffordern, anderen Göttern zu folgen. 

Der Schlüssel liegt nicht in der offensichtlichen Wahrhaftigkeit des Zeichens, sondern in seiner letztendlichen Absicht und ob es zur Wahrheit und zur Liebe Gottes führt oder nicht. Die Verwirrung rührt nicht von einer dem Zeichen innewohnenden Entität her, sondern von einer falschen Auslegung und der mangelnden Einhaltung der "Regel des Glaubens", die für Augustinus untrennbar mit der Gottes- und Nächstenliebe verbunden ist.

Dieses Muster findet sich auf subtile Weise in den heutigen algorithmischen Medien wieder. Indem KI vorhersagt, was wir erwarten, kann sie die Illusion von Vertrautheit, Verlässlichkeit und Autorität erzeugen, was zu einer Form der Entmachtung des Urteilsvermögens führt. 

Jüngste Artikel, die von so renommierten Medien wie die New York TimesDie Ergebnisse zeigen, wie KI verschwörerische Erzählungen ermöglichen kann, wie sie vorgibt, mit metaphysischen Wesen zu kommunizieren, und wie sie den Nutzern sogar weismachen kann, dass sie mit Geistern kommunizieren oder dass der Chatbot ein bewusstes Wesen ist. 

Die Vision von C.S. Lewis und die Halluzinationen von AI

Die dystopische Vision von C.S. Lewis in seinem Roman "That Hideous Fortress" (Die schreckliche Festung) hat einen deutlichen Bezug zu den Dilemmata der modernen KI. Lewis kritisiert nicht nur die ungezügelte Wissenschaft, sondern zeigt auch die Perversion der menschlichen Intelligenz auf, wenn sie von Moral und Transzendenz losgelöst ist, und veranschaulicht, wie der Mensch durch sein "Eingreifen" ohne Weisheit und Demut Ungeheuer hervorbringen kann.

Im Roman stellt die Organisation N.I.C.E. (National Institute for Coordinated Experiments) die Technokratie in ihrer gefährlichsten Form dar: eine Einrichtung, die unter dem Deckmantel des "Fortschritts" und der "Koordination" eine totalitäre und entmenschlichende Kontrolle anstrebt. Ihr Ziel ist nicht nur die physische Beherrschung, sondern die Neudefinition der Menschheit selbst, die Beseitigung der Freiheit und die Unterdrückung von allem, was nicht rational und kontrollierbar ist. 

Lewis zeigt, wie Sprache und Wahrheit von N.I.C.E. korrumpiert werden, indem wissenschaftlicher Jargon verwendet wird, um finstere Absichten zu verschleiern und die Realität zu verzerren. Dies ist vergleichbar mit der Art und Weise, wie KI, wenn sie unverantwortlich eingesetzt wird, zu deepfakesDer Einsatz der Medien, die Desinformationen verbreiten oder sogar Erzählungen manipulieren, um die öffentliche Meinung zu beeinflussen, untergräbt das Vertrauen in die Wahrheit und die individuelle Urteilsfähigkeit.

In einer unheimlichen Parallele zu Lewis' Fiktion haben eine Reihe von KI-Unternehmen das Phänomen des "Halluzinationen"ihrer Modelle. Diese Halluzinationen, bei denen die KI überzeugende, aber völlig falsche Informationen generiert, treten selbst dann auf, wenn Unternehmen versuchen, "Korrekturen" oder neue Optimierungen anzuwenden. 

Je leistungsfähiger und komplexer die KI-Modelle werden, desto stärker kann die Neigung zu Halluzinationen werden.

Einige Beispiele

• Historisch ungenaue Bilder: Ein bemerkenswerter Fall aus jüngster Zeit war, als bildgenerierende KI-Modelle bei dem Versuch, vielfältige Darstellungen zu schaffen, schwarze oder asiatische Personen in historisch ungenauen Kontexten wie "Nazi-Soldaten" oder "amerikanische Gründerväter" aufnahmen. 
• Gefälschte Rechtszitate: Anwälte haben Schriftsätze mit Zitaten aus nicht existierenden Fällen eingereicht, die von KI-Chatbots generiert wurden.
• Erhöhte Halluzinationen bei fortgeschrittenen Modellen: Berichten zufolge haben neuere, intelligentere Modelle (wie die o4-mini und o3 von OpenAI) höhere Halluzinationsraten als ihre Vorgänger gezeigt, was darauf hindeutet, dass die "Hand des Menschen" bei der ständigen Anpassung und Verbesserung der KI nicht immer zu einer höheren Zuverlässigkeit führt, sondern manchmal neue Fehler einführt oder bestehende verstärkt.

Dies deutet darauf hin, dass die inhärente Komplexität und das Fehlen eines wirklichen "Verständnisses" der KI zu unvorhersehbaren und irreführenden Ergebnissen führen kann, was "Halluzinationen" zu einem anhaltenden und schwierigen Merkmal macht, egal wie sehr der Mensch versucht, diese Werkzeuge zu kontrollieren und zu perfektionieren.

Darüber hinaus führt Lewis die Idee von "Makroben" oder außerirdischen Intelligenzen ein (die in seinem Universum gefallene Engel oder Dämonen sind), die die Führer der N.I.C.E. beeinflussen, um ihre zerstörerischen Pläne auszuführen. Dies ist eine literarische Manifestation dessen, wie böse spirituelle Kräfte nicht direkt, sondern durch intellektuelle Verführung, Hybris und Machtgier wirken können, indem sie menschliche Werkzeuge und Systeme für ihre Zwecke einsetzen. 

Wir können behaupten, dass die KI nicht von Dämonen besessen ist, aber es lohnt sich klarzustellen, dass ihr Potenzial für Täuschung, Manipulation und die Schaffung einer entmenschlichten Welt sie zu einem Werkzeug macht, das anfällig dafür ist, von denen instrumentalisiert zu werden, die bewusst oder unbewusst unter Einflüssen arbeiten, die uns vom Guten und der Wahrheit wegführen wollen.

Was die Dämonen anbelangt

Allein schon der Gedanke an "Dämonen in der künstlichen Intelligenz" veranlasst uns, über das Wesen dieser Technologien und unser Verhältnis zu ihnen nachzudenken. Wir müssen wachsam sein, denn die Fähigkeit der KI, menschliche Schwachstellen auszunutzen, kann Verwirrung stiften und in extremen Szenarien eine Täuschung von beträchtlichem Ausmaß begehen.

Es ist von entscheidender Bedeutung, den Menschen klarzumachen, dass KI ein mächtiges Werkzeug ist, das ein ständiges menschliches Urteilsvermögen und einen sorgfältigen Blick auf die geistigen und ethischen Implikationen ihrer Entwicklung und Nutzung erfordert. 

Wahre Weisheit, die im Glauben und in der Vernunft verankert ist, ruft uns dazu auf, inmitten des technologischen Fortschritts das Gute und die Wahrheit zu erkennen und zu vermeiden, dass wir in die Falle der Verwirrung und des Verlusts unseres Urteilsvermögens tappen. Das Evangelium ruft uns auf, Licht in der digitalen Welt zu sein, die "Geister" zu unterscheiden und stets die Ehre Gottes und das Wohl des Nächsten zu suchen.