Was schlägt der Papst angesichts der Risiken der KI vor?

Papst Leo XIV. hat eine weltweite Warnung vor dem Phänomen der KI (Künstlichen Intelligenz) ausgesprochen und ein Bündnis vorgeschlagen, um deren Simulationsfähigkeit entgegenzuwirken. Ziel ist es nicht, die digitale Innovation aufzuhalten, sondern sie als Verbündete im Dienste der Menschenwürde und der Wahrheit zu lenken.

Der Appell wurde in der Nachricht In seiner Botschaft zum 60. Welttag der sozialen Kommunikationsmittel, die am Fest des heiligen Franz von Sales, dem 24. Januar, veröffentlicht wurde, erklärte der Papst: “Angesicht und Stimme sind heilig. Sie wurden uns von Gott gegeben, der uns nach seinem Bild und Gleichnis geschaffen hat und uns mit dem Wort, das er selbst an uns gerichtet hat, zum Leben ruft.”.

“Wir sind keine biochemischen Algorithmen.”

“Menschliche Gesichter und Stimmen zu schützen bedeutet, dieses Zeichen, diesen unauslöschlichen Abglanz der Liebe Gottes zu bewahren”, betont der Heilige Vater zu Beginn seiner Botschaft. “Wir sind keine Spezies, die aus vordefinierten biochemischen Algorithmen besteht. Jeder von uns hat eine unersetzliche und unnachahmliche Berufung, die aus dem Leben selbst erwächst und sich gerade in der Kommunikation mit anderen manifestiert.”. 

Risiken und Allianz

Die von Leo XIV. in seinem Appell aufgezeigten Risiken und die vom Papst vorgeschlagenen Bedingungen des Bündnisses lassen sich wie folgt zusammenfassen:

1.  Ein unsachgemäßer Umgang mit digitaler Technologie verändert Grundpfeiler der menschlichen Zivilisation.

“Durch die Simulation menschlicher Stimmen und Gesichter, Weisheit und Wissen, Gewissen und Verantwortung, Empathie und Freundschaft”, so der Papst, “greifen Systeme, die als künstliche Intelligenz bekannt sind, nicht nur in Informationsökosysteme ein, sondern dringen auch in die tiefste Ebene der Kommunikation ein, nämlich die der Beziehung zwischen Menschen.”.

2. Die Herausforderung ist nicht technologischer, sondern anthropologischer Natur. 

Den Schutz von Gesichtern und Stimmen zu gewährleisten bedeutet letztlich, uns selbst zu schützen. Es bedeutet, die Möglichkeiten der digitalen Technologie mit Mut, Entschlossenheit und Urteilsvermögen zu nutzen und... künstliche Intelligenz Es bedeutet nicht, die kritischen Punkte, die Unklarheiten, die Risiken vor uns selbst zu verbergen, erklärt der Papst.

3. Algorithmen, die darauf ausgelegt sind, das Engagement in sozialen Netzwerken zu maximieren, belohnen schnelle Emotionen.

Gleichzeitig, so der Papst weiter, bestrafen sie “menschliche Ausdrucksformen, die Zeit brauchen, wie das Bemühen um Verständnis und Reflexion. Indem sie Gruppen von Menschen in Blasen des schnellen Konsenses und der schnellen Empörung einschließen, schwächen diese Algorithmen die Fähigkeit zum Zuhören und zum kritischen Denken und verstärken die soziale Polarisierung.”.

Hinzu kommt ein naiv unkritisches Vertrauen in künstliche Intelligenz als allwissenden “Freund‘, Spender aller Informationen, Archiv aller Erinnerungen, ’Orakel aller Ratschläge“.

4. Künstliche Intelligenzsysteme übernehmen zunehmend die Kontrolle über die Produktion von Texten, Musik und Videos. 

Ein Großteil der menschlichen Kreativwirtschaft läuft somit Gefahr, zerschlagen und durch das Etikett “KI-gesteuert“ ersetzt zu werden, wodurch die Menschen zu bloßen passiven Konsumenten unreflektierter Gedanken, anonymer Produkte ohne Urheberschaft und ohne Liebe werden.

Die Meisterwerke menschlichen Genies auf den Gebieten Musik, Kunst und Literatur werden zu einem bloßen Übungsfeld für Maschinen reduziert, diagnostiziert der Papst.

5. Die Erfindung paralleler Realitäten und die fehlende Unterscheidung zwischen Realität und Fiktion.

“Die Macht der Simulation ist so groß, dass künstliche Intelligenz uns auch täuschen kann, indem sie parallele “Realitäten” erschafft und sich unsere Gesichter und Stimmen aneignet… (…). Es wird zunehmend schwieriger, Realität von Fiktion zu unterscheiden”, heißt es in der päpstlichen Botschaft. 

Leo XIV. ergänzt dies um das “Problem der mangelnden Präzision. Systeme, die eine statistische Wahrscheinlichkeit als Wissen ausgeben, bieten uns bestenfalls Annäherungen an die Wahrheit, die manchmal echte ‘Halluzinationen’ sind.”.

6. Fehlende Quellenverifizierung und Krise im Feldjournalismus.

Diese beiden Faktoren, deren Überwindung “kontinuierliche Anstrengungen zur Sammlung und Überprüfung von Informationen an den Orten, an denen die Ereignisse stattfinden”, erfordert, können einen noch fruchtbareren Boden für Desinformation schaffen und ein wachsendes Gefühl des Misstrauens, der Verwirrung und der Unsicherheit hervorrufen.”

Da KI-Modelle von der Weltanschauung derer geprägt sind, die sie entwickeln, besteht “große Besorgnis über die Kontrolle des Oligopols von algorithmischen und künstlichen Intelligenzsystemen, die in der Lage sind, Verhaltensweisen subtil zu lenken und sogar die Geschichte der Menschheit – einschließlich der Geschichte der Kirche – umzuschreiben, oft ohne dass wir es wirklich bemerken”, fügt der Papst hinzu.

7. Was können wir tun? Allianz mit digitaler Innovation

Leo XIV. reflektiert darüber, was wir tun können oder tun werden, wenn wir in Menschlichkeit und Wissen wachsen und die uns zur Verfügung stehenden mächtigen Instrumente weise einsetzen. Denn wir dürfen die uns anvertrauten Talente nicht vergraben, um als Menschen in Beziehung zu Gott und zu unseren Mitmenschen zu wachsen. Das hieße, unser Gesicht zu verbergen und unsere Stimme zu verstummen.

“Die Herausforderung, die uns erwartet Es geht nicht darum, digitale Innovationen zu stoppen. aber der eine von führe sie, ”Und indem man sich seiner ambivalenten Natur bewusst ist“, schlägt der Papst vor.

Es entspricht “”Für jeden von uns.“ um unsere Stimmen zur Verteidigung der Menschheit zu erheben, damit “diese Instrumente ”können von uns als Verbündeten wirklich integriert werden.“.

Diese Allianz ist möglich, aber seiner Meinung nach muss sie auf Folgendem basieren: Drei Säulen: ‘Verantwortung, Zusammenarbeit und Bildung’.

8. Verantwortung. Gemäß den Funktionen lässt sich dies in “Ehrlichkeit, Transparenz, Mut, Weitblick, Pflicht zur Wissensweitergabe, Recht auf Information” übersetzen. Aber im Allgemeinen, Niemand kann sich seiner Verantwortung für die Zukunft, die wir gestalten, entziehen.

Für diejenigen, die sich in die Spitze der Online-Plattformen, Dies bedeutet, sicherzustellen, dass Geschäftsstrategien nicht allein vom Kriterium des maximalen Gewinns geleitet werden, sondern auch von einer Zukunftsvision, die das Gemeinwohl berücksichtigt.

9. Entwickler und Programmierer von KI-Modellen sowie nationale Gesetzgeber: Achtung der Menschenwürde.

Diese Einrichtungen werden aufgefordert, hinsichtlich der Planungsprinzipien und Moderationssysteme, die ihren Algorithmen und den Modellen zur Förderung der informierten Einwilligung der Nutzer zugrunde liegen, transparent und sozial verantwortlich zu handeln.

Die gleiche Verantwortung wird auch von “nationalen Gesetzgebern und supranationalen Regulierungsbehörden gefordert, die für die Wahrung der Menschenwürde verantwortlich sind”. 

10. Nachrichtenagenturen und Medien: Prioritätensetzung

Nachrichtenagenturen und Medienunternehmen Sie dürfen nicht zulassen, dass Algorithmen, die darauf ausgerichtet sind, um jeden Preis ein paar Sekunden mehr Aufmerksamkeit zu gewinnen, die Oberhand gewinnen. Treue zu ihren beruflichen Werten, ausgerichtet auf die Suche nach der Wahrheit. 

Laut dem Bericht müssen von KI generierte oder manipulierte Inhalte klar gekennzeichnet und von von Menschen erstellten Inhalten unterschieden werden. Papst. 

Information ist ein öffentliches Gut. Ein konstruktiver und sinnvoller öffentlicher Dienst basiert nicht auf Intransparenz, sondern auf Transparenz der Quellen, Einbeziehung der Interessengruppen und einem hohen Qualitätsniveau, fügt er hinzu.

11. Alle sind zur Zusammenarbeit aufgerufen., Schutzmechanismen schaffen. 

“Alle Beteiligten – von der Technologiebranche bis zu den Gesetzgebern, von kreativen Unternehmen bis zur Wissenschaft, von Künstlern bis zu Journalisten und Pädagogen – müssen in den Aufbau und die Umsetzung einer bewussten und verantwortungsvollen digitalen Bürgerschaft einbezogen werden”, mahnt Leo XIV.

12. Bildung, kritisches Denken, digitale Kompetenz

Es geht darum, “unsere persönlichen Fähigkeiten zur kritischen Reflexion zu stärken; die Glaubwürdigkeit von Quellen und die möglichen Interessen hinter der Auswahl der uns erreichenden Informationen zu bewerten; die psychologischen Mechanismen zu verstehen, die als Reaktion darauf aktiviert werden; und unsere Familien, Gemeinschaften und Verbände in die Lage zu versetzen, praktische Kriterien für eine Kommunikationskultur "gesünder und verantwortungsbewusster.".

Papst Leo XIV. betont, wie wichtig es sei, “sich im Umgang mit KI zu schulen und sich selbst weiterzubilden und in diesem Zusammenhang auf das eigene Bild (Foto und Ton), das eigene Gesicht und die eigene Stimme zu achten, um zu verhindern, dass diese zur Erstellung schädlicher Inhalte und Verhaltensweisen wie digitaler Betrug und Cybermobbing missbraucht werden.“, deepfakes die die Privatsphäre und Intimität von Menschen ohne deren Zustimmung verletzen.”. 

Kurz gesagt, “die digitale Revolution erfordert auch eine digitale Kompetenz (zusammen mit einer humanistischen und kulturellen Bildung), um zu verstehen, wie Algorithmen unsere Wahrnehmung der Realität prägen, Wie KI-Verzerrungen funktionieren”, fährt der Papst fort.

Schlussfolgerung

Am Ende der Botschaft erklärt Leo XIV., dass wir brauchen c”Die Gabe der Kommunikation als tiefste Wahrheit des Menschen zu würdigen, auf die sich auch alle technologischen Innovationen ausrichten sollten.“.