Abbondano i papi e i vescovi creati con la tecnologia deepfake

Kimberley Heatherington, Notizie OSV

La scena del video condiviso su Instagram è carica di tensione: agenti dell'immigrazione statunitense con giubbotti antiproiettile e maschere, alcune delle quali con schizzi d'uovo, sono affrontati da un vescovo cattolico dai capelli argentati sui gradini di una chiesa dall'aspetto gotico.

Il prelato, facilmente identificabile per l'abito talare color amaranto, la fascia e le rifiniture, spinge un agente in avvicinamento mentre sventola un libro e la sua croce pettorale oscilla intorno al collo.

«Fuori! Non siete i benvenuti qui!‘, tuona il vescovo, mentre i parrocchiani lo acclamano. Non oggi e non in questa chiesa! Non so quale dio adoriate... ma il mio Dio è amore!’.

È molto drammatico, ma non è mai successo.

Viralizzazione sui social network

Se la totale assenza di notizie su questo incidente non è un indizio, il fatto che lo stesso copione, parola per parola, compaia in numerosi altri video con altri greggi falsi e altri pastori simulati lo conferma: si tratta di un deepfake generato da intelligenza artificiale.

Ma migliaia di commenti su Instagram, Facebook e TikTok rivelano che molti spettatori sono stati ingannati da questi video creati dall'intelligenza artificiale, e non sono i soli. I social media sono pieni di video falsi che imitano i leader della Chiesa cattolica, da falsi prelati allo stesso Papa Leone XIV.

E alcuni di questi post non sono semplicemente per ottenere «mi piace», ma ci sono anche post fraudolenti volti a truffare gli spettatori che, commossi dalla situazione, rubano i loro soldi.

Sacerdoti soppiantati

Padre Rafael Capó, vicepresidente per la missione e il ministero e preside di teologia presso l'Università di San Tommaso a Miami, in Florida, sa cosa si prova a scoprire che la propria identità online è stata rubata.

«Da molto tempo sono presente sui social media per evangelizzare, soprattutto i giovani», ha detto a OSV News. «E a causa di ciò, hanno iniziato a comparire persone che cercavano di impersonare la mia identità, il mio ruolo di sacerdote e le mie immagini, e le usavano».

«Creavano profili falsi sui social media e immagini false», ha aggiunto. E con questo hanno iniziato a contattare le persone che seguivano quei social network, facendo credere loro che fossi io«.

Padre Capó, un culturista che evangelizza anche attraverso l'esercizio fisico, all'inizio non ci ha fatto caso. Ma poi sono iniziate le domande, soprattutto quando gli impostori hanno iniziato a chiedere soldi.

«Ho iniziato a ricevere messaggi dai follower e dalle persone sui social media che mi chiedevano: ‘Padre, sei tu? Hai postato tu questo? Hai chiesto tu questo?’ Ed è diventata una tendenza preoccupante».

Né è stato facile risolverlo. «È stato molto difficile», ha raccontato. «È diventato un problema così grande che ho iniziato a contattare le società di social media. Mi hanno chiesto di verificare i miei profili. E verificandoli, facendo questo passo, ho iniziato a notare dei miglioramenti».

Ma in un'epoca in cui si moltiplicano i falsi e le truffe generate dall'intelligenza artificiale, anche influencer esperti come Padre Capo possono sentirsi in lotta contro la corrente.

IA e fiducia

«Il problema oggi non riguarda solo l'impersonificazione di un profilo», ha detto. «Si tratta anche di creare video. Questo porta tutto a un altro livello. Ed è una questione molto complessa, perché le persone utilizzano anche l'IA per creare video a scopo positivo».

Ovviamente, non tutte le IA sono malevole, una realtà che sfrutta la fiducia degli spettatori.

«Prende le notizie, ad esempio quelle sulla Chiesa e sull'attualità, e le manipola in modo tale da confondere la gente sul fatto che si tratti di una fonte di notizie legittima», ha detto padre Capó.

L'Università di St. Thomas sta lavorando attivamente per affrontare questi problemi.

«Abbiamo appena approvato i nostri standard per l'IA etica», ha condiviso padre Capó.

Come essere ben informati

Il diacono John Rogers, vicepresidente dei servizi cattolici del Prenger Solutions Group, una società di tecnologia e raccolta fondi che serve più di 100 diocesi negli Stati Uniti e in Canada, ha detto che ci sono modi in cui i fedeli possono informarsi e proteggersi.

Prima di tutto, consultate solo i canali di comunicazione ufficiali o conosciuti della Chiesa.

«Cercate informazioni come ‘Questa è la diocesi ufficiale di tale e tal altro nome’, o che provengano dalla Conferenza episcopale degli Stati Uniti, o che provengano da un apostolato che conosco bene», consiglia il diacono Rogers.

Un altro indizio sono i tagli di montaggio, quando le scene di un video saltano o qualcosa appare strano.

«È quello che tutti, soprattutto nel mondo digitale, chiamano ‘la valle del perturbante’: quando qualcuno assomiglia a un essere umano, ma non abbastanza», ha detto Deacon Rogers. «Bisogna sempre stare attenti alle cose che non hanno un bell'aspetto».

«E, francamente», ha aggiunto, «uno dei migliori antidoti è semplicemente quello di leggere più testi spirituali. Se tutti leggessero cinque pagine al giorno di documenti della Chiesa solidi e di buona qualità... sarebbero pronti a scoprirli da soli».

Colpisce anche il Papa

In seguito alla proliferazione in rete di numerosi falsi digitali di Papa Leone XIV, la newsletter mensile del Dicastero vaticano per la Comunicazione ha avvertito i suoi lettori di ricevere «decine» di segnalazioni di questo tipo ogni giorno, in cui gli account falsi «utilizzano sempre più spesso l'intelligenza artificiale per far dire al Papa parole che non ha mai pronunciato e per ritrarlo in situazioni in cui in realtà non si è mai trovato».

In un messaggio del 24 gennaio, in occasione della 60a Giornata Mondiale delle Comunicazioni Sociali, Papa Leone XIII ha riconosciuto il problema.

«È importante informarci ed educare gli altri su come usare l'IA in modo intenzionale», ha consigliato il pontefice, «e in questo contesto proteggere la nostra immagine (foto e audio), il nostro volto e la nostra voce, per evitare che vengano usati nella creazione di contenuti e comportamenti dannosi come le frodi digitali, il cyberbullismo e i deepfake, che violano la privacy e l'intimità delle persone senza il loro consenso».

Altre vittime

Tra gli altri leader cattolici di spicco che sono stati vittime di deepfakes ci sono il vescovo Robert E. Barron di Winona-Rochester, Minnesota, noto per il suo apostolato Word on Fire; il cardinale Marc Ouellet, prefetto a riposo del Dicastero vaticano per i vescovi; e il popolare oratore e autore padre Mike Schmitz.

«Antiqua et Nova» (Nota sul rapporto tra intelligenza artificiale e intelligenza umana), un documento del 2025 del Dicastero vaticano per la Dottrina della Fede e del Dicastero per la Cultura e l'Educazione, è stato schietto: «I fake media generati dall'IA possono gradualmente minare le fondamenta della società».

Steven Umbrello, direttore generale dell'Institute for Ethics and Emerging Technologies e caporedattore dell'International Journal of Technoethics, ha affermato che l'autorità morale della Chiesa è attaccata dall'intelligenza artificiale.

«Per i cattolici, questo è particolarmente grave perché la fede non si trasmette solo attraverso le idee, ma anche attraverso testimoni credibili, attraverso le nostre testimonianze. I deepfakes attaccano direttamente questa credibilità», ha detto. «Possono far sembrare che un pastore abbia appoggiato qualcosa che non ha mai appoggiato, o che la Chiesa abbia insegnato qualcosa che non ha mai insegnato.

«E una volta che il dubbio viene seminato», ha detto Umbrello, «il danno spesso persiste anche dopo la correzione. Il risultato è una cultura in cui le persone partono dal presupposto: «Non posso sapere cosa c'è di vero», che è proprio la posizione che coloro che agiscono con cattive intenzioni cercano di assumere».

Pertanto, sia i fedeli che la Chiesa devono essere vigili e consapevoli. «Dobbiamo essere onesti nel dire che i fedeli non hanno bisogno di diventare esperti forensi, ma hanno bisogno di un flusso di lavoro affidabile per la verifica e di uno standard morale che impedisca loro di diffondere affermazioni non verificate», ha detto.

Umbrella ha aggiunto: «Tecnicamente, la chiesa avrà bisogno di misure di sicurezza di base, come canali ufficiali costantemente mantenuti e chiarimenti di risposta rapida quando qualcosa diventa virale.

Inoltre, non si dovrebbero condividere i falsi evidenti, perché ciò non fa che amplificarli. «Quando i cattolici sapranno dove cercare la verità, i deepfakes perderanno il loro potere», ha spiegato Umbrella.

«In definitiva, i deepfakes sono un test per capire se permetteremo alla tecnologia di indurre il cinismo o se risponderemo con le virtù della prudenza, della giustizia e della carità», ha riflettuto. «L'autorità della Chiesa è la credibilità morale, e la credibilità morale si difende con la verità e la paziente ricostruzione della fiducia ogni volta che viene attaccata».