Papa Leone XIV ha espresso un allarme globale sul fenomeno dell'AI (intelligenza artificiale) e propone un'alleanza di fronte al suo potere simulatorio. L'obiettivo non è fermare l'innovazione digitale, ma guidarla come alleati, in difesa della dignità umana e della verità.
L'appello è stato lanciato nel Messaggio del Papa per la 60ª Giornata Mondiale delle Comunicazioni Sociali, resa pubblica in occasione della festa di San Francesco di Sales il 24 gennaio. “Il volto e la voce sono sacri. Ci sono stati donati da Dio, che ci ha creati a sua immagine e somiglianza, chiamandoci alla vita con la Parola che lui stesso ci ha rivolto”, ha detto.
“Non siamo algoritmi biochimici”.”
“Custodire i volti e le voci umane significa preservare questo sigillo, questo riflesso indelebile dell'amore di Dio”, sottolinea il Santo Padre all'inizio del suo messaggio. “Non siamo una specie composta da algoritmi biochimici predefiniti. Ognuno di noi ha una vocazione insostituibile e inimitabile che scaturisce dalla vita e che si manifesta proprio nella comunicazione con gli altri”.
Rischi e partnership
I rischi avvertiti da Leone XIV e il suo appello, e i termini dell'alleanza proposta dal Pontefice, possono essere riassunti come segue:
1. La mancata cura della tecnologia digitale modifica i pilastri della civiltà umana.
“Simulando voci e volti umani, saggezza e conoscenza, coscienza e responsabilità, empatia e amicizia”, dice il Papa, “i sistemi noti come intelligenza artificiale non solo interferiscono con gli ecosistemi dell'informazione, ma invadono anche il livello più profondo della comunicazione, quello della relazione tra le persone.
2. La sfida non è tecnologica ma antropologica.
Proteggere i volti e le voci significa, in ultima analisi, proteggere noi stessi. Abbracciare con coraggio, determinazione e discernimento le opportunità offerte dalla tecnologia digitale e dalla intelligenza artificiale non significa nascondere a noi stessi i punti critici, le opacità, i rischi, spiega il Papa.
3. Gli algoritmi progettati per massimizzare il coinvolgimento nei social network premiano le emozioni rapide.
E allo stesso tempo, aggiunge il Papa, penalizzano “le espressioni umane che hanno bisogno di tempo, come lo sforzo di comprensione e la riflessione”. Racchiudendo gruppi di persone in bolle di facile consenso e facile indignazione, questi algoritmi indeboliscono la capacità di ascolto e di pensiero critico e aumentano la polarizzazione sociale.
A questo si è aggiunto “un affidamento ingenuamente acritico sull'intelligenza artificiale come ‘amico’ onnisciente, dispensatore di tutte le informazioni, archiviatore di tutta la memoria, “oracolo” di tutti i consigli”.
4. I sistemi di intelligenza artificiale stanno prendendo sempre più il controllo della produzione di testi, musica e video.
Gran parte dell'industria creativa umana “rischia così di essere smantellata e sostituita dall'etichetta “Powered by AI”, trasformando le persone in semplici consumatori passivi di pensieri non pensati, di prodotti anonimi, senza autore, senza amore”.
I capolavori del genio umano nei campi della musica, dell'arte e della letteratura sono ridotti a una mera palestra per le macchine, diagnostica il Papa.
5. Creazione di realtà parallele e nessuna distinzione tra realtà e finzione.
“Il potere della simulazione è tale che l'intelligenza artificiale può anche ingannarci fabbricando “realtà” parallele, appropriandosi dei nostri volti e delle nostre voci (...). È sempre più difficile distinguere la realtà dalla finzione”, si legge nel messaggio papale.
A sua volta, Leone XIV aggiunge “il problema della mancanza di precisione. I sistemi che spacciano la probabilità statistica per conoscenza ci offrono in realtà, nel migliore dei casi, delle approssimazioni alla verità, che a volte sono vere e proprie ‘allucinazioni’”.
6. Mancanza di verifica delle fonti e crisi del giornalismo sul campo.
Questi due fattori, che richiedono “una continua raccolta di informazioni e una verifica sul luogo degli eventi, possono fornire un terreno ancora più fertile per la disinformazione, portando a un crescente senso di sfiducia, confusione e insicurezza”.”
Poiché i modelli di intelligenza artificiale sono modellati dalla visione del mondo di coloro che li costruiscono, ciò solleva “una grande preoccupazione per il controllo oligopolistico di sistemi algoritmici e di intelligenza artificiale in grado di guidare sottilmente il comportamento e persino di riscrivere la storia umana - compresa la storia della Chiesa - spesso senza che ce ne rendiamo conto”, aggiunge il Pontefice.
7. Cosa possiamo o saremo in grado di fare. Partnership con l'innovazione digitale
Leone XIV riflette su ciò che possiamo o potremo fare, crescendo in umanità e conoscenza, con un uso saggio di strumenti così potenti al nostro servizio. Non possiamo infatti “seppellire i talenti che abbiamo ricevuto per crescere come persone in relazione con Dio e con gli altri. Significa nascondere il nostro volto e far tacere la nostra voce”.
“La sfida che ci attende non è quello di fermare l'innovazione digitale ma quello di guidarla, e nella consapevolezza del suo carattere ambivalente”, propone il Papa.
Corrisponde “a ciascuno di noi”.” di alzare la voce in difesa della persona umana, in modo che “questi strumenti possono davvero essere integrati da noi come alleati”.”.
Una simile partnership è possibile, ma deve basarsi, a loro avviso, su tre pilastri: ‘responsabilità, cooperazione ed educazione’.
8. Responsabilità. A seconda delle funzioni, ciò può tradursi in “onestà, trasparenza, coraggio, visione, dovere di condividere la conoscenza, diritto di essere informati”. Ma, in generale, Nessuno può sottrarsi alle proprie responsabilità per il futuro che stiamo costruendo.
Per coloro che si trovano in l'apice delle piattaforme online, Ciò significa garantire che le proprie strategie aziendali non siano guidate dall'unico criterio del massimo profitto, ma anche da una visione del futuro che tenga conto del bene comune.
9. Creatori e programmatori di modelli di IA e legislatori nazionali: rispetto della dignità umana.
Si chiede loro di “essere trasparenti e socialmente responsabili per quanto riguarda i principi di pianificazione e i sistemi di moderazione che sono alla base dei loro algoritmi e dei modelli progettati per incoraggiare il consenso informato degli utenti”.
La stessa responsabilità è richiesta anche ai “legislatori nazionali e agli organismi normativi sovranazionali, che sono responsabili del controllo del rispetto della dignità umana”.
10. Agenzie di stampa e media: definizione delle priorità
Agenzie e media non può permettere che gli algoritmi orientati a vincere la battaglia per qualche secondo in più di attenzione a tutti i costi prevalgano su fedeltà ai propri valori professionali, orientati alla ricerca della verità.
I contenuti generati o manipolati dall'IA devono essere chiaramente contrassegnati e distinti da quelli creati dall'uomo, afferma l'Associazione. Il Papa.
L'informazione è un bene pubblico. Un servizio pubblico costruttivo e significativo non si basa sull'opacità, ma sulla trasparenza delle fonti, sull'inclusione delle parti interessate e su un alto livello di qualità", aggiunge.
11. Tutti chiamati a collaborare, creare meccanismi di protezione.
“Tutte le parti interessate - dall'industria tecnologica ai responsabili politici, dalle imprese creative al mondo accademico, dagli artisti ai giornalisti e agli educatori - devono essere coinvolte nella costruzione e nell'applicazione di una cittadinanza digitale consapevole e responsabile”, esorta Leon XIV.
12. Educazione, riflessione critica, alfabetizzazione digitale
L'obiettivo è quello di “accrescere le nostre personali capacità di riflessione critica; di valutare la credibilità delle fonti e i possibili interessi che stanno dietro alla selezione delle informazioni che ci arrivano; di comprendere i meccanismi psicologici che si attivano in risposta ad esse; di consentire alle nostre famiglie, comunità e associazioni di sviluppare criteri pratici per una cultura della comunicazione più sani e responsabili”.
È importante, riflette Papa Leone XIV, “educare e istruirsi a usare l'IA in modo intenzionale e, in questo contesto, prendersi cura della propria immagine (foto e audio), del proprio volto e della propria voce, per evitare che vengano utilizzati nella creazione di contenuti e comportamenti dannosi come le truffe digitali e il cyber-bullismo", deepfakes che violano la privacy e l'intimità delle persone senza il loro consenso”.
In breve, “la rivoluzione digitale richiede anche una alfabetizzazione digitale (insieme a un background umanistico e culturale) per capire come gli algoritmi plasmino la nostra percezione della realtà, Come funziona il pregiudizio dell'intelligenza artificiale”continua il Papa.
Conclusione
Alla fine del Messaggio, Leone XIV afferma che “occorre criconoscere il dono della comunicazione come la verità più profonda dell'uomo, verso la quale dovrebbe orientarsi anche tutta l'innovazione tecnologica”.
Español 
English 
Italiano