Lì c'è un'intelligenza artificiale che dice: «Ahi!»

La frase con cui abbiamo imparato le differenze ortografiche tra le tre parole che suonano allo stesso modo, pur avendo significati diversi, riassume bene il messaggio che Leone XIV ci ha trasmesso nella sua enciclica «Magnifica Humanitas», sulla tutela della vita umana nell’era dell’intelligenza artificiale.

Proprio come nella frase mnemonica che ci hanno insegnato da piccoli, il Papa sta sottolineando qualcosa di importante, richiamando la nostra attenzione su una realtà che è già tra noi: l’Intelligenza Artificiale. La ormai famosa IA, o AI secondo l’acronimo inglese, è arrivata per restare e trasformare le nostre vite, segnando non un’epoca di cambiamenti, ma l’autentico «cambiamento d’epoca» in cui siamo immersi, come aveva già profetizzato Francesco. 

Esiste un'intelligenza artificiale che sta già prendendo decisioni al posto vostro e influenzando il vostro modo di essere come individui e come società, per quanto possiate essere "analogici" o per quanto viviate in una zona senza copertura di rete.

Sebbene l’enciclica non sia a priori tecnofoba e riconosca che «i vantaggi in termini di efficienza e le potenzialità di miglioramento di alcuni servizi grazie all’intelligenza artificiale sono evidenti», la verità è che, fedele alla sua missione di pastore che deve proteggere le sue pecore dai lupi, il Papa ci mette in guardia da molti e gravissimi pericoli che stanno già cominciando a mostrare i loro artigli digitali. Ogni monito del Santo Padre risuona come uno di quei «guai» che Gesù lanciò contro gli scribi e i farisei, i quali approfittavano della loro posizione di dominio religioso per soggiogare il popolo. Parafrasando alcuni dei temi più salienti, non come condanna ma come monito sulle strade verso cui ci stanno conducendo, potremmo dire, con Leone XIV:

Guai ai tecnocrati e agli oligarchi digitali, «dotati di risorse e capacità di azione»

»superiori a quelli di molti governi«, proprietari »delle nuove forme di proprietà, dei brevetti, degli algoritmi, delle piattaforme digitali, delle infrastrutture tecnologiche e dei dati«, perché »quando questi beni rimangono concentrati nelle mani di pochi, senza adeguate forme di scambio e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi»!

Guai agli sviluppatori di IA che, nella loro corsa per arrivare primi, non sanno bene dove ci stanno portando! L’enciclica spiega che le IA «sono più “coltivate” che “costruite”, poiché gli sviluppatori non progettano direttamente ogni dettaglio, ma creano un’architettura sulla quale l’IA “cresce”». Per questo motivo, esse comportano «un peso etico e spirituale significativo, poiché ogni scelta progettuale esprime una visione dell’umanità ed è necessario «verificare che ciò che viene coltivato sia realmente un bene»».

Guai ai promotori delle ideologie emerse dopo la rivoluzione digitale, come il transumanesimo o il postumanesimo, «che suggeriscono che ogni persona debba guadagnarsi o giustificare il proprio valore, al punto da attribuire maggiore valore a chi è più efficiente e produttivo», perché «in una simile prospettiva, la persona finisce per essere ridotta a un mezzo per ottenere risultati, a una risorsa da utilizzare e sfruttare, e non viene riconosciuta come fine a se stessa»!

Guai ai governanti degli Stati ai quali spetta, nel mezzo di questa crisi globale causata dai proprietari dell’IA, «garantire la coesione, l’unità e una giusta organizzazione della società civile, (…) cercando l’equilibrio tra i beni particolari e quelli collettivi, senza lasciare indietro i più deboli», perché «quando la politica rinuncia a una visione a lungo termine e si riduce a calcoli di breve periodo o a polarizzazioni sterili, i discorsi sul bene comune perdono credibilità e, al contempo, crescono le disuguaglianze e le fratture sociali»!

Guai ai signori della guerra che affidano decisioni letali a sistemi artificiali, perché «non esiste alcun algoritmo in grado di rendere la guerra moralmente accettabile»! Infatti, «la decisione di ricorrere alla forza letale non può essere delegata a processi opachi o automatizzati, ma deve rimanere sotto un controllo umano effettivo, consapevole e responsabile».

Grazie, Santo Padre, per *Magnifica Humanitas*, per averci segnalato ogni «ay» dell’AI. Dobbiamo fare in modo che arrivino dove devono arrivare.