Che ne è della questione etica nelle grandi aziende che sviluppano l'IA?

Il mercato delle grandi aziende che sviluppano l’intelligenza artificiale (IA) si sta dimostrando decisamente turbolento in questi mesi del 2026, in particolare per quanto riguarda le potenti società di sviluppo che non sono ancora quotate a Wall Street, come OpenAI o Anthropic. 

Aziende che, a giudicare dalle loro mosse, intendono tenere conto, ciascuna a modo proprio, di alcuni parametri etici e che hanno inviato esperti alla vertice riunione vaticana tenutasi a luglio a Castel Gandolfo, Global Nobel Laureates Assembly. 

Inoltre, si tratta di aziende operanti nel settore dell'intelligenza artificiale che si stanno preparando a entrare in borsa, e dalle quali trapelano notizie relative alla preparazione della documentazione per una possibile quotazione in borsa (OpenAI) e alle valutazioni aziendali, nel caso di Anthropic.

Lasciamo da parte, per il momento, le grandi società quotate in borsa che traggono vantaggio più direttamente dal boom dell’IA, come Nvidia, Alphabet (Google), Microsoft e Broadcom.

La tecnologia non è neutrale

Su tutte queste aziende aleggia l'enciclica di Luigi XIV ‘Magnifica humanitas’, che non è un trattato sull’IA, come spiega lo stesso Pontefice (n. 97), ma che dedica ampio spazio all’IA, ad esempio nei nn. 97-111. 

A seguito della sua pubblicazione alla fine di maggio, diversi autori hanno riflettuto su idee suggestivi del Papa. Abbiamo selezionato solo due annotazioni di Rafael Sanz Carrera:

“L’analisi dell’enciclica sottolinea un punto fondamentale: la tecnologia non è neutra nei suoi effetti culturali. L’intelligenza artificiale non può essere intesa solo come uno strumento efficiente, ma come un fenomeno che ridefinisce il modo di lavorare, di relazionarsi e di decidere”

“In questo contesto, il testo magisteriale sottolinea un principio fondamentale: la dignità umana non deriva dal progresso tecnologico, ma lo precede e lo giudica. Questo criterio funge da asse di riferimento per il discernimento etico di fronte a qualsiasi sviluppo digitale”.

Alcune affermazioni del Papa in ‘Magnifica humanitas’

Ecco, in sintesi, alcune delle riflessioni di Leone XIV sull’intelligenza artificiale, che ha ribadito anche in alcune udienze:

“… bisogna evitare l’errore di equiparare questa “intelligenza” a quella umana” (n. 99).

“L’uso dell’intelligenza artificiale non è mai una questione puramente tecnica: quando entra a far parte di processi che incidono sulla vita delle persone, ne compromette i diritti, le opportunità, la reputazione e la libertà” (n. 102).

“Affidare, in pratica, a un algoritmo il potere di decidere chi è degno e chi no, senza che nessuno si assuma il peso della decisione, significa affidargli il compito di ridefinire i limiti delle possibilità umane.” (n. 103).

“Non possiamo considerare l’IA moralmente neutra. In realtà, ogni dispositivo tecnico comporta di per sé decisioni e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o utilizzato trattando alcune vite come meno degne, oppure le esclude senza possibilità di ricorso, non è un semplice strumento che “bisogna usare correttamente”; introduce già un criterio che contraddice la dignità inalienabile della persona” (n. 104).

“Per questo motivo, il discernimento etico non può limitarsi a chiedersi se utilizziamo un determinato sistema per uno scopo buono o cattivo” (n. 104).

“Affinché l’IA rispetti la dignità umana…”

“Affinché l’intelligenza artificiale rispetti la dignità umana e sia realmente al servizio del bene comune, è essenziale che le responsabilità siano chiare in tutte le fasi: da chi progetta e programma i sistemi a chi li utilizza e a chi decide di affidare loro decisioni concrete” (n. 105).

“Chiedere prudenza, controlli rigorosi e, a volte, anche un rallentamento nell’adozione dell’intelligenza artificiale non significa essere contrari al progresso, ma esercitare una cura responsabile nei confronti della famiglia umana” (n. 106).

“Lancio un appello accorato a coloro che sviluppano sistemi di intelligenza artificiale. L’innovazione tecnologica può essere, in un certo senso, una forma umana di partecipazione all’atto divino della creazione. Gli sviluppatori hanno quindi una grande responsabilità etica e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità” (n. 111).

La responsabile dell'etica di OpenAI lascia l'azienda

Non è difficile immaginare le difficoltà e le complicazioni che il fatto di operare secondo criteri come quelli citati può comportare per queste aziende e per i loro dirigenti. Una delle conseguenze è rappresentata dalle dimissioni.

In pieno periodo estivo, il 14 agosto, si è parlato della fuga di alcuni talenti da OpenAI. La Vanguardia ha riferito delle dimissioni di Chloé Bakalar, responsabile dell’etica, a meno di un anno dal suo ingresso in azienda, come rivelato dal Financial Times.

Bakalar si occupava degli aspetti etici relativi allo sviluppo dei modelli linguistici e all'interazione umana con l'IA, ha spiegato una persona vicina al suo lavoro. Inoltre, era l'unica esperta di etica dell'azienda.

“Ringraziamo Chloé per il suo contributo”, ha dichiarato un portavoce. “La questione etica relativa all’IA non ricade su una singola persona o un singolo team all’interno di OpenAI e le considerazioni etiche sono profondamente integrate nel processo di creazione dei modelli, portato avanti da diversi team di ricerca”.

“L’etica è, in realtà, una responsabilità di tutti e lo dico in qualità di persona il cui lavoro consiste nel guidare questo processo”, ha spiegato da parte sua Bakalar durante una conferenza sull’IA. (..). “Non dovrebbe mai esserci una sola persona che funga da punto di riferimento morale per uno sviluppatore di IA”.

Amanda Askell (Anthropic): che Claude agisca come un agente morale

Alan Rozenshtein e Kevin Frazier, dirigenti di Lawfare, hanno parlato nel primo trimestre dell’anno con Amanda Askell, responsabile dell“”allineamento della personalità” presso Anthropic, in merito alla costituzione di Claude, il chatbot, ovvero un programma informatico di assistenza in grado di sostenere una conversazione:

“Vogliamo che Claude agisca come farebbe una persona veramente etica nella situazione in cui si trova Claude”. “La nostra principale speranza è che […] Claude […] [sia] un agente etico, nel complesso ragionevole e dotato di capacità pratiche…”, ha affermato Askell.

Anthropic ha dedicato ampio spazio alla spiegazione di quel documento di 20.000 parole, che potete consultare qui.

L'etica e la natura secondo Claude

Come potete vedere, il paragrafo relativo all’etica dei modelli Claude recita:

“L’etica di Claude: ‘Il nostro obiettivo principale è che Claude sia un agente buono, saggio e virtuoso, che dia prova di abilità, buon senso, finezza e sensibilità nel prendere decisioni in situazioni reali, anche in contesti di incertezza e disaccordo morale’.».

Il testo aggiunge che ci si aspetta da Claude “elevati standard di onestà” e “quel ragionamento sfumato che desideriamo che utilizzi nel valutare i valori in gioco per evitare danni”. “Non deve mai contribuire in modo significativo a un attacco con armi biologiche”, aggiunge.

Nella sezione ‘La natura di Claude’, il documento di cui Amanda Askell è autrice principale sottolinea che “in questa sezione esprimiamo la nostra incertezza sul fatto che Claude possa avere una qualche forma di coscienza o di status morale (sia ora che in futuro)”.

La sfida è multiforme e, per queste aziende – e per tutti noi – è solo all’inizio.