Chi è Brendan McGuire, pastore californiano e consulente di AI?

- Courtney Mares, Città del Vaticano (Notizie OSV)

All'inizio di quest'anno, l'irlandese Brendan McGuire è stato uno dei leader religiosi invitati da Antropico, l'azienda di AI responsabile del chatbot Claude, per fornire consulenza sulla creazione di un quadro etico che regoli il modo in cui il sistema di AI affronta questioni morali complesse. 

Un ponte tra due mondi

Padre McGuire, 60 anni, è un ingegnere laureato in informatica al Trinity College di Dublino e ha completato il programma di business executive all'Università di Stanford. Ha lavorato per anni nella Silicon Valley come dirigente nel settore tecnologico prima di lasciare tutto per essere ordinato sacerdote della diocesi di San Giuseppe 26 anni fa. 

“Vengo da quel mondo”, ha detto padre McGuire a OSV News. “Il mio cuore non l'ha mai lasciato, ma è davvero con il Signore”. “Ho sempre pensato che il mio ruolo fosse quello di unire questi due mondi”, ha detto.

In un'intervista rilasciata in Vaticano dopo la promulgazione del 25 maggio della enciclica di Papa Leone XIV “Magnifica Humanitas: Sulla custodia della persona umana nell'era dell'intelligenza artificiale», padre McGuire ha sottolineato l'urgenza del messaggio del Papa.

“Ciò che mi preoccupa di più è che noi, come umanità, non stiamo prendendo sul serio questo momento”, ha detto. Se restiamo in silenzio e passivi, questo potrebbe avere conseguenze molto negative per noi“.

Riflessione sugli algoritmi di disarmo

Il sacerdote della Silicon Valley si è detto particolarmente colpito dall'appello di Papa Leone per un “disarmo degli algoritmi”, un deliberato rallentamento della corsa competitiva allo sviluppo di sistemi di intelligenza artificiale sempre più potenti.

“È in corso una corsa all'algoritmo”, ha detto padre McGuire. “E per disarmarla, dobbiamo pensare con attenzione a questo proposito. Può essere pericoloso, proprio come la corsa agli armamenti nucleari. E ho pensato che fosse un'idea davvero scioccante.

Nel 2019, padre McGuire ha co-fondato l'Istituto per la tecnologia, l'etica e la cultura (ITEC), una collaborazione formale tra il Markkula Center for Applied Ethics dell'Università di Santa Clara e il Dicastero vaticano per la cultura e l'educazione, che riunisce leader aziendali, accademici e religiosi per affrontare le sfide morali poste dall'intelligenza artificiale.

“Ciò che l'enciclica di Papa Leone XIV mette in evidenza oggi è un riorientamento dell'intelligenza artificiale verso la prosperità umana”, ha detto.

La partecipazione all'IA è una responsabilità di tutti

Padre McGuire ha sottolineato che la sfida del Papa non è rivolta solo ai tecnologi. Egli ha affermato che i governi, le autorità di regolamentazione, gli utenti comuni e persino coloro che non usano mai uno smartphone hanno interesse a vedere come si sviluppa questa tecnologia.

Ha aggiunto che tutti noi abbiamo la responsabilità di partecipare.

“Non si tratta solo di tecnici della Silicon Valley, investitori o imprenditori che prendono decisioni. Tutti noi dobbiamo svolgere un ruolo e partecipare a tutti i livelli”, ha detto. “Anche i non utenti devono parlare, perché? Perché questo li riguarderà”.

Padre McGuire è molto realista sulle forze economiche in gioco. Si stanno investendo trilioni di dollari nello sviluppo dell'IA e gli investitori chiederanno dei ritorni. Questa realtà, ha detto, è proprio il motivo per cui l'etica dello sviluppo dell'IA non può essere lasciata al solo mercato.

“Il capitalismo ha bisogno di una guida umana. E questa è la guida umana che il Papa sta chiedendo”, ha detto a un gruppo di giornalisti dopo che Chris Olah, cofondatore di Antropico, La conferenza stampa vaticana con Papa Leone XIV per la presentazione dell'enciclica si è tenuta in Vaticano.

“La trasparenza crea fiducia e porta alla responsabilità”.”

Il sacerdote è anche scettico nei confronti dell'autoregolamentazione del settore. Sostiene che la trasparenza è il primo passo necessario verso la responsabilità. 

“La trasparenza genera responsabilità e la responsabilità genera fiducia. E con la fiducia raggiungeremo un'IA responsabile. Ma non possiamo arrivarci senza trasparenza”, ha detto. “Se non sappiamo come vengono sviluppate queste tecnologie e cosa fanno, come possiamo regolarle? È impossibile.

Alcuni pensano che l'IA distruggerà l'umanità. Altri pensano che la salverà.

Tuttavia, padre McGuire resiste sia al ‘tecnoutopismo’ che al ‘tecno-apocalittico’.

“Ci sono quelli che... pensano che distruggerà l'umanità. E poi ci sono quelli all'altro estremo che pensano che sarà il grande salvatore dell'umanità”, ha detto.

Padre McGuire ha detto di trovarsi a metà strada tra questi due estremi. 

Riconosce che molti nel settore dell'IA agiscono in buona fede, ma insiste sul fatto che le buone intenzioni non sono sufficienti.

“Ho visto uomini e donne - e non solo in Anthropic, ma anche in altre aziende di IA - con una genuina buona volontà che cercano di fare la cosa giusta”, ha detto. “Se non abbiamo queste buone intenzioni, non arriveremo da nessuna parte, quindi dobbiamo trovare le buone intenzioni e poi avviare un dialogo”.

L'opportunità è ora

L'opportunità di dare forma a questa tecnologia è ora aperta, ma, ha avvertito, potrebbe non rimanere aperta.

“Siamo in un momento in cui è ancora malleabile. È ancora in costante cambiamento. Possiamo cambiarlo. E se riusciamo a intervenire ora per apportare un cambiamento positivo, ne trarremo tutti beneficio, per il bene dell'intera umanità”, ha affermato. “Questo è il momento.

————–

- Courtney Mares è redattore per il Vaticano di OSV News. Seguitela su X @catholicourtney