Qui est Brendan McGuire, prêtre de paroisse californien et consultant en intelligence artificielle ?

– Courtney Mares, Cité du Vatican (OSV News)

Plus tôt cette année, l'Irlandais Brendan McGuire figurait parmi les chefs religieux invités par Anthropique, la société d'IA responsable du chatbot Claude, pour conseiller sur la création d'un cadre éthique qui réglemente la manière dont le système d'IA aborde les questions morales complexes. 

Un pont entre deux mondes

Le père McGuire, âgé de 60 ans, est ingénieur et titulaire d'un diplôme en informatique du Trinity College de Dublin. Il a également suivi le programme de formation des cadres de l'université de Stanford. Il a travaillé pendant des années dans la Silicon Valley comme cadre dans le secteur technologique avant de se consacrer à l'ordination sacerdotale dans le diocèse de San José il y a 26 ans. 

“ Je viens de ce monde ”, a déclaré le père McGuire à OSV News. “ Mon cœur n’en est jamais parti, mais il est désormais auprès du Seigneur. ” “ J’ai toujours senti que mon rôle était de faire le lien entre ces deux mondes ”, a-t-il ajouté.

Dans une interview accordée au Vatican après la promulgation, le 25 mai, de la encyclique du pape Léon XIV“Magnifique Humanité: Concernant la protection de la personne humaine à l’ère de l’intelligence artificielle », le père McGuire a souligné l’urgence du message du pape.

“ Ce qui m’inquiète le plus, c’est que, en tant qu’humanité, nous ne prenions pas ce moment au sérieux ”, a-t-il déclaré. “ Si nous restons silencieux et passifs, cela pourrait avoir des conséquences très négatives pour nous. ”.

Réflexions sur le démantèlement des algorithmes

Le prêtre de la Silicon Valley s'est dit particulièrement impressionné par l'appel du pape Léon XIII à un “ désarmement des algorithmes ”, un ralentissement délibéré de la course effrénée au développement de systèmes d'IA toujours plus puissants.

“ Une course aux algorithmes est en cours ”, a déclaré le père McGuire. “ Et pour la démanteler, nous devons… » Réfléchissez bien J'en parle. Cela peut être dangereux, tout comme la course aux armements nucléaires. Et je trouve cette idée très choquante.

En 2019, le père McGuire a cofondé l'Institut pour la technologie, l'éthique et la culture (ITEC), une collaboration officielle entre le Centre Markkula d'éthique appliquée de l'Université Sainte-Claire et le Dicastère pour la culture et l'éducation du Vatican, qui réunit des chefs d'entreprise, des universitaires et des responsables religieux pour aborder les défis moraux posés par l'intelligence artificielle.

“ Ce que l’encyclique du pape Léon XIV met en lumière aujourd’hui, c’est une réorientation de l’intelligence artificielle vers l’épanouissement humain ”, a-t-il déclaré.

La participation à l'IA est la responsabilité de tous

Le père McGuire a souligné que l'appel du pape ne vise pas uniquement les technologues. Il a affirmé que les gouvernements, les organismes de réglementation, les utilisateurs ordinaires et même ceux qui n'utilisent jamais de smartphone ont un intérêt dans l'évolution de cette technologie.

Il a ajouté que nous avons tous une responsabilité à assumer.

“ Il ne s’agit pas seulement des ingénieurs, des investisseurs ou des entrepreneurs de la Silicon Valley qui prennent des décisions. Nous devons tous jouer un rôle et participer à tous les niveaux ”, a-t-il déclaré. “ Même ceux qui n’utilisent pas ces technologies doivent s’exprimer. Pourquoi ? Parce que cela les concernera. ”.

Le père McGuire est très lucide quant aux forces économiques en jeu. Des milliers de milliards de dollars sont investis dans le développement de l'IA, et les investisseurs exigeront un retour sur investissement. C'est précisément pour cette raison, a-t-il affirmé, que l'éthique du développement de l'IA ne peut être laissée aux seules mains du marché.

“ Le capitalisme a besoin d’une direction humaine. Et c’est cette direction humaine que le Pape réclame ”, a-t-il déclaré à un groupe de journalistes après l’intervention de Chris Olah, cofondateur de Anthropique, Il prendra la parole lors de la conférence de presse au Vatican avec le pape Léon XIV pour présenter l'encyclique.

“ La transparence engendre la confiance et conduit à la responsabilisation. ”

Le prêtre se montre également sceptique quant à l'autorégulation du secteur. Il soutient que la transparence est la première étape indispensable vers la responsabilisation. 

“ La transparence engendre la responsabilisation, et la responsabilisation engendre la confiance. Et c’est grâce à la confiance que nous parviendrons à une IA responsable. Mais nous ne pouvons y parvenir sans transparence ”, a-t-il déclaré. “ Si nous ignorons comment ces technologies sont développées et à quoi elles servent, comment pouvons-nous les réglementer ? C’est impossible. ”.

Certains pensent que l'IA détruira l'humanité. D'autres pensent qu'elle la sauvera.

Cependant, le père McGuire résiste à la fois au ‘ techno-utopisme ’ et au ‘ techno-apocalyptisme ’.

“ Il y a ceux qui… pensent que cela détruira l’humanité. Et puis il y a ceux qui, à l’autre extrême, pensent que ce sera le grand sauveur de l’humanité ”, a-t-il déclaré.

Le père McGuire a déclaré qu'il se situait quelque part entre ces deux extrêmes. 

Il reconnaît que beaucoup, dans le secteur de l'IA, agissent de bonne foi, mais insiste sur le fait que les bonnes intentions ne suffisent pas.

“ J’ai rencontré des hommes et des femmes – non seulement chez Anthropic, mais aussi dans d’autres entreprises spécialisées en IA – animés de véritables bonnes intentions et soucieux de bien faire ”, a-t-il déclaré. “ Sans ces bonnes intentions, nous n’irons nulle part. Il nous faut donc les identifier et engager le dialogue. ”.

L'opportunité se présente maintenant.

L’opportunité de façonner cette technologie est aujourd’hui présente, mais, a-t-il averti, elle pourrait ne pas le rester.

“ Nous sommes à un stade où la situation est encore malléable. Elle évolue constamment. Nous pouvons la modifier. Et si nous parvenons à intervenir maintenant pour générer des changements positifs, nous en bénéficierons tous, pour le bien de toute l'humanité ”, a-t-il déclaré. “ C'est le moment. ”.

————–

Courtney Mares est rédactrice en chef du service Vatican pour OSV News. Suivez-la sur Twitter : @catholicourtney