– Courtney Mares, Ciudad del Vaticano (OSV News)
A principios de este año, el irlandés Brendan McGuire fue uno de los líderes religiosos invitados por Anthropic, la empresa de IA responsable del chatbot Claude, para asesorar en la creación de un marco ético que regule la forma en que el sistema de IA aborda cuestiones morales complejas.
Un puente entre dos mundos
El padre McGuire, de 60 años, es ingeniero y licenciado en informática por el Trinity College de Dublín, y completó el programa ejecutivo de negocios de la Universidad de Stanford. Trabajó durante años en Silicon Valley como ejecutivo del sector tecnológico antes de dejarlo todo para ordenarse sacerdote de la diócesis de San José hace 26 años.
“Vengo de ese mundo”, declaró el padre McGuire a OSV News. “·Mi corazón nunca lo ha abandonado, pero en realidad está con el Señor”. “Siempre he sentido que mi papel era el de unir esos dos mundos”, dijo.
En una entrevista concedida en el Vaticano tras la promulgación, el 25 de mayo, de la encíclica del Papa León XIV “Magnifica Humanitas: Sobre la custodia de la persona humana en la era de la inteligencia artificial», el padre McGuire subrayó la urgencia del mensaje del Papa.
“Lo que más me preocupa es que, como humanidad, no nos tomemos este momento en serio”, dijo. “Si permanecemos en silencio y nos mostramos pasivos, esto podría tener consecuencias muy negativas para nosotros”.
Reflexión sobre el desarme de los algoritmos
El sacerdote de Silicon Valley dijo que le impresionó especialmente el llamamiento del Papa León a un “desarme de los algoritmos”, una ralentización deliberada de la carrera competitiva por desarrollar sistemas de IA cada vez más potentes.
“Hay una carrera algorítmica en marcha”, dijo el padre McGuire. “Y para desarmarla, debemos reflexionar detenidamente sobre ello. Puede ser peligroso, al igual que la carrera armamentística nuclear. Y me pareció una idea muy impactante”.
En 2019, el padre McGuire cofundó el Instituto de Tecnología, Ética y Cultura (ITEC, por sus siglas en inglés), una colaboración formal entre el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara y el Dicasterio para la Cultura y la Educación del Vaticano, que reúne a líderes empresariales, académicos y religiosos para abordar los desafíos morales que plantea la inteligencia artificial.
“Lo que la encíclica del Papa León XIV pone de relieve hoy es una reorientación de la inteligencia artificial hacia el florecimiento humano”, afirmó.
La participación en la IA, responsabilidad de todos
El padre McGuire recalcó que el desafío del Papa no va dirigido únicamente a los tecnólogos. Sostuvo que los gobiernos, los organismos reguladores, los usuarios comunes e incluso aquellos que nunca usan un teléfono inteligente tienen interés en cómo se desarrolla esta tecnología.
Y añadió que todos tenemos la responsabilidad de participar.
“Esto no se trata solo de que los técnicos de Silicon Valley, los inversores o los empresarios tomen decisiones. Todos debemos desempeñar un papel y participar a todos los niveles”, afirmó. “Incluso quienes no son usuarios deben alzar la voz. ¿Por qué? Porque esto les afectará”.
El padre McGuire es muy realista respecto a las fuerzas económicas en juego. Se están invirtiendo billones de dólares en el desarrollo de la IA, y los inversores exigirán rentabilidad. Esa realidad, afirmó, es precisamente la razón por la que la ética del desarrollo de la IA no puede dejarse únicamente en manos del mercado.
“El capitalismo necesita guía humana. Y ésta es la guia humana que pide el Papa”, dijo a un grupo de periodistas después de que Chris Olah, cofundador de Anthropic, hablara en la conferencia de prensa del Vaticano con el Papa León XIV para presentar la encíclica.
“La transparencia genera confianza y conduce a la rendición de cuentas”
El sacerdote también se muestra escéptico ante la autorregulación de la industria. Sostiene que la transparencia es el primer paso necesario hacia la rendición de cuentas.
“La transparencia genera responsabilidad, y la responsabilidad genera confianza. Y con confianza lograremos una IA responsable. Pero no podemos llegar a ese punto sin transparencia”, afirmó. “Si no sabemos cómo se desarrollan estas tecnologías ni qué hacen, ¿cómo podríamos regularlas? Es imposible”.
Unos piensan que la IA destruirá la humanidad. Otros, que la salvará
Sin embargo, el padre McGuire se resiste tanto al ‘tecnoutopismo’ como al ‘tecnoapocalipticismo’-
“Hay quienes… piensan que va a destruir a la humanidad. Y luego están quienes, en el otro extremo, piensan que va a ser la gran salvadora de la humanidad”, dijo.
El padre McGuire dijo que él se sitúa entre esos dos extremos.
Reconoce que muchos en la industria de la IA actúan de buena fe, aunque insiste en que las buenas intenciones no son suficientes.
“He visto a hombres y mujeres —y no solo en Anthropic, sino también en otras empresas de IA—, con una genuina buena voluntad que intentan hacer lo correcto”, dijo. “Si no tenemos esas buenas intenciones, no vamos a llegar a ninguna parte, así que necesitamos encontrar la buena intención y luego entablar un diálogo”.
La oportunidad es ahora
La oportunidad de dar forma a esta tecnología está abierta ahora, pero, advirtió, puede que no permanezca abierta.
“Estamos en un momento en el que aún es maleable. Aún está en constante cambio. Podemos modificarlo. Y si logramos intervenir ahora para generar cambios positivos, todos nos beneficiaremos, en beneficio de toda la humanidad”, afirmó. “Éste es el momento”.
————–
— Courtney Mares es editora del Vaticano para OSV News. Síguela en X @catholicourtney
Español 
English 
Italiano