Adem\u00e1s, son empresas de IA que est\u00e1n preparando su salida a los mercados, y de las que se filtran noticias que tienen relaci\u00f3n con la preparaci\u00f3n de su documentaci\u00f3n para una posible salida a Bolsa (OpenAI), y con valoraciones de la compa\u00f1\u00eda, en el caso de Anthropic.<\/p>\n\n\n\n
Dejamos aparte, de momento, a grandes compa\u00f1\u00edas cotizadas, m\u00e1s directamente beneficiadas por el auge de la IA, como Nvidia, Alphabet (Google), Microsoft y Broadcom.<\/p>\n\n\n\n
La tecnolog\u00eda no es neutral<\/strong><\/h2>\n\n\n\nSobre todas estas compa\u00f1\u00edas sobrevuela la enc\u00edclica<\/a> de Le\u00f3n XIV \u2018Magnifica humanitas<\/a>\u2019, que no es un tratado sobre la IA, como explica el mismo Pont\u00edfice (n. 97), pero que dedica un espacio notable a la IA, por ejemplo los nn. 97 a 111. <\/p>\n\n\n\nA ra\u00edz de su publicaci\u00f3n a finales de mayo, diversos autores han reflexionado sobre ideas<\/a> sugerentes del Papa. Seleccionamos tan solo dos anotaciones de Rafael Sanz Carrera:<\/p>\n\n\n\n\u201cEl an\u00e1lisis de la enc\u00edclica subraya un punto clave: la tecnolog\u00eda no es neutral en sus efectos culturales. La IA no puede entenderse \u00fanicamente como una herramienta eficiente, sino como un fen\u00f3meno que reconfigura la manera de trabajar, relacionarse y decidir\u201d<\/p>\n\n\n\n
\u201cEn este contexto, el texto magisterial insiste en un principio decisivo: la dignidad humana no se deduce del progreso tecnol\u00f3gico, sino que lo precede y lo juzga. Este criterio act\u00faa como eje de discernimiento \u00e9tico ante cualquier desarrollo digital\u201d.<\/p>\n\n\n\n![\"\"](\"https:\/\/www.omnesmag.com\/wp-content\/uploads\/2026\/08\/20260731T0915-ANTHROPIC-AI-ROGUE-HACK-1824238-1-1024x682.jpg\")
El Papa Le\u00f3n XIV conversa con Christopher Olah, cofundador de la empresa de inteligencia artificial Anthropic, al concluir una presentaci\u00f3n sobre su primera enc\u00edclica, \u2018Magnifica Humanitas\u2019, en el Vaticano el 25 de mayo de 2026. (Foto de CNS\/Lola Gomez).<\/figcaption><\/figure>\n\n\n\nAlgunas afirmaciones del Papa en \u2018Magnifica humanitas\u2019<\/strong><\/h2>\n\n\n\nAqu\u00ed tienen en s\u00edntesis algunas de las ideas de Le\u00f3n XIV sobre la IA, que ha reiterado tambi\u00e9n en algunas Audiencias:<\/p>\n\n\n\n
\u201c… hay que evitar el equ\u00edvoco de equiparar esta \u201cinteligencia\u201d a la humana\u201d (n. 99).<\/p>\n\n\n\n
\u201cEl uso de la IA nunca es un hecho puramente t\u00e9cnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputaci\u00f3n y libertad\u201d (n. 102).<\/p>\n\n\n\n
\u201cConfiar, en la pr\u00e1ctica, a un algoritmo el poder de seleccionar qui\u00e9n es digno y qui\u00e9n no, sin que nadie asuma el peso de la decisi\u00f3n, significa encomendarle la tarea de redefinir los l\u00edmites de las posibilidades humanas.\u201d (n. 103).<\/p>\n\n\n\n
\u201cNo podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto t\u00e9cnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelaci\u00f3n, no es un simple instrumento que \u201chay que usar correctamente\u201d; introduce ya un criterio que contradice la dignidad inalienable de la persona\u201d (n- 104).<\/p>\n\n\n\n
\u201cPor eso, el discernimiento \u00e9tico no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo\u201d (n. 104).<\/p>\n\n\n\n
\u201cPara que la IA respete la dignidad humana\u2026.\u201d<\/h2>\n\n\n\n
\u201cPara que la IA respete la dignidad humana y sirva realmente al bien com\u00fan, es esencial que las responsabilidades est\u00e9n claras en todas las etapas: desde quienes dise\u00f1an y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas\u201d. (n. 105).<\/p>\n\n\n\n
\u201cPedir prudencia, controles rigurosos y, en ocasiones, tambi\u00e9n una ralentizaci\u00f3n en la adopci\u00f3n de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana\u201d (n. 106).<\/p>\n\n\n\n
\u201cHago un vehemente llamamiento a quienes desarrollan sistemas de IA. La innovaci\u00f3n tecnol\u00f3gica puede ser, en cierto modo, una forma humana de participaci\u00f3n en el acto divino de la creaci\u00f3n. Los desarrolladores llevan, por tanto, un importante peso \u00e9tico y espiritual, ya que cada elecci\u00f3n de proyecto expresa una visi\u00f3n de la humanidad\u201d (n. 111).<\/p>\n\n\n\n![\"\"](\"https:\/\/www.omnesmag.com\/wp-content\/uploads\/2026\/08\/20260729T1830-CAMOSY-GRABOWSKI-QA-1824133-1024x683.jpg\")
Logotipo de OpenAI en esta ilustraci\u00f3n del 11 de junio de 2026. (Noticias OSV\/Dado Ruvic, Reuters).<\/figcaption><\/figure>\n\n\n\nLa jefa de \u00e9tica de Open AI deja la empresa<\/strong><\/h2>\n\n\n\nNo es dif\u00edcil imaginar las exigencias y complicaciones que puede llevar a estas empresas y a sus directivos el hecho de trabajar en criterios como los citados. Una de las consecuencias son las dimisiones.<\/p>\n\n\n\n
En pleno centro veraniego, el 14 de agosto, se recordaba la fuga de algunos cerebros en OpenAI. La Vanguardia<\/a> inform\u00f3 de la marcha de Chlo\u00e9 Bakalar, jefa de \u00e9tica, menos de un a\u00f1o despu\u00e9s de incorporarse, como desvel\u00f3 Financial Times.<\/p>\n\n\n\nBakalar se encargaba de los enfoques \u00e9ticos para el desarrollo de modelos de lenguaje y la interacci\u00f3n humana con la IA, explic\u00f3 una persona relacionada con su trabajo. Adem\u00e1s, era la \u00fanica experta en \u00e9tica de la compa\u00f1\u00eda.<\/p>\n\n\n\n
\u201cAgradecemos las aportaciones de Chlo\u00e9\u201d, declar\u00f3 un portavoz. \u201cLa \u00e9tica de la IA no recae en una sola persona o equipo dentro de OpenAI y las consideraciones \u00e9ticas est\u00e1n muy integradas en el proceso de creaci\u00f3n de modelos, impulsado por varios equipos de investigaci\u00f3n\u201d.<\/p>\n\n\n\n
\u201cLa \u00e9tica es, en realidad, responsabilidad de todos y lo digo como alguien cuyo trabajo consiste en liderar esta labor\u201d, explic\u00f3 por su parte Bakalar durante una conferencia sobre IA. (..). \u201cNunca deber\u00eda haber una sola persona que act\u00fae como centro moral de un desarrollador de IA\u201d.<\/p>\n\n\n\n
Amanda Askell (Anthropic): que Claude act\u00fae como un agente moral<\/strong><\/h2>\n\n\n\nAlan Rozenshtein, y Kevin Frazier, directivos de Lawfare, conversaron en el primer trimestre del a\u00f1o con Amanda Askell, jefa de \u201calineaci\u00f3n de personalidad\u201d en Anthropic, sobre la constituci\u00f3n de Claude<\/a>, el chatbot o programa inform\u00e1tico asistente capaz de mantener una conversaci\u00f3n:<\/p>\n\n\n\n\u201cQueremos que Claude act\u00fae como lo har\u00eda una persona verdaderamente \u00e9tica en la situaci\u00f3n de Claude\u201d. \u201cNuestra principal esperanza es que [\u2026] Claude [\u2026] [sea] un agente \u00e9tico, en general razonable y con habilidades pr\u00e1cticas\u2026\u201d, dijo Askell.<\/p>\n\n\n\n
A ra\u00edz de su publicaci\u00f3n a finales de mayo, diversos autores han reflexionado sobre ideas<\/a> sugerentes del Papa. Seleccionamos tan solo dos anotaciones de Rafael Sanz Carrera:<\/p>\n\n\n\n \u201cEl an\u00e1lisis de la enc\u00edclica subraya un punto clave: la tecnolog\u00eda no es neutral en sus efectos culturales. La IA no puede entenderse \u00fanicamente como una herramienta eficiente, sino como un fen\u00f3meno que reconfigura la manera de trabajar, relacionarse y decidir\u201d<\/p>\n\n\n\n \u201cEn este contexto, el texto magisterial insiste en un principio decisivo: la dignidad humana no se deduce del progreso tecnol\u00f3gico, sino que lo precede y lo juzga. Este criterio act\u00faa como eje de discernimiento \u00e9tico ante cualquier desarrollo digital\u201d.<\/p>\n\n\n\n Aqu\u00ed tienen en s\u00edntesis algunas de las ideas de Le\u00f3n XIV sobre la IA, que ha reiterado tambi\u00e9n en algunas Audiencias:<\/p>\n\n\n\n \u201c… hay que evitar el equ\u00edvoco de equiparar esta \u201cinteligencia\u201d a la humana\u201d (n. 99).<\/p>\n\n\n\n \u201cEl uso de la IA nunca es un hecho puramente t\u00e9cnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputaci\u00f3n y libertad\u201d (n. 102).<\/p>\n\n\n\n \u201cConfiar, en la pr\u00e1ctica, a un algoritmo el poder de seleccionar qui\u00e9n es digno y qui\u00e9n no, sin que nadie asuma el peso de la decisi\u00f3n, significa encomendarle la tarea de redefinir los l\u00edmites de las posibilidades humanas.\u201d (n. 103).<\/p>\n\n\n\n \u201cNo podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto t\u00e9cnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelaci\u00f3n, no es un simple instrumento que \u201chay que usar correctamente\u201d; introduce ya un criterio que contradice la dignidad inalienable de la persona\u201d (n- 104).<\/p>\n\n\n\n \u201cPor eso, el discernimiento \u00e9tico no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo\u201d (n. 104).<\/p>\n\n\n\n \u201cPara que la IA respete la dignidad humana y sirva realmente al bien com\u00fan, es esencial que las responsabilidades est\u00e9n claras en todas las etapas: desde quienes dise\u00f1an y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas\u201d. (n. 105).<\/p>\n\n\n\n \u201cPedir prudencia, controles rigurosos y, en ocasiones, tambi\u00e9n una ralentizaci\u00f3n en la adopci\u00f3n de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana\u201d (n. 106).<\/p>\n\n\n\n \u201cHago un vehemente llamamiento a quienes desarrollan sistemas de IA. La innovaci\u00f3n tecnol\u00f3gica puede ser, en cierto modo, una forma humana de participaci\u00f3n en el acto divino de la creaci\u00f3n. Los desarrolladores llevan, por tanto, un importante peso \u00e9tico y espiritual, ya que cada elecci\u00f3n de proyecto expresa una visi\u00f3n de la humanidad\u201d (n. 111).<\/p>\n\n\n\n No es dif\u00edcil imaginar las exigencias y complicaciones que puede llevar a estas empresas y a sus directivos el hecho de trabajar en criterios como los citados. Una de las consecuencias son las dimisiones.<\/p>\n\n\n\n En pleno centro veraniego, el 14 de agosto, se recordaba la fuga de algunos cerebros en OpenAI. La Vanguardia<\/a> inform\u00f3 de la marcha de Chlo\u00e9 Bakalar, jefa de \u00e9tica, menos de un a\u00f1o despu\u00e9s de incorporarse, como desvel\u00f3 Financial Times.<\/p>\n\n\n\n Bakalar se encargaba de los enfoques \u00e9ticos para el desarrollo de modelos de lenguaje y la interacci\u00f3n humana con la IA, explic\u00f3 una persona relacionada con su trabajo. Adem\u00e1s, era la \u00fanica experta en \u00e9tica de la compa\u00f1\u00eda.<\/p>\n\n\n\n \u201cAgradecemos las aportaciones de Chlo\u00e9\u201d, declar\u00f3 un portavoz. \u201cLa \u00e9tica de la IA no recae en una sola persona o equipo dentro de OpenAI y las consideraciones \u00e9ticas est\u00e1n muy integradas en el proceso de creaci\u00f3n de modelos, impulsado por varios equipos de investigaci\u00f3n\u201d.<\/p>\n\n\n\n \u201cLa \u00e9tica es, en realidad, responsabilidad de todos y lo digo como alguien cuyo trabajo consiste en liderar esta labor\u201d, explic\u00f3 por su parte Bakalar durante una conferencia sobre IA. (..). \u201cNunca deber\u00eda haber una sola persona que act\u00fae como centro moral de un desarrollador de IA\u201d.<\/p>\n\n\n\n Alan Rozenshtein, y Kevin Frazier, directivos de Lawfare, conversaron en el primer trimestre del a\u00f1o con Amanda Askell, jefa de \u201calineaci\u00f3n de personalidad\u201d en Anthropic, sobre la constituci\u00f3n de Claude<\/a>, el chatbot o programa inform\u00e1tico asistente capaz de mantener una conversaci\u00f3n:<\/p>\n\n\n\n \u201cQueremos que Claude act\u00fae como lo har\u00eda una persona verdaderamente \u00e9tica en la situaci\u00f3n de Claude\u201d. \u201cNuestra principal esperanza es que [\u2026] Claude [\u2026] [sea] un agente \u00e9tico, en general razonable y con habilidades pr\u00e1cticas\u2026\u201d, dijo Askell.<\/p>\n\n\n\nAlgunas afirmaciones del Papa en \u2018Magnifica humanitas\u2019<\/strong><\/h2>\n\n\n\n
\u201cPara que la IA respete la dignidad humana\u2026.\u201d<\/h2>\n\n\n\n
La jefa de \u00e9tica de Open AI deja la empresa<\/strong><\/h2>\n\n\n\n
Amanda Askell (Anthropic): que Claude act\u00fae como un agente moral<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/www.omnesmag.com\/wp-content\/uploads\/2026\/08\/AnthropicChistipheroOlah-917x1024.jpg\")