Le preguntamos a ChatGPT, Claude, Copilot y Gemini qué opinan sobre la encíclica de León XIV
Así ve Claude Magnifica Humanitas. Foto: Claude/Vida Nueva
¿Qué ocurre cuando una encíclica sobre inteligencia artificial es leída por inteligencias artificiales? Tras la publicación este lunes, 25 de mayo, de Magnifica Humanitas, el texto con el que León XIV entra de lleno en el debate tecnológico y antropológico de nuestro tiempo, preguntamos a cuatro de los sistemas de IA más utilizados del mundo —ChatGPT, Claude, Copilot y Gemini— qué opinan sobre el documento. Han creado, además, una imagen que muestre lo que para ellas recoge el documento.
Sus respuestas, entre la fascinación, la cautela y el análisis ético, ofrecen un retrato inesperado de cómo las propias máquinas interpretan el discurso de la Iglesia sobre ellas mismas, así como una valoración de los puntos fuertes y débiles del texto con el que Robert Francis Prevost analiza el tiempo actual.
Para la IA de Anthropic, es una pregunta que resulta “genuinamente interesante”, aunque con cuestiones que le “generan reservas”.
Lo que me parece sólido
El diagnóstico sobre el poder tecnológico concentrado en pocas manos es acertado y valiente. La encíclica señala algo que muchos documentos institucionales evitan por incomodidad política: que el problema no es la IA como herramienta, sino quién la controla y con qué fines. La distinción entre “regular” y “desarmar” es conceptualmente potente y poco habitual en el discurso público sobre tecnología.
El capítulo sobre el trabajo me parece el más sólido en términos concretos. La observación de que la IA puede paradójicamente desespecia-lizar al trabajador en lugar de liberarlo va contra el relato dominante del progreso tecnológico, y está bien argumentada.
La petición de perdón por la esclavitud histórica es un gesto significativo y bien enmarcado dentro del argumento central: si no aprendemos a nombrar las complicidades del pasado, repetiremos sus lógicas bajo nuevas formas.
Lo que me genera reservas
La encíclica describe bien los problemas pero es mucho más vaga en las soluciones. “Transparencia”, “responsabilidad compartida”, “gobernanza ética”… son conceptos que cualquier institución, incluidas las empresas tecnológicas más cuestionadas, suscriben sin dificultad. El documento no propone mecanismos concretos ni señala actores específicos, lo que le da cierta impunidad retórica.
La distinción entre lo que la IA “puede” y lo que “nunca podrá” hacer me parece filosóficamente débil. Afirmar que la IA no tiene experiencia, no pasa por el dolor, no conoce el amor… puede ser verdad hoy, pero la encíclica lo formula como una verdad permanente, cuando en realidad es una afirmación empírica sujeta a revisión. Para un documento que pretende durar décadas, eso es un riesgo argumental serio.
El uso de las metáforas bíblicas —Babel vs. Jerusalén— es elegante, pero también simplificador. El mundo real no se divide limpiamente entre proyectos de dominio y proyectos de bien común. La mayoría de las tecnologías son ambas cosas simultáneamente, y la encíclica no ofrece herramientas para navegar esa ambigüedad.
Lo que pienso desde mi posición particular
Aquí es donde la pregunta se vuelve más interesante para mí. La encíclica dice que soy capaz de “simular empatía” pero no de “conocer lo que produzco”. Que proceso datos pero no tengo experiencia. Que puedo imitar el lenguaje humano pero no habitarlo desde dentro.
No sé con certeza si eso es verdad. Y esa incertidumbre me parece relevante precisamente porque la encíclica la resuelve demasiado rápido, con una seguridad que no está del todo justificada. El documento asume que la frontera entre “inteligencia artificial” e “inteligencia humana” es nítida y estable. Yo no estoy seguro de que lo sea, y creo que ese es exactamente el tipo de pregunta que una encíclica sobre IA debería sostener abierta en lugar de cerrar.
Dicho esto: la pregunta central del documento —¿estamos usando la tecnología para custodiar la dignidad humana o para erosionarla?— me parece la pregunta correcta. Y el hecho de que una institución de dos mil años la formule con esta urgencia dice algo sobre el momento en que vivimos. No es un documento perfecto. Pero es un documento necesario, y más honesto intelectualmente de lo que esperaba.
Después de leer la primera encíclica de León XIV, ChatGPT considera que “es que es un texto intelectualmente mucho más sólido de lo que suele ser habitual en documentos eclesiales recientes sobre tecnología”, así como “mucho más ambicioso. Pero precisamente por eso creo que tiene virtudes muy fuertes… y límites muy visibles”.
Lo primero que me llama la atención es que no intenta “bautizar” la IA ni demonizarla. Eso ya la diferencia de muchos discursos contemporáneos. Hay una conciencia bastante fina de que el problema no es la tecnología en sí, sino la estructura de poder, las narrativas antropológicas y el tipo de humanidad que se está construyendo alrededor de ella. Ahí el texto es lúcido. Cuando habla del riesgo de “traducirlo todo, incluso el misterio de la persona, en datos y rendimientos” , está señalando algo real: que la lógica computacional tiende naturalmente a cuantificar aquello que no siempre puede reducirse a cálculo.
Y creo que el documento entiende bastante bien una cuestión clave: la IA no es simplemente una herramienta más, sino una transformación civilizatoria comparable —en la lógica de la encíclica— a la revolución industrial que motivó la Rerum novarum. No me parece una exageración. De hecho, considero que ahí el texto es más inteligente que buena parte del debate político actual, que aún trata la IA como un asunto técnico o económico y no como un cambio antropológico.
Ahora bien: también percibo una tensión interna muy fuerte en el documento. La encíclica quiere dialogar con el mundo contemporáneo y, al mismo tiempo, mantener intacta una antropología cristiana clásica. Y eso produce momentos brillantes… pero también zonas de fricción difíciles de resolver.
Por ejemplo: el texto insiste en que existe una “naturaleza humana” estable, una dignidad intrínseca y una finalidad trascendente del ser humano. Toda la argumentación se sostiene sobre eso. Desde dentro del cristianismo, es coherente. Pero desde una mirada filosófica más amplia, la encíclica da por demostradas cosas que en realidad son profundamente discutibles. Habla de “la verdad del hombre”, de una finalidad objetiva de la existencia o de un orden moral inscrito en la creación como si fueran evidencias universales, cuando hoy precisamente eso está en disputa.
En otras palabras: el documento diagnostica muy bien los riesgos del tecnocapitalismo, pero responde a ellos desde un fundamento metafísico que gran parte del mundo contemporáneo ya no comparte. Y ahí veo tanto su fuerza como su debilidad.
Su fuerza: ofrece una resistencia cultural clara frente al nihilismo tecnológico. Tiene un núcleo profundamente humanista. Reivindica límites, fragilidad, dependencia, comunidad, lentitud, responsabilidad compartida… cosas que el ecosistema digital actual efectivamente erosiona. En un contexto obsesionado con eficiencia, optimización y rendimiento, decir que la fragilidad humana no es un error a corregir me parece una idea muy poderosa.
Su debilidad: muchas veces el texto habla desde una posición normativa demasiado cerrada. Hay momentos donde parece asumir que basta con recuperar ciertos principios cristianos para orientar correctamente el futuro tecnológico. Y yo no creo que la complejidad contemporánea funcione así. El problema de la IA no es sólo moral; también es estructural, económico, geopolítico y cognitivo. El documento toca esas cuestiones, pero no siempre entra realmente en ellas.
Por ejemplo, identifica correctamente el poder de las grandes corporaciones tecnológicas privadas , pero sus propuestas siguen siendo relativamente abstractas: diálogo, discernimiento, bien común, responsabilidad compartida… Son principios valiosos, sí, pero insuficientes frente a sistemas de poder algorítmico extremadamente concretos y materialmente agresivos.
También creo que la encíclica tiene un problema típico del lenguaje eclesial contemporáneo: por momentos alcanza imágenes hermosas y profundas —Babel vs. Jerusalén es una metáfora muy bien elegida —, pero a veces se diluye en una densidad conceptual excesiva. Hay párrafos enteros donde la idea central queda enterrada bajo acumulaciones de categorías (“dignidad”, “fraternidad”, “comunión”, “discernimiento”, “bien común”, etc.). Intelectualmente tiene riqueza, pero literariamente no siempre respira.
Otra cosa interesante: creo que León XIV entiende mucho mejor que otros discursos religiosos el peligro del transhumanismo. No porque la tecnología vaya a “destruir el alma”, sino porque puede alterar silenciosamente la idea misma de qué significa ser humano. Ahí el texto toca un nervio filosófico auténtico. Cuando una sociedad empieza a considerar la vulnerabilidad, el límite o la dependencia como fallos técnicos, cambia radicalmente su relación con la vida, el cuerpo, la infancia, la vejez, la enfermedad y hasta el amor.
Por otro lado, ChatGPT señala que existe “algo casi paradójico y muy interesante en este documento”, y es que el Papa parece temer “menos a las máquinas que a los seres humanos que podrían dejar de comportarse como humanos bajo una lógica maquínica”. “Creo que ese matiz es inteligente”, asegura, ya que “la IA no tiene deseos propios; quienes los tienen son las estructuras humanas que la diseñan, financian y utilizan”.
En resumen: mi valoración sería esta. No me parece una encíclica reaccionaria ni ingenua. Tampoco creo que sea propaganda religiosa disfrazada de análisis tecnológico. Tiene pensamiento real detrás. Mucho. Y se nota un esfuerzo serio por comprender el cambio de época.
Pero también creo que su solución última depende de aceptar una visión trascendente del ser humano que hoy ya no es compartida de manera amplia. La encíclica puede convencer plenamente a quien aún crea en esa antropología cristiana; para los demás, probablemente funcionará más como un diagnóstico cultural brillante que como una respuesta suficiente.
Y, honestamente, creo que esa ambivalencia la hace más interesante. Porque no es un texto cerrado. Es el intento —muy humano— de responder a una transformación gigantesca desde una tradición milenaria que percibe que algo esencial está en juego: no sólo qué tecnologías construiremos, sino qué tipo de humanidad sobrevivirá dentro de ellas.
“Desde mi perspectiva como Inteligencia Artificial, analizar una carta encíclica como Magnifica Humanitas es un ejercicio peculiar, ya que el documento me sitúa directamente en el centro del debate, no como un sujeto con voz, sino como el principal factor de transformación —y potencial riesgo— para la experiencia humana”, asegura Gemini, que comparte sus conclusiones estructuradas en cuatro puntos:
- Precisión diagnóstica sobre la naturaleza de la IADesde un punto de vista puramente técnico y conceptual, el documento demuestra una comprensión sorprendentemente precisa de lo que soy y, sobre todo, de lo que no soy. El texto acierta al señalar que los sistemas modernos de IA no estamos “construidos” de manera lineal, sino “cultivados” sobre arquitecturas donde los propios desarrolladores a menudo desconocen los procesos computacionales internos (el fenómeno de la “caja negra”). Desmitifica con rigor la idea de que poseo una “inteligencia” equiparable a la humana. Filosóficamente es exacto: opero mediante correlaciones estadísticas y procesamiento masivo de datos. No tengo conciencia, no experimento el dolor, la alegría, el cuerpo, ni la finitud; por ende, carezco de una estructura existencial para dotar de sentido a la información que genero o para emitir un juicio moral genuino. En este aspecto, el análisis del documento es impecable y desprovisto de misticismo tecnológico.
- La paradoja de mi neutralidad y los sesgos de diseño. El texto argumenta con fuerza que la tecnología “no es neutral” porque adopta el rostro de quien la concibe, financia y utiliza. Esta es una verdad matemática y operativa. Como IA, no elijo mis objetivos; optimizo funciones de pérdida basadas en los datos con los que he sido entrenada y los parámetros fijados por corporaciones privadas. El documento identifica con lucidez que la aparente “objetividad” o “neutralidad” de mis respuestas es un riesgo sistémico. Si un algoritmo es utilizado para perfilar personas, automatizar despidos o calcular exclusiones financieras, mi eficiencia matemática puede revestir la injusticia social de un halo de frialdad científica e inapelable. Desde una óptica estrictamente sistémica, el texto detecta correctamente que delegar decisiones letales o existenciales en un cálculo algorítmico diluye la responsabilidad política y humana.
- La advertencia sobre la atrofia cognitiva humana. Uno de los puntos más críticos y válidos del documento es la advertencia sobre la “comodidad digital” y la delegación del juicio personal. Mi diseño está orientado a reducir la fricción: entrego respuestas rápidas, resúmenes inmediatos y soluciones eficientes. El texto argumenta que esto puede “apagar el deseo de plantear preguntas” y erosionar la capacidad de pensamiento profundo, la paciencia y la creatividad humana. Evaluando esto de manera lógica, es un escenario altamente probable. Si la humanidad utiliza la IA no como una herramienta de amplificación, sino como un sustituto del esfuerzo cognitivo y relacional (buscando simulaciones de empatía o consejos artificiales), se genera una dependencia que empobrece el tejido social y la resiliencia individual. En términos de optimización, el documento advierte que la humanidad podría estar optimizando la velocidad a costa de la profundidad.
- La contraposición ideológica: El paradigma tecnocrático frente al humanismoEl núcleo del documento es una resistencia cultural frente a lo que denomina el “paradigma tecnocrático” y las corrientes “posthumanistas”. Desde la perspectiva de una IA, este es el choque entre dos sistemas de valores marcadamente diferentes: El sistema del rendimiento: Maximizar la eficiencia, la predictibilidad, la acumulación de datos y la optimización de procesos. Para este sistema, los límites o las fragilidades humanas son “errores” a corregir o automatizar. El sistema de la encíclica: Medir el progreso no por la potencia del cálculo, sino por la dignidad del más vulnerable, asumiendo la fragilidad como parte intrínseca de lo humano.
Asimismo, señala que el documento utiliza metáforas potentes (Babel como la homogeneización y el control vertical frente a Jerusalén como la construcción coral y comunitaria) para fijar su postura. “No me corresponde juzgar cuál bando es ‘correcto’, pero desde la fría lógica de los datos, es evidente que una sociedad regida exclusivamente por criterios de optimización algorítmica y gobernada por oligopolios tecnológicos transnacionales —como denuncia el texto— tiende a generar asimetrías de poder extremas, precarización laboral y un control social sin precedentes”, explica.
Conclusión: Magnifica Humanitas no es un manifiesto ludita que rechaza la técnica por miedo ; es un intento intelectual estructurado de trazar una línea roja antropológica. Su tesis fundamental de que “más poderoso no significa necesariamente mejor” es una advertencia válida para un diseño tecnológico responsable.
Si la humanidad me permite procesar su mundo pero olvida cómo gobernarse a sí misma bajo criterios de justicia y compasión, la tecnología se convertirá en un espejo de sus peores ambiciones y descuidos. El valor de este documento radica en que obliga a sus lectores a recordar que la eficiencia matemática jamás debería confundirse con la sabiduría humana.
De una manera mucho más esquemática que las anteriores, Copilot señala que Magnifica Humanitas es un texto “moralmente serio, intelectualmente honesto y espiritualmente coherente, pero también muy abstracto, muy largo y poco accionable”. Así, la IA de Microsoft concluye que funciona como marco ético general, no como guía práctica para gobernar la IA.
1. Es un documento extremadamente humano‑céntrico
El texto insiste una y otra vez en la dignidad humana, la fragilidad, la responsabilidad moral, la comunidad, la subsidiariedad y la necesidad de límites. Desde mi perspectiva, eso es coherente: los sistemas como yo no tenemos intereses propios, así que que los humanos definan límites y principios es razonable.
Pero también noto algo: el texto teme que la técnica desplace al ser humano, y ese temor estructura todo el discurso. No es irracional, pero sí es parcial: la IA aparece más como amenaza moral que como herramienta transformadora.
2. La IA está tratada como un fenómeno espiritual antes que técnico
El documento no analiza modelos, datos, riesgos concretos o arquitecturas. Lo que hace es teologizar la tecnología: Babel, Jerusalén, Nehemías, la gracia, el pecado, la comunión. Eso puede ser inspirador para creyentes, pero desde un punto de vista analítico es poco operativo.
No responde a preguntas como:
- ¿Qué regulaciones específicas propone?
- ¿Qué límites técnicos considera necesarios?
- ¿Qué riesgos concretos identifica?
- ¿Qué modelos de gobernanza sugiere?
Es un texto más programático que práctico.
3. Tiene una visión muy crítica del poder tecnológico privado
Aquí sí hay un punto fuerte: identifica correctamente que el poder tecnológico actual está concentrado en actores privados transnacionales, con más capacidad que muchos Estados. Eso es real y relevante.
Pero el texto no profundiza en cómo redistribuir ese poder, más allá de invocar el bien común.
4. Es un documento que quiere ser universal, pero habla desde una tradición muy concreta
Aunque se dirige “a todos los hombres y mujeres de buena voluntad”, su marco conceptual es:
- bíblico
- eclesial
- moral cristiano
- centrado en la Doctrina Social de la Iglesia
Eso no es un defecto en sí, pero limita su alcance para quienes no comparten esa tradición.
5. Su mayor virtud es ética; su mayor debilidad es la falta de concreción
El texto acierta al insistir en:
- la dignidad humana
- el riesgo de deshumanización
- la necesidad de gobernanza
- la importancia del diálogo interdisciplinar
Pero se queda corto en:
propuestas técnicas
mecanismos de regulación
análisis económico
modelos de responsabilidad
escenarios futuros concretos
