El Papa remasteriza la Doctrina Socia desde la revolución digital para evitar nuevas esclavitudes laborales, frenar una guerra global y generar una alianza educativa
El papa León XIV en la Pontificia Academia Eclesiástica. Foto: Vatican Media.
León XIV quiere “desarmar” la Inteligencia Artificial para “hacerla acogedora”. Así lo pone de manifiesto en ‘Magnifica humanitas’ (Magnífica humanidad), la primera encíclica de su pontificado, que remasteriza la Doctrina Social de la Iglesia, a modo de puesta a punto ante los desafíos que está generando la Inteligencia Artificial (IA). El Papa agustino cumple así con el compromiso adquirido el 8 de mayo cuando se presentó al mundo por primera vez tomando el nombre y, por tanto el testigo, de León XIII, impulsor del magisterio social del orbe católico.
De hecho, aunque el documento se ha hecho público hoy, se firmó el pasado 15 de mayo, cuando se cumplían 135 años de ‘Rerum novarum’, la encíclica de Gioacchino Vincenzo Raffaele Luigi Pecci que defendía “la búsqueda de un orden social más justo” y la primacía del trabajo humano frente a cualquier lógica productiva de explotación.
“La magnífica humanidad creada por Dios se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habitan juntos”. Con estas palabras arranca un extenso documento distribuido en cinco capítulos con la que busca “desarmar la IA”, en el sentido de “sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva”.
“Si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía; si, por el contrario, la técnica se inscribe en un horizonte de sabiduría, puede convertirse en una oportunidad de crecimiento, justicia y fraternidad”, expone el Papa. Para León XIV, “ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega, ni una conciencia capaz de discernir el bien”.
La encíclica no respira ni un aire apocalíptico sobre el mundo ni negacionista sobre la que presenta como “cuarta revolución digital”. Tampoco busca ser un texto cargado de moralina doctrinal, sino una advertencia de cómo “la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización”. Él mismo aclara, de la misma manera, que “no es mi intención ofrecer aquí un tratado sobre la inteligencia artificial”.
“Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana”, detalla. Para ello, el Papa cree que “no basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”.
“Las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”, expone como una reflexión transversal a todo el documento.
Consciente de que “pueden actuar como un acelerador del paradigma tecnocrático”, aprecia que “necesitan un nuevo marco espiritual, ético y político”. “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”, llega a asegurar sobre los magnates que están detrás de la gestión de la IA, con un poder mayor que cualquier Estado. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”, remarca el Papa.
“No podemos considerar a la IA como moralmente neutra”, presenta como premisa en la encíclica. Él mismo expone que el uso de la IA “nunca es un hecho puramente técnico” ni tampoco “neutral”, sino que refleja y refuerza “estereotipos o posiciones ideológicas de quienes los han diseñado y programado”. “Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas”, advierte.
Si a lo largo de este año, León XIV se erigido como la autoridad global más firme en defensa de la paz, su primera encíclica reivindica sin fisuras la apuesta por la “civilización del amor” que planteó Pablo VI: “No es una utopía ingenua, sino un proyecto exigente”.
El Papa reivindica el multilateralismo en tiempo de un “multipolarismo desordenado y conflictivo”. Sabedor de la “actual debilidad” de la ONU, plantea que el “sistema político internacional revela la necesidad de reformas profundas”.
“No se trata sólo de ajustes técnicos, porque la crisis de convicciones y de valores afecta también a los fundamentos éticos de la vida de las naciones y dificulta orientar el multilateralismo hacia el verdadero bien común”, escribe León XIV. “Cualquier intento o proyecto de eliminar o someter una nación es gravemente inmoral y, por lo tanto, inaceptable”, subraya.
Es en este punto donde pareciera que de alguna manera lanza un dardo implícito al presidente norteamericano Donald Trump: “La simplificación en esquemas –‘yo primero’, ‘amigo-enemigo’, ‘nosotros-ustedes’- facilita decisiones, a menudo irresponsables, que minan la confianza recíproca entre las naciones”.
“No existe algoritmo que pueda hacer moralmente aceptable la guerra”, determina León XIV. “La revolución digital está modificando la gramática de los conflictos”, escribe, refiriéndose lo mismo a los ataques cibernéticos que a la desinformación. Y lo hace consciente de que la tecnología puede hacer “más rápido e impersonal” cualquier enfrentamiento, “transformando la defensa en previsión operativa, con las víctimas reducidas a datos”. “El desarrollo y el uso de la IA en el ámbito bélico deben estar sujetos a las restricciones éticas más rigurosas”, detalla.
Además, el Pontífice expone abiertamente que “hoy más que nunca es importante reiterar la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto”.
En paralelo, recuerda que “el panorama se vuelve aún más inestable por la presencia de nuevos actores armados —grupos yihadistas, milicias privadas, redes criminales— que marcan el fin del monopolio estatal de la fuerza”.
De la misma manera, expone la naturaleza “híbrida” de unas guerras, que no se juegan solo en el campo de batalla físico, sino que se dan en otros frentes como el financiero, el informático y el comunicativo, con una preocupación especial por el negocio armamentístico. También advierte de “alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un ‘daño colateral’”.
En todo este campo, considera que el papel de las religiones es fundamental: “Quien utiliza el nombre de Dios para legitimar el terrorismo, la violencia o la guerra traiciona su rostro: combatir en nombre de la religión significa, en realidad, golpear a la propia religión”, asevera el Papa.
A la par, comenta que “los extremismos religiosos y los fanatismos identitarios se alían con un economicismo irracional, mientras que la política recurre con facilidad a la desinformación, a la ridiculización del adversario y a la construcción sistemática de miedos y resentimientos”.
Con referencias constantes a Francisco y a su legado en esta materia, Prevost llega a asegurar que nos enfrentamos a un nuevo colonialismo, en tanto que la revolución digital está generando ya “relaciones de subordinación cercanas a la esclavitud”. Por un lado, denuncia los “cuerpos marcados, mutilados, consumidos” y la trata de personas en determinadas latitudes del planeta para extraer las tierras raras necesarias para los productos tecnológicos, pero también la explotación en el etiquetado de datos. También reflexiona sobre cómo la compraventa de datos personales sanitarios genera “nuevas tierras raras de poder” y un nuevo colonialismo por parte de quien los maneja únicamente con fines económicos en un “espacio de degradación”. Para el Pontífice, estas nuevas esclavitudes constituyen un “bando de prueba decisivo para el discernimiento ético”.
A la luz de los principios de la Doctrina social de la Iglesia, el Papa comenta que “la transformación digital nos pide redescubrir la verdad como bien común, proteger la dignidad del trabajo y salvaguardar la libertad frente a toda dependencia y mercantilización”.
“Las nuevas formas de trabajar no son necesariamente mejores”, deja caer, haciendo un llamamiento a empresarios, sindicatos y políticos para defender a los trabajadores de que nuevas formas de desigualdad y pobreza “con una multitud de excluidos rodeados de máquinas y sistemas automatizados que han ocupado su lugar”.
Para el Papa, “toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores, para que la tecnología se oriente a liberar tiempo y capacidades humanas, no a generar exclusión”.
En este ámbito, resulta significativo que el Papa llame a superar el PIB como parámetro de desarrollo de los países, para que el criterio sea la dignidad del trabajo, la prosperidad compartida y el cuidado del medio ambiente.
En el campo financiero, ‘Magnifica humanitas’ aterriza en lo concreto de tal manera que apunta que “cuando los datos y los algoritmos influyen en la concesión de créditos, la selección de personal o el acceso a servicios u oportunidades, es necesario que las decisiones sean comprensibles, cuestionables y sometidas a control, para que la persona no quede reducida a un perfil”.
En este contexto, el Papa llama a crear una “ecología de la comunicación” que custodie la verdad, la libertad y el pensamiento crítico en medio de todas estas innovaciones tecnológicas para velar por la democracia frente a los riesgos de “homologación y dominio”. En esta línea, al Papa también le preocupan tanto las “narrativas mediáticas polarizadas” amplificadas por los algoritmos como la “preocupante pérdida de la memoria histórica”.
“Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos”, recoge el Papa.
“Educar en el uso de la IA implica educar para decidir cuándo y para qué no utilizarla”, recomienda el Papa, convencido de que “debemos aprender a prescindir de la IA y proteger a nuestros jóvenes de la promesa de la máquina perfecta”. León XIV no pasa por alto el acceso de los jóvenes a los contenidos violentos y pornográficos de las redes, así como a los “fenómenos de captación, chantaje y explotación sexual de menores”. “La Doctrina social de la Iglesia invita a las familias, las escuelas, las comunidades cristianas y las instituciones públicas a una alianza educativa renovada”, reivindica.
En esta misma línea, León XVI aprecia que “educar a las nuevas generaciones para que logren creer que la evolución de las tecnologías no sigue un camino inevitable, sino que puede estar orientada por la responsabilidad personal y colectiva, constituye uno de los servicios más valiosos al bien común”.
Sin condenar de forma explícita el transhumanismo y el posthumanismo, sí critica su deriva hacia “la centralidad de la técnica y el sueño de superar los límites de la condición humana”. “En las promesas del transhumanismo y de algunas corrientes posthumanistas, que persiguen una humanidad potenciada y casi desencarnada, reconocemos un deseo que nos interpela: la necesidad de una vida más plena, menos expuesta a la fragilidad y al sufrimiento”, se puede leer en la encíclica.
Más allá de la IA, León XIV repasa en ‘Magnifica humanistas’ el pensamiento de sus predecesores en lo que viene a ser un compendio de la Doctrina Social, visibilizando y justificando que “no es un manual de principios y normas que hay que aplicar, sino un camino de discernimiento comunitario”. “La Doctrina social se convierte en una teología de la comunión en la historia”, remarca.
El Papa recuerda que la Iglesia “no pretende asumir las funciones que competen al Estado”, pero sí se sabe con la obligación de “no permanecer distante de los sufrimientos concretos de los hombres y mujeres de nuestro tiempo”. “Cuando interviene, lo hace imitando al buen samaritano, con discreción y cercanía, consciente de que lo que surge de una necesidad inmediata no puede convertirse en norma, ni sustituir las responsabilidades institucionales propias de la comunidad civil”, detalla sobre esta presencia en medio del mundo.
Así, la Doctrina social “no pretende sustituir las responsabilidades de la política y de las instituciones, sino que se ofrece como apoyo al discernimiento común”. Para León XIV, el catolicismo no busca “ocupar puestos de poder o controlar bastiones culturales, sino iniciar procesos de bien y dejar que maduren”. “La verdad del Evangelio no se impone desde lo alto, sino que crece con el tiempo, en el entretejido concreto de las vidas, las comunidades y las culturas”, detalla.
Con estas coordenadas, el Papa se adentra en el concepto de dignidad humana para recordar que “no se adquiere ni se merece ni necesita ser demostrada”. “Los derechos humanos son inviolables”, destaca. En este punto, recuerda que el primero de estos derechos es la vida “desde la concepción hasta su conclusión natural”. A la par, define el aborto y la eutanasia como “decisiones gravemente ilícitas”. En su análisis de los derechos humanos, también destaca la importancia de defender la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad, la justicia social, la protección de las minorías o la promoción de la mujer.
De la misma manera, subraya que en este mundo global se presenta como un “bando de prueba decisivo” en materia de dignidad humana la manera en la que se afronta la realidad de los migrantes.
El Papa remata la encíclica destacando que “en Cristo comprendemos que el hombre está llamado a ser colaborador en la obra de la creación, y no espectador resignado ante los procesos tecnológicos que limitan su libertad y su responsabilidad”.
