León XIV ha pedido a los Estados avanzar hacia la prohibición de las armas autónomas letales y ha reclamado instituciones internacionales capaces de controlar de forma efectiva el desarrollo de la inteligencia artificial. Y es que, para el Papa, las decisiones que afectan a la vida humana, la libertad o el uso de la fuerza no pueden quedar en manos de una máquina.
- Síguenos en Google y añádenos como fuente preferida
- Regístrate en el boletín gratuito y recibe un avance de los contenidos
La petición ha llegado este viernes durante el encuentro ‘El futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los desarrollos y aplicaciones de las tecnologías inteligentes’, organizado por la Pontificia Academia para la Vida y el Future of Life Institute.
Para León XIV, hay una línea que el desarrollo tecnológico no debe cruzar: las decisiones que afectan a la vida humana, la libertad o el uso de la fuerza no pueden quedar en manos de una máquina. “Hay decisiones que nunca deben delegarse”, ha advertido.
“Hay decisiones que nunca deben delegarse”
El Pontífice ha puesto dos ejemplos especialmente sensibles: que una persona sea incluida en una lista de objetivos militares o que entre en una base de datos de control fronterizo. En ambos casos existe, a su juicio, el riesgo de que el ser humano quede reducido a “un simple dato”. Por ello, ha defendido que las decisiones que afectan a “la vida humana, la libertad y el uso de la fuerza” permanezcan siempre sometidas a una supervisión humana “efectiva, informada y responsable”.
Es desde esa premisa desde la que León XIV ha reclamado una inteligencia artificial “desarmada” y ha dirigido su petición a los Estados que se reunirán próximamente en Ginebra. “Dar pasos concretos hacia la prohibición de las armas autónomas letales”, ha pedido.
“Las máquinas son herramientas, no personas”
“Las máquinas son herramientas, no personas”, ha recordado León XIV. Así, el Pontífice ha subrayado que las llamadas inteligencias artificiales “no viven experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad”.
Por eso, ha advertido frente a las propuestas que plantean conceder derechos o incluso personalidad jurídica a estos sistemas. A su juicio, hacerlo podría diluir la responsabilidad humana y dejar a quienes sufran daños frente a una entidad sin rostro en lugar de ante personas e instituciones capaces de responder por las consecuencias.
La pregunta no es qué puede hacer la IA
“La cuestión decisiva, por tanto, no es simplemente ‘¿qué puede hacer la IA?’, sino más bien ‘¿a qué propósito debería servir?'”, ha afirmado. Para el Papa, esto implica asumir la responsabilidad de orientar, modificar e incluso rechazar determinadas aplicaciones cuando sea necesario.
También ha advertido contra una carrera tecnológica en la que el único criterio sea desarrollar sistemas cada vez más potentes. “Un sistema fiable que sirva a la persona humana tiene más valor que uno excepcionalmente potente cuyas consecuencias no puedan preverse o controlarse adecuadamente”, ha señalado.
Que la innovación no beneficie solo a unos pocos
Por otro lado, León XIV ha reclamado que la innovación tecnológica esté orientada al bien común y no termine ampliando las desigualdades existentes. “La justicia exige el acceso a los beneficios de la innovación, incluidos los cuidados, el conocimiento, las herramientas y las oportunidades”, ha afirmado.
Según el Pontífice, las nuevas tecnologías no pueden convertirse en un fin en sí mismas ni estar al servicio únicamente de “unos pocos privilegiados”, sino que su desarrollo debería favorecer la solidaridad y garantizar que los beneficios del progreso lleguen también a quienes más los necesitan.
LEón en su audiencia con la Pontificia academia vida. Foto: Vatican Media
Instituciones internacionales para controlar la IA
Para el Papa, el principal desafío ya no consiste en seguir elaborando principios éticos sobre la inteligencia artificial, puesto que buena parte de ellos son conocidos. “Lo que necesitamos actualmente son instituciones capaces de poner estos principios en práctica, en particular instituciones internacionales eficaces que puedan salvaguardar el bien común global”, ha reclamado.
“Reconocemos la dirección que deberíamos tomar, pero no se está haciendo lo suficiente para avanzar”, ha advertido. El Papa ha recuperado además las palabras de Francisco ante el G7 en 2024, cuando calificó la inteligencia artificial como una herramienta “al mismo tiempo fascinante y temible” y defendió que nunca debería confiarse a una máquina la decisión de quitar una vida humana.
