Pecado digital

“No se dan cuenta de que es mejor que muera un solo hombre por el pueblo y no que perezca toda la nación” (Jn 11,50). Esta sentencia bíblica encierra una lógica perversa que resuena con fuerza en el relato clásico de ficción ‘Quienes se marchan de Omelas’ (Le Guin, 1973/2022). Omelas es una ciudad resplandeciente. Sus habitantes viven en armonía, disfrutan de una felicidad continua en la que además la tecnología les brinda cualquier placer imaginable. Todo brilla en la superficie. Pero Omelas esconde un secreto cruel.

En un sótano diminuto vive un niño malnutrido que, sumido en el miedo, subsiste en condiciones de miseria inenarrable. La ironía de la historia es que todos los habitantes de la ciudad saben que está ahí y cómo vive. Pero en tienden que su felicidad, la belleza de su arquitectura y la abundancia de sus cosechas dependen, misteriosa y terriblemente, del sufrimiento de ese único niño.

Si lo liberan, la prosperidad de Omelas se derrumbaría. Por ello, la mayoría decide tolerarlo. Aunque algunos sienten indignación momentánea, prefieren no mirar. Sin embargo, unos pocos, incapaces de soportar ese bienestar con dolor ajeno, toman la decisión radical de abandonar la ciudad. Se marchan de Omelas.

“Omelas algorítmica”

No parece una historia puramente distópica. Con el ascenso veloz de la revolución digital y de la inteligencia artificial (en adelante, IA), también nosotros corremos el riesgo de despertar viviendo en Omelas. Se nos ofrece una ciudad global de bienestar, hiperconexión y eficiencia; una sociedad adaptativa, de realidades sintéticas y placeres a la carta; una suerte de “Omelas algorítmica” donde todo parece posible.

Pero no todos disfrutan de sus beneficios por igual. Como ocurrió con el optimismo de la ‘Belle Époque’, posteriormente ensombrecido por la Gran Guerra, también hoy existe el riesgo de creer ingenuamente que el desarrollo tecnológico conduce por sí mismo a la paz, al bienestar y a la humanización de la sociedad (Benanti, 2013; Harari, 2014, 2017).

Ambivalencia

Si rascamos la superficie reluciente de la IA, encontramos nuestros propios sótanos. Allí se oculta un “pecado digital” que revela, en toda su extensión, la ambigüedad moral de la tecnología. Esta ambivalencia no significa que todo artefacto sea moralmente equivalente; algunas tecnologías, por su diseño y finalidad inmediata, están estructuralmente orientadas a la destrucción.

La basílica de San Pedro, recreada con Inteligencia Artificial gracias a Microsoft

Pero la IA pertenece a otro orden. No es intrínsecamente destructiva, aunque puede convertirse en instrumento de dominación, explotación y abuso cuando se subordina a fines moralmente perversos. Entonces, ante este desarrollo exponencial, es justo preguntarnos: ¿estamos dispuestos a que uno solo perezca por el pueblo para que brille nuestro desarrollo tecnológico? ¿Quiénes toman hoy las decisiones, el mundo de la política o las grandes compañías tecnológicas? (Crouch, 2004; Han, 2021).

Dignidad pisoteada

En los sótanos de los datos y de los algoritmos también hay niños y personas vulnerables convertidos en materia prima de extracción. Hay menores expuestos a contenidos abusivos y manipulación psicológica; personas con discapacidad discriminadas por sesgos automáticos; trabajadores invisibles explotados para entrenar modelos de lenguaje. Aunque hubiese uno solo en ese sótano digital cuya dignidad fuera pisoteada, la humanidad entera quedaría herida.

Conviene dejar claro que este texto no es un rechazo a la tecnología, sino una invitación a mirar aquellas sombras que deshumanizan a la familia humana en tiempos de la revolución de la IA. Es también una llamada a preguntarnos qué nos hace verdaderamente humanos y a abrir caminos de esperanza en medio de los gozos, las tristezas y las angustias de la humanidad, a la cual pertenecemos como cristianos, tal como recuerda el Concilio Vaticano II en ‘Gaudium et spes’ (1966, n. 1).

Por tal motivo, nada humano –ni siquiera lo algorítmico, pues también es fruto de nuestro ingenio y talentos entregados por el Creador– puede quedar fuera del escrutinio de la conciencia cristiana y fin último de nuestra existencia. No basta con disfrutar de lo que nos ofrece Omelas. Hay que preguntarse por el niño, por aquello que no vemos, pero garantiza nuestro bienestar.

León XIV y Babel

En este punto, el papa León XIV, en su primera encíclica ‘Magnifica humanitas’, permite ampliar la alerta desde otra imagen bíblica: Babel. La torre se presenta como símbolo de toda construcción humana que, fascinada por su propio poder, pretende alcanzar el cielo sin referencia a Dios y termina sacrificando la dignidad de las personas en nombre de la eficiencia, la uniformidad y la autosuficiencia (León XIV, 2026, nn. 7-10).

Desde esta perspectiva, Omelas y Babel se iluminan mutuamente: Omelas revela el sótano oculto sobre el que puede sostenerse una prosperidad aparentemente feliz; Babel revela la soberbia de una técnica que aspira a traducirlo todo –incluso el misterio de la persona– en datos, rendimiento, dinero y control. Ambas imágenes advierten sobre una misma tentación: aceptar que algunos queden relegados o sacrificados para sostener la promesa de un progreso sin límites.

Por eso, el discernimiento cristiano ante la IA no puede limitarse a celebrar sus logros. Debe también denunciar aquello que permanece oculto bajo la superficie brillante de la innovación.

Regreso a la ética

El camino que aquí comienza es un descenso a las profundidades de los algoritmos y un regreso necesario a la ética. El segundo capítulo recorre las avenidas luminosas de la promesa tecnológica y lo que la IA aporta a la medicina, la educación y el cuidado de la casa común. El tercer capítulo analiza el potencial compasivo de la IA cuando se pone al servicio de la discapacidad y de la vulnerabilidad.

Inteligencia artificial. Foto: Unsplash

El cuarto capítulo desciende a los sótanos digitales para encontrarnos con la exposición infantil, la manipulación de imágenes, la captación afectiva, la depredación, los mercados clandestinos, los sesgos, la opacidad y el abuso estructural. El quinto capítulo propone una salida práctica, una salvaguardia ampliada y un discernimiento bioalgorético orientado al bien común.

No se trata solo de evaluar lo que puede hacer la IA, sino de discernir qué estamos dispuestos a permitirle, concederle, replicar de otros países y modelos culturales; entender a quién protege, a quién expone y qué tipo de humanidad contribuye a formar.

Bioalgorética del cuidado integral

A lo largo de estas páginas delinearemos la necesidad de una bioalgorética del cuidado integral. Como bien ha señalado el papa León XIV: “Ningún algoritmo podrá sustituir jamás un abrazo, una mirada, un encuentro auténtico, ni con Dios, ni con nuestros amigos, ni con nuestra familia” (León XIV, 2025a). Un algoritmo podrá imitar comportamientos y sentimientos humanos, pero jamás podrá sustituir la belleza de la mirada, la ternura, la empatía, las lágrimas, la libertad, la fe, ni la persona en su integridad de cuerpo, mente y espíritu.

Este libro se sitúa en el cruce entre la teología moral y la experiencia concreta de la salvaguardia. Su propósito no es demonizar la innovación, sino iluminar sus ambivalencias y proponer una arquitectura ética capaz de decir “no” allí donde la dignidad humana está amenazada. (…)