Madrid-España
a 03/06/2026
Antonio Mercado Flórez. Filósofo y
Pensador.
La primera encíclica de León XIV,
Magnifica humanidad (Magnifica humanitas),
(2026), expone su visión sobre los algoritmos, la IA, y la sociedad actual
determinada por la técnica, la ciencia, el dinero y el poder. Nos recuerda
desde la perspectiva de la Doctrina Social de la Iglesia, dirigir la mirada a
algunos desafíos que afectan a nuestro modo de vivir este tiempo. La imagen
bíblica que acompaña esta reflexión es la de una construcción: por un lado, la
torre de Babel, donde la obra común está guiada por un proyecto de dominio que
termina por deshumanizar (cf. Gn. 11, 1-9); por otro lado, las ruinas de
Jerusalén, que con Nehemías se reconstruyen pieza por pieza, como una labor de
responsabilidad compartida (cf. Ne 2-6).
Expresa que estamos llamados a
interrogarnos sobre el gran proyecto de nuestra época: ¿Qué estamos
construyendo? Mientras el desarrollo tecnológico cambia rápidamente lenguajes,
relaciones, instituciones y formas de poder, los creyentes deben elegir sobre
qué proyecto trabajar y con qué estilo, para custodiar y valorar la humanidad
que nos ha sido brindada como don. Estar alerta en el mundo globalizado en que
vivimos: “La tendencia a dejar que la lógica de la eficiencia, del control y
del lucro gobierne por sí sola las decisiones personales, sociales y
económicas”. Manifiesta que “la técnica no es un simple instrumento y que,
cuando se vuelve criterio, termina por establecer qué cuenta y qué puede
descartarse, reduciendo la creación a un objeto de explotación y a las personas
a engranajes de un sistema que sea cada vez más eficaz”.
Que el desarrollo
técnico-científico es un paradigma que se ha extendido en los últimos años y
como efecto de la IA, las ciencias cognitivas, la nanotecnología, la robótica y
la biotecnología están abarcando zonas más amplias en la vida privada y pública
del ser humano. De ahí que puedan actuar como un paradigma tecnocrático y, por
ello, necesitan un nuevo marco espiritual, ético y político. Porque puede darse
la paradoja que aumenten los medios sin que crezca en la misma medida la
humanidad misma. Que la técnica puede convertirse en un instrumento de dominio,
de coacción, de intimidación, de simulación o, de muerte cuando se concentra en
pocas manos. Así crece el riesgo de un desarrollo distorsionado que provoca
nuevas dependencias, exclusiones y desigualdades.
Frente a todo ello, la Doctrina
social se convierte en criterios que posibilitan a los seres humanos
reflexionar, criticar y juzgar el nuevo escenario en que está inmerso el ser
humano: la dignidad inalienable de la persona, el bien común, el destino universal
de los bienes, la subsidiaridad, la solidaridad y la justicia social. Que
existen unos principios fundamentales que hay que tener presente: el poder de
la técnica y las infraestructuras digitales, y preguntamos, ¿los algoritmos
favorecen realmente la participación y la responsabilidad, protegen a los más
vulnerables de la sociedad, aseguran un acceso equitativo a las oportunidades y
se ordenan al bien común? Premisas que nos definen en la actualidad qué es la
inteligencia artificial, que posibilidades abre y que riesgos comporte en la
búsqueda de un mundo mejor y justo.
León XIV aboga para que sea la
inteligencia del ser humano, su intelecto, su discernimiento, su conciencia y
su libertad, la luz que guíe las innovaciones técnicas, y establezca responsabilidades
en su uso y límites en su práctica. Es de anotar que la IA no se puede
equiparar a la inteligencia humana, pero si hacer la salvedad que en algunos
aspectos la superan en velocidad y amplitud de cálculo, ofreciendo beneficios
concretos en una multiplicidad de campos. Pero no responde a los enigmas de la
condición humana: no viven una experiencia, no poseen un cuerpo, no pasan por
la alegría y el dolor, no maduran en las relaciones ni conocen desde adentro lo
que significa el amor, el trabajo, la amistad y la responsabilidad. Tampoco
tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido
último de las situaciones ni asumen el peso de las consecuencias.
Expresa León XIV, pueden imitar
lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión,
pero no conocen lo que producen, porque no residen en el horizonte afectivo,
relacional y espiritual del ser humano. No es la experiencia con sus aciertos y
errores, los que moldean la vida humana, sino que en el campo de la IA
prevalece la estadística, la objetivación, a partir de datos que son eficaces
en el campo de las matemáticas, de la política o la economía, pero no en el
interior del ser humano. Eso, que Hannah Arendt denominó la Condición Humana: la vida, la muerte, la
intersubjetividad, la libertad y el Mundo.
El Papa León XIV, se limita a
ofrecer un discernimiento moral y social sobre la IA. Una reflexión que proteja
a la persona humana, con el fin que sea la inteligencia con su libertad, la que
guie las innovaciones tecnologías. También su responsabilidad en el uso y sus
limitaciones. Así, la IA puede en pocos espacios de tiempo apropiarse de la
voluntad y la libertad, en las tomas de decisiones. Pero no se puede olvidar
que los paradigmas de la IA, los algoritmos y la secuencia de datos, reflejan
los parámetros culturales, los intereses políticos y económicos, de quienes las
diseñan y los utilizan como instrumentos de poder y de saber. Por tanto, “la
imitación artificial de una comunicación humana positiva –palabras de consejo,
de empatía, de amistad, de amor- puede resultar gratificante e incluso útil,
pero en usuarios poco conscientes puede inducir a engaño y dar la falsa
impresión de estar en una relación con un auténtico sujeto personal. De ahí que
cuando la palabra es simulada, esta no construye una relación, sino una
apariencia.
El
peligro surge cuando el ser humano crea que los Grandes Modelos de Lenguajes
Artificiales, los LLMM, se tomen como humanos.
En este orden, con el aumento de
la complejidad de los Grandes Modelos
Lingüísticos Artificiales, no sólo se deterioran los recursos naturales,
hídricos, sino que aumenta la contaminación de los ríos y los mares. Por eso el
conjunto de máquinas, de cables, de centros de datos e infraestructuras de
energía, sino se regulan y limitan, se convierten en peligro para el medio
ambiente y el hábitat humano. Es de especial importancia desarrollar soluciones
tecnológicas más sostenibles para reducir el impacto sobre el medio ambiente.
Según León XIV, se trata de “desarmar” la IA. Significa, en otros
términos, sustraerla a la lógica de la competencia armamentística, que hoy ya
no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo
más eficaz y por el banco de datos más amplio, para consolidar una ventaja
geopolítica y comercial sobre todos los demás. Desarmar quiere decir romper
esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no
significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano.
Significa sustraerla a los monopolios, hacerla discutible, refutable, y por
tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y
de las formas de vida.
La
tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical,
porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un
ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso,
no basta regularla; es necesario desarmarla y hacerla acogedora.
El Papa hace un llamado a los que
están involucrados en el desarrollo de los sistemas de IA. Dice que la
innovación tecnológica puede ser, una forma humana en el acto divino de la
creación. Los investigadores en IA llevan sobre sus hombros y consciencias, un
importante peso ético y espiritual, porque cada proyecto de investigación
expresa una visión de la humanidad. Así como el autor de una de una obra
artística o literaria consideran los valores éticos y morales, la historia y el
tiempo del son parte; los investigadores e innovadores en IA han de proyectar
sus investigaciones con responsabilidad y ética social. Es decir, con
transparencia, honestidad y responsabilidad con el cuerpo social.
La encíclica Magnifica Humanidad
(Magnifica Humanitas), de León XIV,
tiene como uno de los pilares fundamentales custodiar lo humano. Que el
paradigma tecnocrático en que estamos inmersos, potenciados por la revolución
digital y la IA, incentive una visión antihumana, que exalte la materia, la
técnica y el tener, ante la verdadera humanidad del ser humano. Donde las
contradicciones, lo ambiguo, multifocal, infinito e insondable del ser humano,
traten de eliminarse, por una visión posthumana donde prevalezca la
estadística, la objetivación y el ejercicio del poder sobre las verdaderas
necesidades materiales, morales, éticas, sociales y políticas del ser humano y
sus comunidades.
Donde
una visión tecnocrática y técnica reemplacen la naturaleza de la Condición
Humana. Así que, cuando la eficacia y la eficiencia se vuelven medidas de
valor, el ser humano es considerado como objeto, numero o almacén de recambio;
y los más altos valores que lo definen como humano, den paso a una visión
posthumana y antihumana.
En este orden de ideas, la vida
del ser humano es un microcosmos compuesto por una multiplicidad de elementos y
de variables, que, si una de ellas se incentiva en detrimento de las otras, el
organismo humano y su inteligencia se atrofia o explosiona. Esto es, si una de
las facultades humanas quiere ser la medida de todo, por ejemplo, la
inteligencia o la voluntad, se absolutizan en detrimento de las demás
facultades. Entonces otras esferas de la vida se atrofian: el amor, la
libertad, el afecto, la dignidad, la solidaridad, el respeto, las relaciones
intersubjetivas que componen la comunidad, se sustituyen por el dinero, el
ejercicio poder o la segregación racial, lingüística o cultural.
Como dice León XIV: “No se trata
realmente de oponerse a la inteligencia, sino de recordar que, cuando se
repliega en sí misma, olvida que ha sido hecha para servir a la vida y a la
persona humana”. De ahí que: “La calidad de una civilización se mide no por el
poder de sus medios, sino por el cuidado que sabe ofrecer, por la capacidad de
reconocer un rostro en otro y no una función”. Creo que la tecnocracia digital
y la voluntad de poder esconden tras de sí relaciones de dominio, de exclusión
y de sumisión, y olvidan lo que Hermann Cohen dijo en el texto, El Prójimo: “Por consiguiente, la ley
fundamental de la moralidad, y probablemente de la religión, es el amor a todo
lo que tenga rostro humano”.
No es anómalo pensar que la
técnica ha sido en la historia de la humanidad algo importante para convivir en
comunidad y el entorno natural que nos rodea. En el transcurso del tiempo la
técnica ha jugado un papel importante para darle rostro a las civilizaciones que
se han configurado en el devenir del tiempo. En la actualidad la tecnología
está ubicada en el palpito de las civilizaciones actuales; la tecnología es
nuestro vestido. La tecnología y sus diferentes configuraciones en la IA, la
medicina, la biología, la nanotología, la economía, etc., ayudan al hombre al
desarrollo integral de la vida, entender la realidad y el mundo del que somos
parte.
La
tecnología: “Puede sostener el cuidado mutuo entre personas”, que ayuden al
hombre a su desarrollo integral o, “a organizar y prever, sin despojar al ser
humano de su libertad y capacidad de juicio, en cuanto sujeto de relaciones y
responsable de sus decisiones”.
León XIV también se refiere en la
encíclica Magnifica Humanidad (Magnifica
Humanitas), a dos conceptos que en la actualidad se convierten en el centro
de debates, reflexiones y críticas del presente-actual. Son el transhumanismo y el posthumanismo. Que cuestionan la centralidad del sujeto y las
categorías que lo definen como tal; “estas corrientes constituyen el trasfondo ideológico
que reside en algunos centros de poder tecnológico y colonizan el imaginario
colectivo de forma simplificada, especialmente en los medios y en las redes
sociales, induciendo el entusiasmo por las nuevas tecnologías con una visión
futurista de “humanidad potenciada” o
de “hombre hibrido” con la máquina.
Estas dos corrientes culturales y
civilizatorias responden a dos principios que condicionan las sociedades
modernas: “la centralidad de la técnica y el sueño de superar los límites de la
condición humana”. Por así decir, “el
transhumanismo imagina una potenciación del ser humano por medio de las
tecnologías –biomedicina, ingeniería del cuerpo, dispositivos, algoritmos-, con
aspiración de incrementar el rendimiento y las capacidades. El posthumanismo critica el antropocentrismo
y plantea una forma de hibrido entre el ser humano, la máquina y el ambiente; y
dice que la humanidad se superará a sí misma, entrando en una etapa nueva de
evolución”. Hipótesis que alimentan el imaginario colectivo y orientan las
decisiones sociales, económicas y políticas.
El problema surge cuando el ser
humano se objetiva, se numérifica o, es tratado como materia, entonces se corre
el riesgo que los que manejan el Gran
Poder Tecnológico, como instrumentos de dominio, de coacción, clasifiquen a
los seres humanos entre seres dignos y menos dignos. Un espacio donde los más débiles
y vulnerables sean discriminados o vejados por una optimización de la especie.
Se conviertan en instrumentos del ejercicio del poder que amplifican las
discriminaciones, la xenofobia o el racismo. Como lo expresó Pablo VI: “Que el
progreso, el desarrollo, las conquistas de la ciencia y de la técnica,
desvinculados del progreso moral, ético y social, terminen volviéndose contra
el hombre”.
La
técnica entonces debe estar al servicio del hombre y de sus necesidades, y no
el hombre convertido en esclavo de ella. Es decir, integrar la tecnología a una
visión humana e intersubjetiva, que incremente las comunidades solidarias y
cooperativas para mejora de la vida del hombre sobre la Tierra.
Al final, la pregunta decisiva
sigue siendo la indicada por Juan
Pablo II: la IA, ¿«hace la vida del hombre sobre la tierra, en todos sus
aspectos, “más humana” ?; ¿la hace más “digna del hombre”?». Si la
respuesta es “sí”, entonces podemos reconocer en ella una posibilidad buena
para usar con responsabilidad, en un camino de reconstrucción compartida y
paciente, según el modelo del renacimiento de Jerusalén narrado en el libro de
Nehemías. Si, en cambio, el poder crece mientras el corazón se marchita y los
vínculos se rompen, entonces estamos frente a una nueva versión de Babel: una
construcción grandiosa, pero inhumana. El tiempo de la IA no escapa a esta
regla: la construcción de Babel o la de Jerusalén comienza en cada uno de
nosotros.
Hoy en día, la combinación de la
automatización, la robótica y la IA está transformando rápidamente la
estructura misma del trabajo. Se dice que esto traerá grandes mejoras para
todos. En realidad, los “nuevos modos” de trabajar no son necesariamente
mejores, porque «mientras la IA promete impulsar la productividad haciéndose
cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a
adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que
estas últimas estén diseñadas para ayudar a quienes trabajan. Así,
contrariamente a los beneficios anunciados por la IA, los enfoques actuales de
la tecnología pueden paradójicamente desespecializar a los trabajadores,
someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y
repetitivas.
La
necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la
propia capacidad de obrar de los trabajadores y ahogar las capacidades
innovadoras que están llamados a aportar en su trabajo». Precisamente para
evitar esta deriva, es necesario diseñar sistemas centrados en la persona y no
sólo en el rendimiento.
Simultáneamente, debemos
reconocer que toda transición real se produce a través de una discontinuidad:
es desigual, fragmentaria y, a veces, conflictiva. Por lo tanto, no existe un
modelo de cambio único, ni una solución global; hay territorios e historias que
exigen respuestas diferentes. Dada la desigualdad que caracteriza a nuestro
mundo, la difusión de la IA y de los sistemas computacionales produce efectos
distintos en cada lugar. Las sociedades ricas se automatizan rápidamente y de
forma caótica, reduciendo la necesidad de mano de obra y generando zonas de
desempleo y fricciones institucionales.
En cambio, vastas regiones del
mundo permanecen atrapadas en economías híbridas, donde el trabajo humano mal
remunerado y las tecnologías parciales conviven sin llegar a transformarse
realmente. Estos territorios se convierten en reservas de mano de obra precaria
y focos de inestabilidad y migraciones forzadas. Las soluciones, por tanto,
deben encontrarse a nivel nacional y local, involucrando a las comunidades
intermedias. Se necesitan herramientas capaces de adaptarse: modelos
articulados, experimentos locales, redistribuciones progresivas, nuevos
derechos de acceso a los bienes esenciales. Así, sin perseguir una armonía
abstracta, se trata de construir formas concretas de convivencia humana en la
transformación.
A la luz de esta convicción,
podemos también reinterpretar la historia de la Doctrina social de la Iglesia
tras la Rerum novarum. Las iniciativas surgidas en ese contexto
—asociaciones, sindicatos, cooperativas, obras de asistencia social— han
contribuido de manera decisiva a mejorar la legislación laboral, a proteger a
los más vulnerables y a promover condiciones de vida más humanas. Hoy en día,
sin embargo, tales instrumentos ya no bastan por sí solos ante las
transformaciones provocadas por la IA, la nueva organización de los mercados y
la competitividad que rara vez se preocupa por la sostenibilidad social.
Es necesario un nuevo esfuerzo
conjunto por parte de los responsables políticos, las organizaciones de
trabajadores, el mundo empresarial y la comunidad científica para elaborar con
celeridad normas y medidas de protección adecuadas y consensuadas, también a
nivel internacional. Las organizaciones sindicales, a las que la Iglesia
siempre ha apoyado, están llamadas a abrirse a las nuevas formas de trabajo y a
los nuevos trabajadores, para representarlos y defenderlos en un contexto en el
que, sin decisiones valientes, surgen más pobreza y más desigualdades, con una
multitud de excluidos rodeados de máquinas y sistemas automatizados que han
ocupado su lugar.
La encíclica aboga por el derecho
a la esperanza y dice: “Un examen decisivo para la justicia social hoy está
representado por la condición de los migrantes, de los refugiados y de cuantos
son obligados a desplazarse a causa de la pobreza, la violencia, el cambio
climático y los desastres naturales. El modo en el cual una sociedad los trata
muestra si su idea de justicia está guiada por el miedo o por la fraternidad”.
La lucha contra las nuevas formas
de esclavitud constituye una prueba de fuego decisiva para el discernimiento
ético de la IA y la transformación digital. Siguiendo la tradición iniciada
por León XIII, la Iglesia renueva su firme condena de toda forma de
esclavitud, trata y mercantilización de las personas, y recuerda la urgencia de
un amplio movimiento de reflexión y acción que sitúe en el centro la dignidad
inalienable de todo ser humano y el bien común, como fines de la sociedad y
como criterios de toda decisión personal, social y política. Sin esta reflexión
ética y humanizadora, el creciente poder de los sistemas digitales corre el
riesgo de conducirnos hacia nuevas atrocidades, no menos vergonzosas que las
del pasado que hoy deploramos, mientras seguimos presentándonos como sociedades
“avanzadas” y “civilizadas”.
Por
último, León XIV propone que, los distintos ámbitos considerados —la búsqueda
de la verdad en la vida pública, la educación en el entorno digital, las
transformaciones del mundo laboral, la fragilidad de las familias y las nuevas
formas de esclavitud— no son fenómenos aislados. Todos ellos ponen en juego lo
mismo: si la técnica se convierte en criterio absoluto, la persona corre el
riesgo de ser tratada como un dato, un engranaje o una mercancía; si, por el
contrario, la técnica se inscribe en un horizonte de sabiduría, puede
convertirse en una oportunidad de crecimiento, justicia y fraternidad.
Desde esta
perspectiva, la Doctrina social de la Iglesia propone una responsabilidad
compartida. Pide que estos procesos sean gestionados con visión de futuro: por
instituciones capaces de regular sin asfixiar y de proteger sin suplantar; por
empresas que reconozcan en el trabajo y en la dignidad un criterio de éxito;
por organismos intermedios y comunidades educativas que reconstruyan la
confianza y los vínculos; por ciudadanos que cultiven la responsabilidad, la
sobriedad, el discernimiento y el sentido de la verdad. Sólo así la innovación
podrá convertirse realmente en desarrollo humano integral y no en factor de
exclusión y dominio; y sólo así la promesa del progreso podrá ser reconocida
como verdadera, porque estará medida en función de la dignidad inviolable de
cada hombre y cada mujer.
Así que, no podemos olvidar que estamos
en la punta del iceberg de la cultura racionalista y técnica de los tiempos
modernos. Un tipo de cultura que se opone a la exaltación del Yo y de la subjetividad, al hombre
concreto de carne y hueso, que exalta la “zona
de la sentimentalidad”, el mito, los valores y el lenguaje. Por eso el Yo y la subjetividad se oponen a la
sociedad de masas y la cultura de masas, que han traído consigo. Esa rebelión
salvaje y convulsiva, se manifiesta en el arte, la poesía, la música, la
literatura, etc. Que va acompañada con el rescate del hombre de carne y hueso,
su mundo interior, y no del hombre convertido en objeto, en número o, almacén
de recambio.
Estamos en una época donde las
teorías posthumanas, destruyen la humanización del ser humano. Ernst Jünger
piensa que donde se debe trabajar primero es, en el interior del ser humano.
Para que responda a las exigencias materiales, científicas, técnicas, políticas
o culturales de la época. De ahí que la crisis de nuestro tiempo, arremeta
contra la subjetividad, el tejido estético de la existencia. Por eso las
grandes convulsiones espirituales, son percibidas y descritas magistralmente
por los artistas, los poetas, los novelistas, los pensadores, etc.
Así
que, estamos a las puertas de la gran crisis de nuestro tiempo, por el
predominio de los lenguajes digitales, las imágenes en movimiento, la IA, en la
vida de los seres humanos. No podemos olvidar que el ser humano tiene un resto
que es imposible definir y resolver con algoritmos.