El Papa alerta que la IA podría convertirse en una nueva forma de dominio global si no existe control ético y político
El papa León XIV publicó su primera gran encíclica social y puso en el centro del debate mundial una de las preocupaciones más urgentes de nuestro tiempo: el poder que están acumulando las grandes corporaciones tecnológicas y el impacto que la inteligencia artificial puede tener sobre la libertad, la dignidad humana y la democracia.
La encíclica reconoce los enormes beneficios de la inteligencia artificial y de las nuevas tecnologías, pero advierte que el verdadero problema aparece cuando ese desarrollo queda concentrado en pocas manos y comienza a escapar del control ético y político. Desde el inicio, el Papa insiste en que ya no basta con admirar los avances tecnológicos; ahora es necesario preguntarse quién controla realmente ese poder y hacia qué fines lo dirige, una preocupación que aparece con fuerza en el numeral 5.
León XIV sostiene que, mientras en el pasado los Estados impulsaban gran parte de la innovación científica y tecnológica, hoy ese protagonismo ha pasado a grandes actores privados y transnacionales con recursos incluso superiores a los de muchos gobiernos. Más adelante, la encíclica advierte que estas empresas controlan plataformas digitales, infraestructuras, datos y sistemas de inteligencia artificial capaces de influir sobre la información, la economía y hasta la vida cotidiana de millones de personas, una reflexión que atraviesa especialmente los numerales 5 y 95.
Una crítica al modelo tecnocrático actual
Uno de los ejes más fuertes del documento es la crítica al llamado “paradigma tecnocrático”, desarrollado especialmente entre los numerales 92 y 94. Allí, la encíclica describe una cultura dominada por la lógica de la eficiencia, el control y el lucro, donde la técnica deja de ser un simple instrumento y termina convirtiéndose en el criterio que decide qué vale y qué puede descartarse.
Según el Papa, el riesgo de este modelo es que las personas queden reducidas a simples piezas de un sistema obsesionado con el rendimiento y la productividad. León XIV recuerda además que el progreso técnico no siempre significa un verdadero progreso humano y moral.
“La tecnología no es neutral”
Otro de los puntos centrales de la encíclica es la afirmación de que la inteligencia artificial nunca es completamente neutral. Esta idea aparece de manera especial en los numerales 92, 102 y 104, donde el Papa explica que detrás de cada algoritmo existen decisiones humanas, intereses económicos y determinadas visiones culturales e ideológicas.
La encíclica advierte que muchos sistemas digitales aparentan ser objetivos o imparciales, cuando en realidad reflejan las prioridades de quienes los diseñan y controlan. Por eso León XIV insiste en que el discernimiento ético no puede limitarse solamente al uso de la tecnología, sino también al modo en que ha sido diseñada.
La IA puede imitar al ser humano, pero no reemplazarlo
En uno de los apartados más comentados, el Papa explica que las inteligencias artificiales pueden imitar ciertas funciones humanas e incluso superar a las personas en velocidad y capacidad de cálculo, pero no poseen conciencia, afectividad, experiencia moral ni relaciones reales. Esta reflexión aparece sobre todo en el numeral 99.
León XIV subraya que la IA puede simular empatía o producir conversaciones convincentes, pero no conoce verdaderamente el amor, el sufrimiento, la amistad ni la responsabilidad humana.
El riesgo de dejar decisiones humanas en manos de algoritmos
La encíclica expresa además una fuerte preocupación por el uso creciente de algoritmos en decisiones relacionadas con empleo, créditos, reputación pública y acceso a servicios. Entre los numerales 102 y 105, el Papa advierte que delegar decisiones importantes a sistemas automatizados puede generar nuevas formas de injusticia invisibles y difíciles de cuestionar.
Según León XIV, existe el peligro de que la aparente neutralidad tecnológica termine ocultando discriminaciones silenciosas y nuevas formas de descarte social, especialmente cuando nadie asume responsabilidad por los errores o exclusiones producidas por los algoritmos.
“Desarmar la inteligencia artificial”
Quizá una de las expresiones más impactantes de toda la encíclica aparece cuando el Papa pide “desarmar la inteligencia artificial”, una idea desarrollada con fuerza en el numeral 110.
León XIV aclara que no se trata de rechazar la tecnología, sino de impedir que quede sometida únicamente a la lógica de la competencia económica, militar y geopolítica entre potencias y corporaciones tecnológicas. Para el Pontífice, “desarmar” la IA significa evitar que el poder tecnológico termine dominando lo humano y subordinando la dignidad de las personas a intereses económicos o estratégicos.
Un llamado a la responsabilidad global
En la parte final, especialmente entre los numerales 105 y 109, la encíclica reclama mecanismos más fuertes de transparencia, responsabilidad pública, vigilancia independiente y participación social en las decisiones relacionadas con inteligencia artificial.
El Papa insiste en que el futuro digital no puede quedar únicamente en manos de quienes poseen datos, infraestructura y capacidad económica. La tecnología, afirma León XIV, debe volver a estar al servicio del bien común y de la dignidad humana, y no transformarse en una nueva forma de poder absoluto.
