León XIV fijó la posición del Vaticano sobre la inteligencia artificial y pidió límites al poder tecnológico

León XIV presentó el lunes su primera encíclica, "Magnifica Humanitas", un texto de 110 páginas centrado en los efectos de la inteligencia artificial sobre la dignidad humana. El pontífice, primer papa estadounidense de la historia, afirmó que la IA "no puede considerarse moralmente neutra" y pidió "desarmarla" para "evitar que domine al ser humano".

La encíclica busca fijar la postura de la Iglesia frente a lo que el propio papa describió, tras su elección, como el mayor desafío de la época. No se trata de un tratado técnico ni de un rechazo a la tecnología, cuyo valor reconoce, sino de una actualización de la Doctrina Social de la Iglesia. León XIV firmó el texto el 15 de mayo, en el 135.º aniversario de la Rerum Novarum de León XIII.

En su planteo, las innovaciones tecnológicas "pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión". Sobre la IA, el documento señala que "alimenta la brecha entre los incluidos y los excluidos". Especialistas en tecnología, academia y moral católica anticipan que el texto tendrá peso en el debate internacional. "Estoy convencido de que será un documento decisivo para nuestra época, profundo y profético", dijo a la agencia AP Paolo Carozza.

El eje de la crítica apunta a la concentración de poder en el sector privado. Patentes, algoritmos, plataformas digitales, infraestructuras y datos aparecen, según el texto, "concentrados en las manos de unos pocos". El papa advierte que, cuando ese poder se acumula, tiende a volverse opaco y a eludir el control público, con el riesgo de generar "nuevas dependencias, exclusiones, manipulaciones y desigualdades".

Frente a ese escenario, León XIV reclamó reglas "No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad". Y resumió: "Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos".

El documento también alude al peso económico de las principales compañías del sector. OpenAI y Anthropic figuran entre las empresas privadas más valiosas de Estados Unidos, con valuaciones de cientos de miles de millones de dólares. En ese marco, el papa pidió a desarrolladores y responsables políticos "frenar" y reflexionar sobre el rumbo de estas tecnologías, orientándolas al bien de la humanidad y no al beneficio o al poder propios.

La presentación tuvo lugar este lunes en el Vaticano con la presencia de Christopher Olah, cofundador de Anthropic, empresa que mantiene un litigio con la administración de Donald Trump. La participación de la firma fue cuestionada por quienes la interpretaron como un aval pontificio; fuentes vaticanas la equipararon a la audiencia con un jefe de Estado, es decir, un reconocimiento y no un respaldo.

León XIV retomó además la preocupación ambiental que Francisco había colocado en el centro de su magisterio con Laudato si’ (2015). Señaló que los centros de datos que entrenan modelos consumen "enormes cantidades de energía y agua" e inciden de forma significativa en las emisiones de dióxido de carbono, por lo que pidió "soluciones tecnológicas más sostenibles".

Las advertencias más concretas del texto se dirigen a dos menores y trabajadores. Sobre los primeros, alerta de "fenómenos de captación, chantaje y explotación sexual" agravados por "perfiles falsos, algoritmos que amplifican contactos peligrosos y herramientas de IA capaces de manipular imágenes y vídeos", y reclama límites de edad y mayor responsabilidad de los proveedores.

En relación con el trabajo, el papa sostuvo que los enfoques tecnológicos actuales pueden "desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas". Por eso, pidió que toda automatización esté acompañada de "medidas verificables de protección del empleo y de recualificación", y afirmó que el orden económico debe permanecer subordinado a la dignidad humana.