Magnifica machinae: León XIV pregunta de quién es la máquina

Fri, 25 Sep 2026 00:00:00 +0000

Sobre: León XIV, Magnifica humanitas. Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, 15 de mayo de 2026. .

En mayo, la primera encíclica sobre inteligencia artificial llegó a los diarios con dos titulares: el Papa contra los robots asesinos y el Papa contra el transhumanismo. Los dos son ciertos y ninguno es lo importante. Conviene leerla ahora, cuatro meses después, por un párrafo que en mayo pasó inadvertido y que en septiembre parece escrito para esta semana. En el §106, León XIV pide “prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA”. En el §107 dice quién tiene que decidir ese ritmo: “una política más presente, capaz de ralentizar donde todo acelera”. El 12 de septiembre los directivos de la frontera pidieron ir más despacio, y . Lo decidieron ellos, por anuncio, un fin de semana. La encíclica había dejado planteada de antemano la diferencia entre las dos pausas, y esa diferencia es la tesis del documento: lo que importa no es la velocidad, sino de quién es el freno.

Una encíclica sobre la propiedad

Rerum novarum cumple este año ciento treinta y cinco años, y León XIV eligió el nombre pensando en ella. La comparación es la que el propio texto propone y vale la pena tomarla en serio. En 1891, León XIII no escribió un tratado sobre la máquina de vapor. Escribió sobre el salario, la asociación de los trabajadores y la función social de la propiedad, es decir, sobre de quién era la fábrica y qué se les debía a quienes trabajaban en ella. Magnifica humanitas hace lo mismo con la IA. Declara expresamente que no quiere ofrecer “un tratado sobre la inteligencia artificial” (§97) y dedica sus mejores páginas a la pregunta por la propiedad.

La frase que ordena todo está en el §9: la tecnología “no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”. La consecuencia llega en el §67 y es el movimiento doctrinal más fuerte del documento. Entre los bienes sujetos al destino universal, el principio que subordina toda propiedad privada al uso común, la encíclica incluye “patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”. En el §108 lo dice sin rodeos: los datos “son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos”, y hace falta “gestionarlos como uno de los bienes comunes o colectivos”. Cuando el magisterio escribe que la propiedad de los datos “no puede confiarse sólo al sector privado, sino que debe reglamentarse”, no está opinando sobre ética de la IA. Está agregando una clase nueva de bienes a una doctrina de la propiedad que tiene más de un siglo de jurisprudencia, sindicatos y cooperativas detrás.

El diagnóstico de poder que sostiene todo esto también es explícito. Antes, dice el §5, eran los Estados los que orientaban la innovación; hoy los principales motores son “actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos”. El poder tecnológico adquiere “un rostro inédito, predominantemente ‘privado’, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común”.

La subsidiariedad dada vuelta

El párrafo más original del documento es el §71, y hay que leerlo sabiendo de dónde viene la palabra. La subsidiariedad es el principio según el cual lo que pueden hacer las personas, las familias y las comunidades no debe ser absorbido por una instancia superior. Durante décadas se usó sobre todo contra el Estado, y buena parte del pensamiento liberal la adoptó como argumento para achicarlo. La encíclica la da vuelta: “en el contexto de la revolución digital”, escribe, “el nivel superior no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común”. El nivel que “absorbe competencias, datos y capacidad decisional está constituido por empresas y plataformas”. La subsidiariedad exige entonces lo que exigiría contra cualquier poder que absorbe: “auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación”.

El §69 le cierra además la puerta a la lectura cómoda: la subsidiariedad “no justifica el desinterés del Estado, sino que orienta su acción”. Y el §109 agrega una precisión que cualquiera que haya participado de una consulta pública va a reconocer. Proteger la capacidad de las comunidades de decidir y corregir significa no relegar su intervención “a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio”. Es la descripción exacta del modelo de gobernanza que discutimos la semana pasada, el del formulario que mide si un país está preparado para recibir lo que se decide en otro lado.

La imagen bíblica que la encíclica elige para todo esto dice más de lo que parece. Contra Babel, que tiene “una sola lengua, una sola tecnología, una sola dirección” (§7), propone a Nehemías reconstruyendo las murallas de Jerusalén. Nehemías “no impone soluciones desde lo alto” y le confía a cada familia un tramo de muralla (§8). Leída con otro vocabulario, es una teoría de la gobernanza policéntrica. Muchos centros de decisión, cada uno a cargo de lo que conoce y todos coordinados en torno a un bien común. Es lo que Elinor Ostrom encontró funcionando en los sistemas de riego y en las pesquerías, y lo que el §153 traduce en política cuando dice que “no existe un modelo de cambio único, ni una solución global” y pide “experimentos locales, redistribuciones progresivas, nuevos derechos de acceso a los bienes esenciales”.

La alineación también se vota

Si hay una frase del documento que la industria debería leer dos veces, es ésta del §107: “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”. El párrafo completo discute directamente el vocabulario de la frontera. No alcanza con “la moralización de la máquina, la denominada ‘alineación’ de la IA con los valores humanos”, sin “la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida”. De lo contrario, “quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”.

Vale la pena leerlo al lado del Humanist AI Code of Conduct que Microsoft publicó el 14 de septiembre y de las constituciones con que otras empresas describen los valores de sus modelos. Son documentos serios y algunos son buenos. La encíclica no discute su contenido sino su procedencia: un código de valores redactado por la empresa que entrena el modelo es, por bueno que sea, una moral decidida por pocos. Para una institución que durante siglos se presentó como custodia de la moral, la frase tiene algo de autocrítica, y por eso mismo pesa más.

El §110 lleva el argumento hasta su palabra favorita. “Desarmar la IA” significa sacarla de la carrera, “que hoy ya no es sólo militar sino económica y cognitiva”, por el algoritmo más eficaz y el banco de datos más grande, y “romper esta equivalencia entre poder tecnológico y derecho a gobernar”. También significa “sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable”. Ése es el programa político del documento. Y la parte sobre armas autónomas, la que llegó a los titulares, es su aplicación más extrema: “no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles” (§198).

Lo que se ve desde abajo

La parte que más celebramos está en el capítulo cuarto, y la encíclica la abre con una frase que merece quedar: “En el mundo de la IA nada es inmaterial o mágico” (§173). Detrás de cada respuesta que parece instantánea hay “una larga cadena de mediaciones”, y sobre todo personas. Hay millones de trabajadores en el etiquetado de datos, la moderación de contenidos y el entrenamiento de modelos, “en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas”. Y hay adolescentes y niños que trituran en condiciones peligrosas los materiales de los que salen las tierras raras: “cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa”.

El §178 va más lejos y usa la palabra: “El colonialismo muestra en la actualidad un rostro inédito”. Se apropia de los datos, sobre todo en los territorios “con menos relevancia geopolítica y mayor fragilidad estructural”: flujos sanitarios, perfiles epidemiológicos, mapas genéticos, recopilados “a menudo bajo el pretexto de la ayuda, la investigación o la innovación”. Son, dice, “las nuevas ’tierras raras’ del poder”. La consecuencia la formula como programa: “devolver a los pueblos no sólo los datos que los describen, sino también la posibilidad de decidir cómo se utilizarán, quién los utilizará y para quién. De lo contrario, la era digital no será postcolonial, sino colonial bajo otra forma”.

Quien haya leído la literatura crítica de la última década reconoce el vocabulario: el colonialismo de datos, el trabajo fantasma, la cadena extractiva que va de la mina al centro de datos.¹ Que esa agenda entre al lenguaje de una encíclica tiene consecuencias prácticas que un paper no tiene. Se lee en parroquias, en escuelas y en universidades confesionales de todo el continente, y la pueden citar ministros que nunca van a leer a Couldry y Mejias. Hay además un gesto que no conviene pasar por alto: en el §176, León XIV pide perdón en nombre de la Iglesia porque la Sede Apostólica legitimó en la Edad Moderna la esclavización de los “infieles”. Un texto que reconoce haber llegado tarde a una esclavitud está mejor situado que casi cualquier otro para advertir que la próxima se está construyendo con cadenas de suministro.

Donde la encíclica no llega

La primera objeción es de encuadre. En Magnifica humanitas, el Sur global aparece como lugar del daño y casi nunca como lugar de la alternativa. La expresión figura una sola vez, en el §204, a propósito del gasto militar. Lo demás es geografía de la víctima: “reservas de mano de obra precaria y focos de inestabilidad” (§153), minas, territorios extraídos. La crítica es justa y los datos son ciertos, pero falta la otra mitad. El Sur no sólo espera que le devuelvan sus datos: ya está construyendo sus tramos de muralla. Masakhane armó una comunidad de investigación en procesamiento de lenguas africanas que las empresas de la frontera no tenían interés en armar. SciELO desde 1997, y AmeliCA después, sostienen un modelo de publicación científica de acceso abierto, no comercial y gobernado por las instituciones, que el Norte recién ahora discute. Universidades públicas latinoamericanas están construyendo corpus y modelos en lenguas que ningún laboratorio comercial va a priorizar. Nehemías habría ido a ver quién estaba levantando pared antes de convocar a las familias.

La segunda es más técnica y más importante. La encíclica tiene clara la geografía del problema. El §109 pide cuestionar “las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación”. Pero cuando pasa a las soluciones, el vocabulario es el del acceso: “asegurar el acceso universal a las tecnologías y a la formación” (§109), inversiones “en competencias, infraestructuras y servicios esenciales” (§164). Tener acceso a un modelo entrenado en otro lado, en otra lengua y con otros valores no es lo mismo que tener capacidad de construirlo, auditarlo o adaptarlo. El documento no dice una palabra sobre modelos abiertos, cómputo público o licencias que permitan estudiar y modificar lo que se usa. Son justamente los instrumentos que redistribuyen la capacidad de programar que el §109 dice querer redistribuir. La puerta queda abierta, porque “sustraerla a los monopolios, hacerla discutible, refutable” (§110) describe bastante bien lo que hace un modelo de pesos abiertos, pero el documento no la cruza.

La tercera es ambiental. El §101 reconoce que los sistemas actuales “requieren grandes cantidades de energía y agua”. Es un solo párrafo, y el remedio que propone es “desarrollar soluciones tecnológicas más sostenibles”. Una encíclica escrita contra el paradigma tecnocrático le confía a la técnica la solución de su huella. Laudato si’ había ido mucho más lejos, y los territorios del Sur que hoy compiten por alojar centros de datos ofreciendo agua y energía baratas habrían necesitado más que un párrafo.

La cuarta es la del cumplimiento, y la encíclica la conoce. El §72 les encarga a “los estados y las instituciones supranacionales” garantizar las reglas y los mecanismos de protección; el §201 diagnostica que esas mismas instituciones están “debilitadas” y que el orden actual es “un multipolarismo desordenado y conflictivo”. Las auditorías independientes del §71 alguien tiene que pagarlas, y alguien tiene que poder sancionar a quien no las acepte. El documento pide mucho a un sistema que él mismo describe como incapaz de dárselo, y deja sin respuesta cuál es el plan mientras tanto.²

El Magníficat como programa

La encíclica termina con el cántico de María, y no por casualidad: la “magnífica humanidad” del título ya lo anunciaba. El §244 lo presenta como una invitación a “mirar el mundo desde abajo, con los ojos de quien sufre, no con la óptica de los potentes”. El cántico mismo, en Lucas 1,52-53, es el pasaje más redistributivo de los evangelios: derribó a los poderosos de sus tronos, a los ricos los despidió con las manos vacías.

Rerum novarum no cambió el mundo por lo que decía. Lo cambió porque durante décadas hubo sindicatos, cooperativas y partidos que la leyeron como programa y no como oración, y el propio §155 lo reconoce. La pregunta que deja Magnifica humanitas no es si tiene razón. En lo que importa la tiene más de lo que se esperaba. La pregunta es quién la va a leer así esta vez: los etiquetadores que el §173 describe y que casi no tienen sindicatos, las cooperativas de datos que todavía son experimentos, las universidades públicas que construyen modelos con presupuestos que se achican. Si esos sujetos no existen o no se organizan, el documento quedará como una buena descripción de lo que pasó. Si se organizan, van a encontrar en él algo que hasta ahora no tenían: una autoridad moral con alcance planetario que dice, con todas las letras, que los datos no son de quien los junta.

Coda: habemus machinam

La imagen que cierra este posteo propone un experimento mental que la encíclica no se plantea, pero que contesta sin proponérselo. ¿Podría un modelo de lenguaje ser papa? La respuesta canónica es corta y no tiene nada que ver con la inteligencia. El papa es obispo de Roma, la ordenación sólo la recibe válidamente un varón bautizado (canon 1024), y el bautismo se le administra a un cuerpo. La encíclica diría lo mismo con más palabras: estos sistemas “no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor” (§99). La pregunta interesante es otra: ¿podría un modelo escribir Magnifica humanitas? Probablemente sí, o algo que se le pareciera mucho. El magisterio es, en un sentido bastante literal, un corpus que se lee a la luz de sí mismo, y cada encíclica cita a las anteriores. Un modelo entrenado en ciento treinta y cinco años de doctrina social produciría sin esfuerzo un texto verosímil sobre la IA, con los mismos principios, las mismas citas de Pablo VI y el mismo tono.

Lo que ese modelo no podría escribir es el §176. Un sistema entrenado sobre dieciocho siglos de textos eclesiásticos habría reproducido con toda fidelidad la tolerancia de la esclavitud, porque ése era el patrón del corpus. La condena llegó cuando alguien rompió la continuidad. El perdón llega ahora porque hay alguien que puede cargar con esa culpa en nombre de una institución que tiene memoria y tiene cuerpo. La encíclica lo resume en una línea que podría ser su mejor argumento contra la sustitución: “Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo” (§128). A un modelo se lo puede alinear; pedir perdón, no puede. Queda una ironía que la imagen no disimula. La escena que muestra, un colegio de poco más de cien electores que deciden en secreto y comunican el resultado con humo, se parece bastante a lo que el §107 llama una moral decidida por pocos. El “examen para la Iglesia” de los §86-89 parece dispuesto a aceptarla.

Habemus machinam.

La encíclica no cita a ninguno de los autores que elaboraron estas categorías. Sus notas remiten casi exclusivamente al magisterio, a la Comisión Teológica Internacional y a la nota Antiqua et nova (2025), en la que se apoya para la parte técnica. Las pocas voces de afuera son clásicos como Guardini, Arendt, Frankl o Tolkien. El colonialismo de datos tiene nombre propio desde The Costs of Connection de Nick Couldry y Ulises Mejias (2019), y desde América Latina lo trabajó Paola Ricaurte ese mismo año. El trabajo invisible del etiquetado lo documentaron Mary Gray y Siddharth Suri en Ghost Work (2019), y la cadena que va de la mina al modelo está en Atlas of AI de Kate Crawford (2021). Es una omisión llamativa en un documento que en el §23 celebra el diálogo con las ciencias sociales. Tiene además una consecuencia: el lector que quiera profundizar no encuentra en las notas la puerta de entrada a la literatura que ya hizo el trabajo. ↩︎
Una objeción que cualquier lector va a pensar y que la encíclica se adelanta a contestar en parte. La institución que predica subsidiariedad, participación y rendición de cuentas es una de las más centralizadas del mundo. El documento lo sabe y dedica una sección entera, “Un examen para la Iglesia” (§86-89), a exigirse hacia adentro organismos de participación “reales, no nominales”, transparencia y evaluación de quienes ejercen responsabilidades. En el §138 agradece a los periodistas que sacaron a la luz los abusos. Es más de lo que suelen hacer los códigos de conducta corporativos. Pero donde el interés institucional aparece, se nota: en la sección sobre educación, el §144 pasa del diagnóstico de la desigualdad en el acceso a pedir sostén estatal también para las instituciones privadas, y a reivindicar en particular las escuelas católicas. ↩︎

Rerum Novarum | guIA