Reseñas | guIA

La democracia no se suprime: se condiciona

Mon, 31 Aug 2026 00:00:00 +0000

Innerarity, Daniel (2025). Una teoría crítica de la inteligencia artificial. Barcelona: Galaxia Gutenberg. ISBN 978-84-19738-37-0.

Hay ya tantos libros sobre inteligencia artificial que la propia bibliografía ha adquirido algo de corpus de entrenamiento: uno los lee con la sospecha creciente de estar ante recombinaciones cada vez más fluidas de un material previo que nadie se molesta en cuestionar, distribuidas entre dos estantes que se ignoran cordialmente, el de la profecía (donde la humanidad termina como mascota de sus sucesores evolutivos) y el de las directrices éticas (donde siete principios intercambiables, redactados en esa prosa de consenso que no ofende a nadie porque no dice nada, garantizan una tecnología fiable, centrada en el humano y respetuosa con la dignidad). El libro de Innerarity, galardonado con el III Premio Eugenio Trías y terminado, según cuenta su autor, en el que fue el despacho de Adorno en el Institut für Sozialforschung, no pertenece a ninguno de los dos, y su primer mérito consiste precisamente en explicar por qué ninguno de los dos podía funcionar.

La introducción despacha las alternativas con una economía que conviene subrayar. La moratoria de 2023 se desmonta no por autoritaria ni por ingenua sino por incoherente: quien describe una amenaza existencial y a continuación propone neutralizarla con seis meses de pausa, ese plazo curiosamente administrativo que parece calculado sobre la duración de un semestre académico, no está describiendo el mundo sino ejecutando un acto retórico-performativo, valioso quizá para concitar atención pero inútil como diagnóstico. La ética recibe una objeción más fina y más importante, porque no consiste en repetir la denuncia ya rutinaria del ethics washing, de la que el autor se distancia expresamente, sino en señalar una insuficiencia categorial: el eje bien/mal no agota las posibilidades de análisis de lo real, y un buscador transparente y no discriminatorio sería éticamente irreprochable mientras deja fuera del examen el hecho, políticamente decisivo, de que una empresa privada controle la accesibilidad pública de la información. Queda entonces la crítica, definida sin ninguna concesión exhortativa: no es una invitación a hacerlo bien sino una indagación de las condiciones estructurales que permiten o impiden hacerlo bien, y sólo puede ejercerse si comprende y respeta la complejidad de aquello que critica, exigencia metodológica por la que el libro pide, con cierto riesgo, ser juzgado.

Las tres partes van de la epistemología a la política. La primera pregunta qué clase de inteligencia, creatividad, datos y predicción hay realmente aquí; la segunda, qué clase de cosa es una tecnología, una automatización, una máquina y una opacidad; la tercera, qué le ocurre a la democracia cuando esas cosas se instalan en el centro de sus procedimientos. El capítulo primero, el más extenso, sostiene arquitectónicamente a los restantes mediante un inventario de las especificidades del conocimiento humano (sentido común como captación del contexto, reflexividad como saber que se sabe, saber implícito y corporalidad, versatilidad, gestión productiva del error y una notable economía energética y epistémica), de modo que quien impugne ese inventario impugna bastante más que un capítulo.

Las aportaciones son varias y desiguales, y al menos cinco merecen circular por su cuenta. La primera es conceptual: frente al tecnoneutralismo, que trata la tecnología como herramienta a la espera de un uso virtuoso, y frente al tecnodeterminismo, que la trata como destino, Innerarity propone la categoría de condicionamiento, que abre corredores sin prescribir trayectos, e incita y desincentiva sin causar, con una formulación afortunada: la inteligencia artificial condiciona mucho más de lo que creen los neutralistas y determina mucho menos de lo que creen los deterministas, de manera que insistir en el determinismo no es constatar un hecho sino ejecutar performativamente una rendición. La segunda es una inversión frontal de la tesis del capitalismo de la vigilancia: el problema no es que los sistemas nos conozcan demasiado, sino demasiado poco, porque registran rutinas y no anhelos, y sobre todo porque, ocupados en condicionar nuestras decisiones presentes, se desentienden de las futuras; de ahí la fórmula que probablemente sobrevivirá al libro, a saber, que la democracia no consiste en hacer lo que queremos sino en poder cambiar lo que queremos. La tercera desplaza la privacidad del paradigma propietario al colectivo mediante un argumento de codependencia difícil de refutar: quien cede sus datos no sólo se deja clasificar, también contribuye a configurar los modelos con que serán clasificados quienes no cedieron nada, con lo cual el consentimiento individual, alcanzada cierta masa crítica, se vuelve una ceremonia; la verdadera autodeterminación no sería poseer los propios datos sino el derecho a no ser reducido a ellos. La cuarta reorienta el debate sobre transparencia hacia la justificabilidad y la contestabilidad, tras adoptar la tipología de opacidades de Burrell (2016) y advertir de que revelar el algoritmo de puntuación de una plataforma empodera al sistema disciplinario y no al conductor. La quinta, en el capítulo noveno, construye una dialéctica en tres tiempos, delegación del control, control de la delegación y delegación como control, cuya analogía con la integración europea, intercambio de soberanía por poder, permite definir el populismo con una precisión inesperada: sobrevaloración del control directo, infravaloración del control indirecto.

El capítulo decimocuarto contiene la tesis más ambiciosa y también la más frágil. Innerarity renuncia deliberadamente a defender la democracia por vía normativa y opta por la epistemológica: hay cosas que la inteligencia artificial no puede hacer porque no es capaz, no porque no deba, dado que la política opera en la ambigüedad y la contingencia mientras los algoritmos exigen claridad y no toleran lo borroso. De ahí una definición residual de lo político que vale por medio libro: es política aquella decisión que hay que tomar cuando ya se sabe cuanto podía saberse, se ha consultado a todos los expertos y se han agotado las técnicas de datificación disponibles, y sigue sin estar claro qué habría que hacer. La objeción es evidente y el autor no la afronta: las razones que aduce (extrapolación de patrones pasados, ausencia de sentido común, incapacidad de reflexividad) son propiedades de una arquitectura concreta en un momento concreto, no verdades conceptuales sobre la computación, de manera que un argumento presentado en registro fuerte se apoya en evidencias que sólo sostienen el registro débil. Un libro que dedica catorce capítulos a mostrar que la tecnología condiciona sin determinar acaba concediendo al estado del arte de 2024 una autoridad que su propia teoría le negaba, y la parte del texto que envejecerá antes es, con alguna ironía, la que parecía más blindada. La versión robusta del argumento está a mano y el autor la roza sin adoptarla: lo que resiste la automatización no es una carencia de las máquinas sino una propiedad de aquellas decisiones cuya legitimidad depende de su autoría y no de su corrección.

Dos límites más. Un libro que reclama la genealogía de Fráncfort dedica sorprendentemente poco espacio a la propiedad de las infraestructuras, la concentración de cómputo, el trabajo de anotación y los costes energéticos, de modo que el desplazamiento de la pregunta por quién posee hacia la pregunta por qué conoce, coherente con el diagnóstico de que el desafío es antes conceptual que normativo, tiene el precio de dejar sin indagar unas condiciones estructurales que son, en buena medida, condiciones de propiedad. Y el final es más demanda que propuesta: parlamentarizar la digitalización, el parlamento de los algoritmos, el demos digital y la petición de un discurso de Gettysburg para la era algorítmica son metáforas potentes emitidas como pagarés institucionales, sin auditorías, fideicomisos ni mecanismos de contestabilidad que las respalden.

Con todo, se trata de la contribución en lengua española más rigurosa disponible sobre las implicaciones democráticas de la automatización decisional, y de una de las pocas, en cualquier lengua, que un ingeniero puede leer sin sentirse caricaturizado y un filósofo sin sentirse entretenido. Para el campo de los estudios sobre ciencia y tecnología su utilidad es doble: ofrece una categoría, el condicionamiento, exportable a otros objetos técnicos, y ofrece un ejemplo poco frecuente de cómo se sustituye un vocabulario por otro sin fingir que se ha descubierto una esencia, cuando propone dejar de hablar de impacto y empezar a hablar de coevolución. Que su tesis central sea deliberadamente sobria, esto es, que la democracia en la era de la inteligencia artificial ni se superará ni se suprimirá sino que se condicionará, no debería confundirse con tibieza: es lo que queda cuando se retiran las dos histerias simétricas, y resulta ser bastante más de lo que parecía.

Seguir por León XIV: Magnifica humanitas

El destino universal de los datos

Fri, 25 Sep 2026 00:00:00 +0000

León XIV (2026). Magnifica humanitas. Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Ciudad del Vaticano, 15 de mayo de 2026.

Un documento magisterial no es un libro, y reseñarlo como si lo fuera obliga a una precisión previa. Magnifica humanitas no propone una tesis de autor que se pueda aceptar o rechazar en función de la calidad de sus argumentos. Es el acto normativo de una institución que tiene más de mil millones de miembros, una red educativa y sanitaria de alcance planetario y una tradición doctrinal que funciona, en sus propios términos, como un cuerpo acumulativo en el que cada documento se lee a la luz de los anteriores. Esa condición determina lo que se le puede pedir. No se le puede reprochar, por ejemplo, que no discuta la literatura como lo haría un artículo, pero sí se puede evaluar qué hace con los conceptos que recibe, qué incorpora de afuera y qué consecuencias institucionales se siguen de lo que afirma. Leída así, la primera encíclica dedicada a la inteligencia artificial resulta un texto más interesante de lo que dejaba prever su recepción periodística, concentrada en la condena de las armas autónomas y del transhumanismo. Su contribución principal no está en la antropología, que es en buena medida heredera de la nota Antiqua et nova (2025), sino en la doctrina de la propiedad y del poder.

El documento se organiza en cinco capítulos precedidos por una introducción que fija el marco figurativo: la alternativa entre construir Babel, una obra de “una sola lengua, una sola tecnología, una sola dirección” (§7), y reconstruir con Nehemías las murallas de Jerusalén, donde cada familia recibe un tramo y nadie “impone soluciones desde lo alto” (§8). El primer capítulo reconstruye la tradición de la doctrina social desde Rerum novarum, cuyo ciento treinta y cinco aniversario motiva el texto y cuyo método, el examen de los “nuevos asuntos” de cada época, el autor reivindica como propio. El segundo reformula los principios (dignidad, bien común, destino universal de los bienes, subsidiariedad, solidaridad, justicia social) y los recalibra para el entorno digital. El tercero se ocupa de la IA en sentido estricto y de las corrientes transhumanistas; el cuarto aplica los principios a la verdad pública, la educación, el trabajo y las nuevas formas de esclavitud; el quinto trata la guerra y el multilateralismo. La conclusión propone un programa de vida cristiana que culmina en el Magníficat.

El movimiento doctrinal más relevante se produce en el segundo capítulo y consiste en extender el destino universal de los bienes a “las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos” (§67). La novedad debe medirse con cuidado. La subordinación de la propiedad privada al destino universal es doctrina constante desde León XIII, y Juan Pablo II la había llamado “primer principio de todo el ordenamiento ético-social” (§66). Lo que cambia es el objeto: al incluir en la lista bienes inmateriales cuya escasez es artificial, producida por regímenes de exclusividad y no por la naturaleza de la cosa, la encíclica desplaza el principio hacia el terreno en el que se juega hoy la economía política de la IA. El §108 extrae la consecuencia: los datos “son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos”, su propiedad “no puede confiarse sólo al sector privado” y conviene gestionarlos “como uno de los bienes comunes o colectivos”, con apoyo en la noción de bienes colectivos de Centesimus annus (§40). Es difícil exagerar el alcance potencial de esta formulación, que coloca bajo autoridad magisterial una tesis que la literatura sobre comunes digitales y gobernanza de datos venía sosteniendo sin otro respaldo que el académico.

El segundo aporte, probablemente el más original desde el punto de vista conceptual, es la reformulación de la subsidiariedad. Formulado en Quadragesimo anno como límite a la absorción de competencias por instancias superiores, el principio fue leído durante buena parte del siglo XX como un argumento contra la expansión del Estado. El §71 lo reorienta: “en el contexto de la revolución digital”, el nivel superior “no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común”, y son empresas y plataformas las que absorben “competencias, datos y capacidad decisional”. La exigencia se traduce en instrumentos (auditorías independientes, transparencia algorítmica, acceso equitativo a los datos, mecanismos de apelación) y se completa con una advertencia del §109 que tiene valor teórico propio: la participación de las comunidades no puede quedar relegada “a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio”. La imagen de Nehemías adquiere aquí un contenido preciso. Lo que describe es una forma de gobernanza policéntrica en el sentido de Ostrom, con múltiples centros de decisión anidados y coordinados por un bien común, y el §153 la convierte en criterio de política cuando rechaza “un modelo de cambio único” y pide “experimentos locales” y “redistribuciones progresivas”.

El tercer capítulo contiene la tesis que conecta ambos desarrollos con el debate técnico contemporáneo. La IA no puede considerarse moralmente neutra porque “todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones” (§104), una formulación que cualquier lector de Langdon Winner reconocerá. De ahí se sigue la afirmación más filosa del documento, dirigida contra el vocabulario de la industria: no basta con invocar la “alineación” de la IA con los valores humanos si no existe “la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida”, porque “no serviría de nada una IA más moral, si esta moral es decidida por unos pocos” (§107). La categoría de “desarme” del §110, que pide “romper esta equivalencia entre poder tecnológico y derecho a gobernar” y hacer la IA “discutible, refutable, y por tanto habitable”, funciona como síntesis política del capítulo. En el cuarto capítulo, la descripción del trabajo invisible del etiquetado y la moderación (§173) y, sobre todo, la tesis según la cual el colonialismo “se apropia de los datos” y convierte los registros sanitarios y genéticos de territorios periféricos en “las nuevas ’tierras raras’ del poder” (§178) introducen en el lenguaje magisterial una agenda que hasta ahora pertenecía a los estudios críticos de datos. La fórmula que cierra ese párrafo (“la era digital no será postcolonial, sino colonial bajo otra forma”) tiene la contundencia de las frases destinadas a ser citadas.

Las objeciones empiezan justamente ahí. La primera es de aparato. El documento reproduce con notable fidelidad categorías elaboradas por Couldry y Mejias (The Costs of Connection, 2019), Ricaurte (2019), Gray y Suri (Ghost Work, 2019) o Crawford (Atlas of AI, 2021), pero sus notas remiten casi exclusivamente al magisterio, a la Comisión Teológica Internacional y a Antiqua et nova. La omisión se explica por las convenciones del género, pero entra en tensión con el §23, que presenta la contribución de las ciencias sociales como “esencial” para aplicar los criterios doctrinales. Tiene además un efecto práctico: el lector que quiera profundizar no encuentra en las notas ninguna vía hacia la literatura que ya hizo el trabajo empírico, y la encíclica aparece como origen de conceptos de los que es, en rigor, destinataria.

La segunda objeción es más sustantiva y se refiere a la distancia entre el diagnóstico y los instrumentos. El §109 identifica con precisión “las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación”, pero cuando el texto pasa a las propuestas su vocabulario es el del acceso: “acceso universal a las tecnologías y a la formación” (§109), inversiones “en competencias, infraestructuras y servicios esenciales” (§164). Acceder a un sistema entrenado en otra parte no redistribuye la capacidad de construirlo, auditarlo o adaptarlo, que es exactamente lo que el diagnóstico señala como asimetría. Los instrumentos que la literatura sobre comunes digitales asocia a esa redistribución (modelos de pesos abiertos, cómputo público, licencias que permitan estudiar y modificar, infraestructuras de ciencia abierta) no aparecen en el texto. La exigencia de sustraer la IA “a los monopolios” y de volverla “refutable” (§110) es compatible con ellos y podría leerse como su fundamento, pero el documento no da ese paso, y el principio del destino universal queda sin la traducción institucional que Rerum novarum sí ofreció en su momento cuando nombró la asociación obrera.

La tercera objeción se refiere al lugar del Sur global. La expresión figura una única vez (§204), a propósito del gasto militar, y el resto del texto sitúa a las regiones periféricas en posición de víctima: “reservas de mano de obra precaria” (§153), territorios de extracción mineral y de datos. El diagnóstico es correcto y su inclusión es un mérito, pero la omisión de la otra mitad no es neutra. Desde las epistemologías del Sur (Santos) y desde experiencias como Masakhane o el sistema SciELO/AmeliCA, el Sur no es sólo el lugar donde se padece la asimetría sino también un lugar donde ya existen alternativas institucionales en funcionamiento, a menudo más cercanas a la gobernanza de comunes que la encíclica propone que cualquier arreglo del Norte. Un texto que eligió como figura central a quien reconstruye escuchando a cada familia habría ganado mucho reconociendo quién ya estaba construyendo.

La cuarta objeción es de coherencia interna. El §72 confía a “los estados y las instituciones supranacionales” la garantía de reglas justas y mecanismos de protección eficaces; el §201 constata que esas instituciones están debilitadas y que el orden internacional se ha convertido en “un multipolarismo desordenado y conflictivo”. El documento no articula qué hacer en el intervalo, ni qué actores no estatales podrían sostener las auditorías y la participación que exige, y es precisamente en ese intervalo donde se consolidan los arreglos que después resultan difíciles de revertir. A esto se agrega el tratamiento ambiental. El §101 reconoce el consumo de energía y agua, pero lo resuelve en un párrafo que confía en “soluciones tecnológicas más sostenibles”, un remedio llamativamente técnico dentro de un texto que se define contra el paradigma tecnocrático y que tiene detrás el precedente mucho más exigente de Laudato si’.

Corresponde, por último, registrar lo que el documento hace consigo mismo, porque condiciona su credibilidad como texto de gobernanza. La sección titulada “Un examen para la Iglesia” (§86-89) aplica hacia adentro la subsidiariedad y la rendición de cuentas y pide organismos de participación “reales, no nominales”; el §176 pide perdón por la legitimación pontificia de la esclavitud en la Edad Moderna. Son gestos que los códigos de conducta corporativos rara vez incluyen. No eliminan la tensión de una institución fuertemente centralizada que predica la descentralización, ni la de un texto que, en su sección sobre educación (§144), pasa del diagnóstico de la desigualdad a la defensa del sostén público de las instituciones privadas, entre ellas las propias.

Con todo, se trata de una de las intervenciones normativas más ambiciosas sobre la gobernanza de la inteligencia artificial producidas fuera del Estado y de la industria, y de la única con una red institucional capaz de llevarla a escuelas, universidades y organizaciones sociales de todo el mundo. Para los estudios sobre ciencia y tecnología su utilidad es doble. Ofrece una categoría, la subsidiariedad invertida, que permite describir el poder de plataforma en un vocabulario reconocible por tradiciones políticas que desconfían tanto del Estado como del mercado. Y ofrece una tesis, la de que la alineación de los sistemas es una cuestión de justicia y no sólo de ingeniería, con una autoridad que ningún paper puede darle. Que su programa quede sin instrumentos no es, en la tradición en la que se inscribe, un defecto definitivo: Rerum novarum tampoco los tenía, y los fueron construyendo durante décadas quienes la leyeron como programa. La pregunta que deja abierta es quiénes van a hacer esa lectura esta vez.