La democracia no se suprime: se condiciona
Innerarity, Daniel (2025). Una teoría crítica de la inteligencia artificial. Barcelona: Galaxia Gutenberg. ISBN 978-84-19738-37-0.
Hay ya tantos libros sobre inteligencia artificial que la propia bibliografía ha adquirido algo de corpus de entrenamiento: uno los lee con la sospecha creciente de estar ante recombinaciones cada vez más fluidas de un material previo que nadie se molesta en cuestionar, distribuidas entre dos estantes que se ignoran cordialmente, el de la profecía (donde la humanidad termina como mascota de sus sucesores evolutivos) y el de las directrices éticas (donde siete principios intercambiables, redactados en esa prosa de consenso que no ofende a nadie porque no dice nada, garantizan una tecnología fiable, centrada en el humano y respetuosa con la dignidad). El libro de Innerarity, galardonado con el III Premio Eugenio Trías y terminado, según cuenta su autor, en el que fue el despacho de Adorno en el Institut für Sozialforschung, no pertenece a ninguno de los dos, y su primer mérito consiste precisamente en explicar por qué ninguno de los dos podía funcionar.
La introducción despacha las alternativas con una economía que conviene subrayar. La moratoria de 2023 se desmonta no por autoritaria ni por ingenua sino por incoherente: quien describe una amenaza existencial y a continuación propone neutralizarla con seis meses de pausa, ese plazo curiosamente administrativo que parece calculado sobre la duración de un semestre académico, no está describiendo el mundo sino ejecutando un acto retórico-performativo, valioso quizá para concitar atención pero inútil como diagnóstico. La ética recibe una objeción más fina y más importante, porque no consiste en repetir la denuncia ya rutinaria del ethics washing, de la que el autor se distancia expresamente, sino en señalar una insuficiencia categorial: el eje bien/mal no agota las posibilidades de análisis de lo real, y un buscador transparente y no discriminatorio sería éticamente irreprochable mientras deja fuera del examen el hecho, políticamente decisivo, de que una empresa privada controle la accesibilidad pública de la información. Queda entonces la crítica, definida sin ninguna concesión exhortativa: no es una invitación a hacerlo bien sino una indagación de las condiciones estructurales que permiten o impiden hacerlo bien, y sólo puede ejercerse si comprende y respeta la complejidad de aquello que critica, exigencia metodológica por la que el libro pide, con cierto riesgo, ser juzgado.
Las tres partes van de la epistemología a la política. La primera pregunta qué clase de inteligencia, creatividad, datos y predicción hay realmente aquí; la segunda, qué clase de cosa es una tecnología, una automatización, una máquina y una opacidad; la tercera, qué le ocurre a la democracia cuando esas cosas se instalan en el centro de sus procedimientos. El capítulo primero, el más extenso, sostiene arquitectónicamente a los restantes mediante un inventario de las especificidades del conocimiento humano (sentido común como captación del contexto, reflexividad como saber que se sabe, saber implícito y corporalidad, versatilidad, gestión productiva del error y una notable economía energética y epistémica), de modo que quien impugne ese inventario impugna bastante más que un capítulo.
Las aportaciones son varias y desiguales, y al menos cinco merecen circular por su cuenta. La primera es conceptual: frente al tecnoneutralismo, que trata la tecnología como herramienta a la espera de un uso virtuoso, y frente al tecnodeterminismo, que la trata como destino, Innerarity propone la categoría de condicionamiento, que abre corredores sin prescribir trayectos, e incita y desincentiva sin causar, con una formulación afortunada: la inteligencia artificial condiciona mucho más de lo que creen los neutralistas y determina mucho menos de lo que creen los deterministas, de manera que insistir en el determinismo no es constatar un hecho sino ejecutar performativamente una rendición. La segunda es una inversión frontal de la tesis del capitalismo de la vigilancia: el problema no es que los sistemas nos conozcan demasiado, sino demasiado poco, porque registran rutinas y no anhelos, y sobre todo porque, ocupados en condicionar nuestras decisiones presentes, se desentienden de las futuras; de ahí la fórmula que probablemente sobrevivirá al libro, a saber, que la democracia no consiste en hacer lo que queremos sino en poder cambiar lo que queremos. La tercera desplaza la privacidad del paradigma propietario al colectivo mediante un argumento de codependencia difícil de refutar: quien cede sus datos no sólo se deja clasificar, también contribuye a configurar los modelos con que serán clasificados quienes no cedieron nada, con lo cual el consentimiento individual, alcanzada cierta masa crítica, se vuelve una ceremonia; la verdadera autodeterminación no sería poseer los propios datos sino el derecho a no ser reducido a ellos. La cuarta reorienta el debate sobre transparencia hacia la justificabilidad y la contestabilidad, tras adoptar la tipología de opacidades de Burrell (2016) y advertir de que revelar el algoritmo de puntuación de una plataforma empodera al sistema disciplinario y no al conductor. La quinta, en el capítulo noveno, construye una dialéctica en tres tiempos, delegación del control, control de la delegación y delegación como control, cuya analogía con la integración europea, intercambio de soberanía por poder, permite definir el populismo con una precisión inesperada: sobrevaloración del control directo, infravaloración del control indirecto.
El capítulo decimocuarto contiene la tesis más ambiciosa y también la más frágil. Innerarity renuncia deliberadamente a defender la democracia por vía normativa y opta por la epistemológica: hay cosas que la inteligencia artificial no puede hacer porque no es capaz, no porque no deba, dado que la política opera en la ambigüedad y la contingencia mientras los algoritmos exigen claridad y no toleran lo borroso. De ahí una definición residual de lo político que vale por medio libro: es política aquella decisión que hay que tomar cuando ya se sabe cuanto podía saberse, se ha consultado a todos los expertos y se han agotado las técnicas de datificación disponibles, y sigue sin estar claro qué habría que hacer. La objeción es evidente y el autor no la afronta: las razones que aduce (extrapolación de patrones pasados, ausencia de sentido común, incapacidad de reflexividad) son propiedades de una arquitectura concreta en un momento concreto, no verdades conceptuales sobre la computación, de manera que un argumento presentado en registro fuerte se apoya en evidencias que sólo sostienen el registro débil. Un libro que dedica catorce capítulos a mostrar que la tecnología condiciona sin determinar acaba concediendo al estado del arte de 2024 una autoridad que su propia teoría le negaba, y la parte del texto que envejecerá antes es, con alguna ironía, la que parecía más blindada. La versión robusta del argumento está a mano y el autor la roza sin adoptarla: lo que resiste la automatización no es una carencia de las máquinas sino una propiedad de aquellas decisiones cuya legitimidad depende de su autoría y no de su corrección.
Dos límites más. Un libro que reclama la genealogía de Fráncfort dedica sorprendentemente poco espacio a la propiedad de las infraestructuras, la concentración de cómputo, el trabajo de anotación y los costes energéticos, de modo que el desplazamiento de la pregunta por quién posee hacia la pregunta por qué conoce, coherente con el diagnóstico de que el desafío es antes conceptual que normativo, tiene el precio de dejar sin indagar unas condiciones estructurales que son, en buena medida, condiciones de propiedad. Y el final es más demanda que propuesta: parlamentarizar la digitalización, el parlamento de los algoritmos, el demos digital y la petición de un discurso de Gettysburg para la era algorítmica son metáforas potentes emitidas como pagarés institucionales, sin auditorías, fideicomisos ni mecanismos de contestabilidad que las respalden.
Con todo, se trata de la contribución en lengua española más rigurosa disponible sobre las implicaciones democráticas de la automatización decisional, y de una de las pocas, en cualquier lengua, que un ingeniero puede leer sin sentirse caricaturizado y un filósofo sin sentirse entretenido. Para el campo de los estudios sobre ciencia y tecnología su utilidad es doble: ofrece una categoría, el condicionamiento, exportable a otros objetos técnicos, y ofrece un ejemplo poco frecuente de cómo se sustituye un vocabulario por otro sin fingir que se ha descubierto una esencia, cuando propone dejar de hablar de impacto y empezar a hablar de coevolución. Que su tesis central sea deliberadamente sobria, esto es, que la democracia en la era de la inteligencia artificial ni se superará ni se suprimirá sino que se condicionará, no debería confundirse con tibieza: es lo que queda cuando se retiran las dos histerias simétricas, y resulta ser bastante más de lo que parecía.