A democracia não se suprime: condiciona-se

Innerarity, Daniel (2025). Una teoría crítica de la inteligencia artificial. Barcelona: Galaxia Gutenberg. ISBN 978-84-19738-37-0.

Há já tantos livros sobre inteligência artificial que a própria bibliografia adquiriu algo de corpus de treinamento: lemos com a suspeita crescente de estar diante de recombinações cada vez mais fluidas de um material prévio que ninguém se dá ao trabalho de questionar, distribuídas entre duas prateleiras que se ignoram cordialmente, a da profecia (onde a humanidade termina como bicho de estimação de seus sucessores evolutivos) e a das diretrizes éticas (onde sete princípios intercambiáveis, redigidos naquela prosa de consenso que não ofende ninguém porque não diz nada, garantem uma tecnologia confiável, centrada no humano e respeitosa da dignidade). O livro de Innerarity, laureado com o III Prêmio Eugenio Trías e terminado, conforme conta seu autor, no que foi o gabinete de Adorno no Institut für Sozialforschung, não pertence a nenhuma das duas, e seu primeiro mérito consiste precisamente em explicar por que nenhuma das duas poderia funcionar.

A introdução despacha as alternativas com uma economia que convém sublinhar. A moratória de 2023 é desmontada não por autoritária nem por ingênua, mas por incoerente: quem descreve uma ameaça existencial e em seguida propõe neutralizá-la com seis meses de pausa, esse prazo curiosamente administrativo que parece calculado sobre a duração de um semestre acadêmico, não está descrevendo o mundo, mas executando um ato retórico- performativo, valioso talvez para atrair atenção, porém inútil como diagnóstico. A ética recebe uma objeção mais fina e mais importante, porque não consiste em repetir a denúncia já rotineira do ethics washing, da qual o autor se distancia expressamente, mas em apontar uma insuficiência categorial: o eixo bem/mal não esgota as possibilidades de análise do real, e um buscador transparente e não discriminatório seria eticamente irrepreensível enquanto deixa fora do exame o fato, politicamente decisivo, de que uma empresa privada controla a acessibilidade pública da informação. Resta então a crítica, definida sem nenhuma concessão exortativa: não é um convite a fazer bem, mas uma indagação das condições estruturais que permitem ou impedem fazer bem, e só pode ser exercida se compreender e respeitar a complexidade daquilo que critica, exigência metodológica pela qual o livro pede, com certo risco, ser julgado.

As três partes vão da epistemologia à política. A primeira pergunta que tipo de inteligência, criatividade, dados e predição há realmente aqui; a segunda, que tipo de coisa é uma tecnologia, uma automação, uma máquina e uma opacidade; a terceira, o que acontece com a democracia quando essas coisas se instalam no centro de seus procedimentos. O primeiro capítulo, o mais extenso, sustenta arquitetonicamente os demais mediante um inventário das especificidades do conhecimento humano (senso comum como captação do contexto, reflexividade como saber que se sabe, saber implícito e corporalidade, versatilidade, gestão produtiva do erro e uma notável economia energética e epistêmica), de modo que quem impugnar esse inventário impugna bastante mais do que um capítulo.

As contribuições são várias e desiguais, e ao menos cinco merecem circular por conta própria. A primeira é conceitual: frente ao tecnoneutralismo, que trata a tecnologia como ferramenta à espera de um uso virtuoso, e frente ao tecnodeterminismo, que a trata como destino, Innerarity propõe a categoria de condicionamento, que abre corredores sem prescrever trajetos, e incita e desincentiva sem causar, com uma formulação feliz: a inteligência artificial condiciona muito mais do que creem os neutralistas e determina muito menos do que creem os deterministas, de maneira que insistir no determinismo não é constatar um fato, mas executar performativamente uma rendição. A segunda é uma inversão frontal da tese do capitalismo de vigilância: o problema não é que os sistemas nos conheçam demais, e sim de menos, porque registram rotinas e não anseios, e sobretudo porque, ocupados em condicionar nossas decisões presentes, desentendem-se das futuras; daí a fórmula que provavelmente sobreviverá ao livro, a saber, que a democracia não consiste em fazer o que queremos, mas em poder mudar o que queremos. A terceira desloca a privacidade do paradigma proprietário para o coletivo mediante um argumento de codependência difícil de refutar: quem cede seus dados não só se deixa classificar, também contribui para configurar os modelos com que serão classificados aqueles que não cederam nada, com o que o consentimento individual, alcançada certa massa crítica, se torna uma cerimônia; a verdadeira autodeterminação não seria possuir os próprios dados, mas o direito a não ser reduzido a eles. A quarta reorienta o debate sobre transparência para a justificabilidade e a contestabilidade, depois de adotar a tipologia de opacidades de Burrell (2016) e advertir que revelar o algoritmo de pontuação de uma plataforma empodera o sistema disciplinar e não o motorista. A quinta, no capítulo nono, constrói uma dialética em três tempos, delegação do controle, controle da delegação e delegação como controle, cuja analogia com a integração europeia, troca de soberania por poder, permite definir o populismo com uma precisão inesperada: supervalorização do controle direto, subvalorização do controle indireto.

O capítulo décimo quarto contém a tese mais ambiciosa e também a mais frágil. Innerarity renuncia deliberadamente a defender a democracia por via normativa e opta pela epistemológica: há coisas que a inteligência artificial não pode fazer porque não é capaz, não porque não deva, dado que a política opera na ambiguidade e na contingência enquanto os algoritmos exigem clareza e não toleram o borrado. Daí uma definição residual do político que vale por meio livro: é política aquela decisão que é preciso tomar quando já se sabe tudo o que podia ser sabido, consultaram-se todos os especialistas e esgotaram-se as técnicas de datificação disponíveis, e continua sem estar claro o que se deveria fazer. A objeção é evidente e o autor não a enfrenta: as razões que aduz (extrapolação de padrões passados, ausência de senso comum, incapacidade de reflexividade) são propriedades de uma arquitetura concreta num momento concreto, não verdades conceituais sobre a computação, de maneira que um argumento apresentado em registro forte se apoia em evidências que só sustentam o registro fraco. Um livro que dedica catorze capítulos a mostrar que a tecnologia condiciona sem determinar acaba concedendo ao estado da arte de 2024 uma autoridade que sua própria teoria lhe negava, e a parte do texto que envelhecerá primeiro é, com alguma ironia, a que parecia mais blindada. A versão robusta do argumento está à mão e o autor a tangencia sem adotá-la: o que resiste à automação não é uma carência das máquinas, mas uma propriedade daquelas decisões cuja legitimidade depende de sua autoria e não de sua correção.

Mais dois limites. Um livro que reivindica a genealogia de Frankfurt dedica surpreendentemente pouco espaço à propriedade das infraestruturas, à concentração de computação, ao trabalho de anotação e aos custos energéticos, de modo que o deslocamento da pergunta por quem possui para a pergunta por o que conhece, coerente com o diagnóstico de que o desafio é antes conceitual que normativo, tem o preço de deixar sem indagar uma série de condições estruturais que são, em boa medida, condições de propriedade. E o final é mais demanda que proposta: parlamentarizar a digitalização, o parlamento dos algoritmos, o demos digital e o pedido de um discurso de Gettysburg para a era algorítmica são metáforas potentes emitidas como promissórias institucionais, sem auditorias, fideicomissos nem mecanismos de contestabilidade que as respaldem.

Com tudo isso, trata-se da contribuição em língua espanhola mais rigorosa disponível sobre as implicações democráticas da automação decisória, e de uma das poucas, em qualquer língua, que um engenheiro pode ler sem se sentir caricaturado e um filósofo sem se sentir entretido. Para o campo dos estudos sobre ciência e tecnologia sua utilidade é dupla: oferece uma categoria, o condicionamento, exportável a outros objetos técnicos, e oferece um exemplo pouco frequente de como se substitui um vocabulário por outro sem fingir que se descobriu uma essência, quando propõe deixar de falar de impacto e começar a falar de coevolução. Que sua tese central seja deliberadamente sóbria, isto é, que a democracia na era da inteligência artificial não será nem superada nem suprimida, e sim condicionada, não deveria ser confundido com tibieza: é o que resta quando se retiram as duas histerias simétricas, e acaba sendo bastante mais do que parecia.