Resenhas | guIA

A democracia não se suprime: condiciona-se

Mon, 31 Aug 2026 00:00:00 +0000

Innerarity, Daniel (2025). Una teoría crítica de la inteligencia artificial. Barcelona: Galaxia Gutenberg. ISBN 978-84-19738-37-0.

Há já tantos livros sobre inteligência artificial que a própria bibliografia adquiriu algo de corpus de treinamento: lemos com a suspeita crescente de estar diante de recombinações cada vez mais fluidas de um material prévio que ninguém se dá ao trabalho de questionar, distribuídas entre duas prateleiras que se ignoram cordialmente, a da profecia (onde a humanidade termina como bicho de estimação de seus sucessores evolutivos) e a das diretrizes éticas (onde sete princípios intercambiáveis, redigidos naquela prosa de consenso que não ofende ninguém porque não diz nada, garantem uma tecnologia confiável, centrada no humano e respeitosa da dignidade). O livro de Innerarity, laureado com o III Prêmio Eugenio Trías e terminado, conforme conta seu autor, no que foi o gabinete de Adorno no Institut für Sozialforschung, não pertence a nenhuma das duas, e seu primeiro mérito consiste precisamente em explicar por que nenhuma das duas poderia funcionar.

A introdução despacha as alternativas com uma economia que convém sublinhar. A moratória de 2023 é desmontada não por autoritária nem por ingênua, mas por incoerente: quem descreve uma ameaça existencial e em seguida propõe neutralizá-la com seis meses de pausa, esse prazo curiosamente administrativo que parece calculado sobre a duração de um semestre acadêmico, não está descrevendo o mundo, mas executando um ato retórico- performativo, valioso talvez para atrair atenção, porém inútil como diagnóstico. A ética recebe uma objeção mais fina e mais importante, porque não consiste em repetir a denúncia já rotineira do ethics washing, da qual o autor se distancia expressamente, mas em apontar uma insuficiência categorial: o eixo bem/mal não esgota as possibilidades de análise do real, e um buscador transparente e não discriminatório seria eticamente irrepreensível enquanto deixa fora do exame o fato, politicamente decisivo, de que uma empresa privada controla a acessibilidade pública da informação. Resta então a crítica, definida sem nenhuma concessão exortativa: não é um convite a fazer bem, mas uma indagação das condições estruturais que permitem ou impedem fazer bem, e só pode ser exercida se compreender e respeitar a complexidade daquilo que critica, exigência metodológica pela qual o livro pede, com certo risco, ser julgado.

As três partes vão da epistemologia à política. A primeira pergunta que tipo de inteligência, criatividade, dados e predição há realmente aqui; a segunda, que tipo de coisa é uma tecnologia, uma automação, uma máquina e uma opacidade; a terceira, o que acontece com a democracia quando essas coisas se instalam no centro de seus procedimentos. O primeiro capítulo, o mais extenso, sustenta arquitetonicamente os demais mediante um inventário das especificidades do conhecimento humano (senso comum como captação do contexto, reflexividade como saber que se sabe, saber implícito e corporalidade, versatilidade, gestão produtiva do erro e uma notável economia energética e epistêmica), de modo que quem impugnar esse inventário impugna bastante mais do que um capítulo.

As contribuições são várias e desiguais, e ao menos cinco merecem circular por conta própria. A primeira é conceitual: frente ao tecnoneutralismo, que trata a tecnologia como ferramenta à espera de um uso virtuoso, e frente ao tecnodeterminismo, que a trata como destino, Innerarity propõe a categoria de condicionamento, que abre corredores sem prescrever trajetos, e incita e desincentiva sem causar, com uma formulação feliz: a inteligência artificial condiciona muito mais do que creem os neutralistas e determina muito menos do que creem os deterministas, de maneira que insistir no determinismo não é constatar um fato, mas executar performativamente uma rendição. A segunda é uma inversão frontal da tese do capitalismo de vigilância: o problema não é que os sistemas nos conheçam demais, e sim de menos, porque registram rotinas e não anseios, e sobretudo porque, ocupados em condicionar nossas decisões presentes, desentendem-se das futuras; daí a fórmula que provavelmente sobreviverá ao livro, a saber, que a democracia não consiste em fazer o que queremos, mas em poder mudar o que queremos. A terceira desloca a privacidade do paradigma proprietário para o coletivo mediante um argumento de codependência difícil de refutar: quem cede seus dados não só se deixa classificar, também contribui para configurar os modelos com que serão classificados aqueles que não cederam nada, com o que o consentimento individual, alcançada certa massa crítica, se torna uma cerimônia; a verdadeira autodeterminação não seria possuir os próprios dados, mas o direito a não ser reduzido a eles. A quarta reorienta o debate sobre transparência para a justificabilidade e a contestabilidade, depois de adotar a tipologia de opacidades de Burrell (2016) e advertir que revelar o algoritmo de pontuação de uma plataforma empodera o sistema disciplinar e não o motorista. A quinta, no capítulo nono, constrói uma dialética em três tempos, delegação do controle, controle da delegação e delegação como controle, cuja analogia com a integração europeia, troca de soberania por poder, permite definir o populismo com uma precisão inesperada: supervalorização do controle direto, subvalorização do controle indireto.

O capítulo décimo quarto contém a tese mais ambiciosa e também a mais frágil. Innerarity renuncia deliberadamente a defender a democracia por via normativa e opta pela epistemológica: há coisas que a inteligência artificial não pode fazer porque não é capaz, não porque não deva, dado que a política opera na ambiguidade e na contingência enquanto os algoritmos exigem clareza e não toleram o borrado. Daí uma definição residual do político que vale por meio livro: é política aquela decisão que é preciso tomar quando já se sabe tudo o que podia ser sabido, consultaram-se todos os especialistas e esgotaram-se as técnicas de datificação disponíveis, e continua sem estar claro o que se deveria fazer. A objeção é evidente e o autor não a enfrenta: as razões que aduz (extrapolação de padrões passados, ausência de senso comum, incapacidade de reflexividade) são propriedades de uma arquitetura concreta num momento concreto, não verdades conceituais sobre a computação, de maneira que um argumento apresentado em registro forte se apoia em evidências que só sustentam o registro fraco. Um livro que dedica catorze capítulos a mostrar que a tecnologia condiciona sem determinar acaba concedendo ao estado da arte de 2024 uma autoridade que sua própria teoria lhe negava, e a parte do texto que envelhecerá primeiro é, com alguma ironia, a que parecia mais blindada. A versão robusta do argumento está à mão e o autor a tangencia sem adotá-la: o que resiste à automação não é uma carência das máquinas, mas uma propriedade daquelas decisões cuja legitimidade depende de sua autoria e não de sua correção.

Mais dois limites. Um livro que reivindica a genealogia de Frankfurt dedica surpreendentemente pouco espaço à propriedade das infraestruturas, à concentração de computação, ao trabalho de anotação e aos custos energéticos, de modo que o deslocamento da pergunta por quem possui para a pergunta por o que conhece, coerente com o diagnóstico de que o desafio é antes conceitual que normativo, tem o preço de deixar sem indagar uma série de condições estruturais que são, em boa medida, condições de propriedade. E o final é mais demanda que proposta: parlamentarizar a digitalização, o parlamento dos algoritmos, o demos digital e o pedido de um discurso de Gettysburg para a era algorítmica são metáforas potentes emitidas como promissórias institucionais, sem auditorias, fideicomissos nem mecanismos de contestabilidade que as respaldem.

Com tudo isso, trata-se da contribuição em língua espanhola mais rigorosa disponível sobre as implicações democráticas da automação decisória, e de uma das poucas, em qualquer língua, que um engenheiro pode ler sem se sentir caricaturado e um filósofo sem se sentir entretido. Para o campo dos estudos sobre ciência e tecnologia sua utilidade é dupla: oferece uma categoria, o condicionamento, exportável a outros objetos técnicos, e oferece um exemplo pouco frequente de como se substitui um vocabulário por outro sem fingir que se descobriu uma essência, quando propõe deixar de falar de impacto e começar a falar de coevolução. Que sua tese central seja deliberadamente sóbria, isto é, que a democracia na era da inteligência artificial não será nem superada nem suprimida, e sim condicionada, não deveria ser confundido com tibieza: é o que resta quando se retiram as duas histerias simétricas, e acaba sendo bastante mais do que parecia.

Continuar em Leão XIV: Magnifica humanitas

A destinação universal dos dados

Fri, 25 Sep 2026 00:00:00 +0000

Leão XIV (2026). Magnifica humanitas. Carta encíclica sobre a salvaguarda da pessoa humana na era da inteligência artificial. Cidade do Vaticano, 15 de maio de 2026.

Um documento magisterial não é um livro, e resenhá-lo como se fosse exige uma precisão prévia. A Magnifica humanitas não propõe uma tese de autor que se possa aceitar ou rejeitar em função da qualidade de seus argumentos. É o ato normativo de uma instituição que tem mais de um bilhão de membros, uma rede educacional e de saúde de alcance planetário e uma tradição doutrinal que funciona, em seus próprios termos, como um corpo cumulativo no qual cada documento se lê à luz dos anteriores. Essa condição determina o que se pode pedir a ela. Não se pode censurá-la, por exemplo, por não discutir a literatura como faria um artigo, mas é possível avaliar o que ela faz com os conceitos que recebe, o que incorpora de fora e que consequências institucionais decorrem do que afirma. Lida assim, a primeira encíclica dedicada à inteligência artificial revela-se um texto mais interessante do que fazia prever sua recepção jornalística, concentrada na condenação das armas autônomas e do transumanismo. Sua contribuição principal não está na antropologia, em boa medida herdeira da nota Antiqua et nova (2025), mas na doutrina da propriedade e do poder.

O documento organiza-se em cinco capítulos precedidos por uma introdução que fixa o quadro figurativo: a alternativa entre construir Babel, uma obra de “uma única língua, uma única tecnologia, uma única direção” (§7), e reconstruir com Neemias as muralhas de Jerusalém, onde cada família recebe um trecho e ninguém impõe “soluções vindas do alto” (§8). O primeiro capítulo reconstrói a tradição da doutrina social desde a Rerum novarum, cujo centésimo trigésimo quinto aniversário motiva o texto e cujo método, o exame das “coisas novas” de cada época, o autor reivindica como próprio. O segundo reformula os princípios (dignidade, bem comum, destinação universal dos bens, subsidiariedade, solidariedade, justiça social) e os recalibra para o ambiente digital. O terceiro ocupa-se da IA em sentido estrito e das correntes transumanistas; o quarto aplica os princípios à verdade pública, à educação, ao trabalho e às novas formas de escravidão; o quinto trata da guerra e do multilateralismo. A conclusão propõe um programa de vida cristã que culmina no Magnificat.

O movimento doutrinal mais relevante ocorre no segundo capítulo e consiste em estender a destinação universal dos bens às “novas formas de propriedade: patentes, algoritmos, plataformas digitais, infraestruturas tecnológicas e dados” (§67). A novidade deve ser medida com cuidado. A subordinação da propriedade privada à destinação universal é doutrina constante desde Leão XIII, e João Paulo II a havia chamado de “o primeiro princípio de toda a ordem ético-social” (§66). O que muda é o objeto. Ao incluir na lista bens imateriais cuja escassez é artificial, produzida por regimes de exclusividade e não pela natureza da coisa, a encíclica desloca o princípio para o terreno em que hoje se joga a economia política da IA. O §108 extrai a consequência: os dados “são fruto da contribuição de muitos e não podem ser vendidos ou confiados a poucos”, sua propriedade “não pode ser confiada apenas a entes privados” e convém geri-los “como um dos bens comuns ou coletivos”, com apoio na noção de bens coletivos da Centesimus annus (§40). É difícil exagerar o alcance potencial dessa formulação, que coloca sob autoridade magisterial uma tese que a literatura sobre comuns digitais e governança de dados vinha sustentando sem outro respaldo que o acadêmico.

A segunda contribuição, provavelmente a mais original do ponto de vista conceitual, é a reformulação da subsidiariedade. Formulado na Quadragesimo anno como limite à absorção de competências por instâncias superiores, o princípio foi lido durante boa parte do século XX como um argumento contra a expansão do Estado. O §71 o reorienta: “no contexto da revolução digital”, a instância superior “não é o Estado, mas cada um dos grandes atores económicos e tecnológicos que exercem um poder real sobre as condições da vida em comum”, e são empresas e plataformas que constituem a “instância agregadora de competências, dados e capacidade de decisão”. A exigência traduz-se em instrumentos (auditorias independentes, transparência algorítmica, acesso equitativo aos dados, instrumentos de recurso) e completa-se com uma advertência do §109 que tem valor teórico próprio: a participação das comunidades não pode ficar relegada “a uma mera vigilância, depois das normas terem sido definidas noutro local”. A imagem de Neemias adquire aqui um conteúdo preciso. O que ela descreve é uma forma de governança policêntrica no sentido de Ostrom, com múltiplos centros de decisão aninhados e coordenados por um bem comum, e o §153 a converte em critério de política quando afirma que “não há um modelo único de mudança nem uma solução global” e pede “experimentações locais” e “redistribuições progressivas”.

O terceiro capítulo contém a tese que conecta ambos os desenvolvimentos ao debate técnico contemporâneo. A IA não pode ser considerada moralmente neutra porque “todo o artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações” (§104), uma formulação que qualquer leitor de Langdon Winner reconhecerá. Daí decorre a afirmação mais afiada do documento, dirigida ao vocabulário da indústria: não basta invocar o “alinhamento” da IA com os valores humanos se não existir “a possibilidade de discutir o código ético a ser utilizado, submetendo-o a critérios de justiça social partilhada”, porque “não precisamos de uma IA mais moral, se esta moral for decidida por poucos” (§107). A categoria de “desarmamento” do §110, que pede “quebrar esta equivalência entre poder técnico e direito de governar” e tornar a IA “discutível, contestável e, portanto, habitável”, funciona como síntese política do capítulo. No quarto capítulo, a descrição do trabalho invisível da etiquetagem e da moderação (§173) e, sobretudo, a tese segundo a qual o colonialismo “apropria-se dos dados” e converte os registros sanitários e genéticos de territórios periféricos em “as novas ’terras raras’ do poder” (§178) introduzem na linguagem magisterial uma agenda que até agora pertencia aos estudos críticos de dados. A fórmula que fecha esse parágrafo (“a era digital não será pós-colonial, mas colonial duma outra forma”) tem a contundência das frases destinadas a ser citadas.

As objeções começam justamente aí. A primeira é de aparato. O documento reproduz com notável fidelidade categorias elaboradas por Couldry e Mejias (The Costs of Connection, 2019), Ricaurte (2019), Gray e Suri (Ghost Work, 2019) ou Crawford (Atlas of AI, 2021), mas suas notas remetem quase exclusivamente ao magistério, à Comissão Teológica Internacional e à Antiqua et nova. A omissão se explica pelas convenções do gênero, mas entra em tensão com o §23, que considera “essencial” o contributo das ciências sociais para aplicar os critérios doutrinais. Tem, além disso, um efeito prático: o leitor que quiser se aprofundar não encontra nas notas nenhuma via para a literatura que já fez o trabalho empírico, e a encíclica aparece como origem de conceitos dos quais é, a rigor, destinatária.

A segunda objeção é mais substantiva e refere-se à distância entre o diagnóstico e os instrumentos. O §109 identifica com precisão “as geografias do poder que definem quem pode treinar os modelos e quem é apenas objeto de treino”, mas quando o texto passa às propostas seu vocabulário é o do acesso: “o acesso universal às tecnologias e à formação” (§109), “investimentos em competências, infraestruturas e serviços essenciais” (§164). Acessar um sistema treinado em outro lugar não redistribui a capacidade de construí-lo, auditá-lo ou adaptá-lo, que é exatamente o que o diagnóstico aponta como assimetria. Os instrumentos que a literatura sobre comuns digitais associa a essa redistribuição (modelos de pesos abertos, computação pública, licenças que permitam estudar e modificar, infraestruturas de ciência aberta) não aparecem no texto. A exigência de retirar a IA “dos monopólios” e torná-la “contestável” (§110) é compatível com eles e poderia ser lida como seu fundamento, mas o documento não dá esse passo, e o princípio da destinação universal fica sem a tradução institucional que a Rerum novarum ofereceu em seu tempo, quando nomeou a associação operária.

A terceira objeção refere-se ao lugar do Sul Global. A expressão figura uma única vez (§204), a propósito dos gastos militares, e o resto do texto situa as regiões periféricas em posição de vítima: “reservatórios de mão de obra precária” (§153), territórios de extração mineral e de dados. O diagnóstico é correto e sua inclusão é um mérito, mas a omissão da outra metade não é neutra. A partir das epistemologias do Sul (Santos) e de experiências como o Masakhane ou o sistema SciELO/AmeliCA, o Sul não é apenas o lugar onde se padece a assimetria, mas também um lugar onde já existem alternativas institucionais em funcionamento, muitas vezes mais próximas da governança de comuns que a encíclica propõe do que qualquer arranjo do Norte. Um texto que escolheu como figura central quem reconstrói escutando cada família teria ganhado muito reconhecendo quem já estava construindo.

A quarta objeção é de coerência interna. O §72 confia “aos Estados e às instituições supranacionais” a garantia de regras justas e tutelas efetivas; o §201 constata que essas instituições “parecem enfraquecidas” e que a ordem internacional se converteu em “um multipolarismo desordenado e conflituoso”. O documento não articula o que fazer no intervalo, nem que atores não estatais poderiam sustentar as auditorias e a participação que exige, e é precisamente nesse intervalo que se consolidam os arranjos que depois se mostram difíceis de reverter. Soma-se a isso o tratamento ambiental. O §101 reconhece o consumo de energia e água, mas o resolve num parágrafo que confia em “soluções tecnológicas mais sustentáveis”, um remédio chamativamente técnico dentro de um texto que se define contra o paradigma tecnocrático e que tem atrás de si o precedente muito mais exigente da Laudato si’.

Cabe, por último, registrar o que o documento faz consigo mesmo, porque isso condiciona sua credibilidade como texto de governança. A seção que dedica ao exame de consciência da própria Igreja (§86-89) aplica para dentro a subsidiariedade e a prestação de contas e pede “organismos de participação reais, e não meramente nominais”; o §176 pede perdão pela legitimação pontifícia da escravidão na modernidade. São gestos que os códigos de conduta corporativos raramente incluem. Não eliminam a tensão de uma instituição fortemente centralizada que prega a descentralização, nem a de um texto que, em sua seção sobre educação (§144), passa do diagnóstico da desigualdade à defesa do apoio público às instituições privadas, entre elas as suas.

Com tudo isso, trata-se de uma das intervenções normativas mais ambiciosas sobre a governança da inteligência artificial produzidas fora do Estado e da indústria, e da única com uma rede institucional capaz de levá-la a escolas, universidades e organizações sociais do mundo inteiro. Para os estudos sobre ciência e tecnologia, sua utilidade é dupla. Oferece uma categoria, a subsidiariedade invertida, que permite descrever o poder de plataforma num vocabulário reconhecível por tradições políticas que desconfiam tanto do Estado quanto do mercado. E oferece uma tese, a de que o alinhamento dos sistemas é uma questão de justiça e não só de engenharia, com uma autoridade que nenhum artigo acadêmico pode lhe dar. Que seu programa fique sem instrumentos não é, na tradição em que se inscreve, um defeito definitivo: a Rerum novarum também não os tinha, e eles foram construídos durante décadas por quem a leu como programa. A pergunta que deixa em aberto é quem vai fazer essa leitura desta vez.