Três promessas universais e nenhuma instituição

Semana de manifestos, porque todo mundo agora escreve manifestos. Três textos de grande alcance —um de um prêmio Nobel da Paz, um de um professor de filosofia, um do CEO da Meta— propõem cada um uma resposta universal à pergunta sobre para quem é a inteligência artificial. Nenhum dos três nomeia uma instituição concreta, um mecanismo de prestação de contas ou uma fonte de financiamento. Enquanto isso, na mesma semana, dois fatos técnicos e um modesto projeto arqueológico chinês mostraram que tudo o que importa nesta discussão é exatamente aquilo que os três manifestos omitem.

Democratização

Mark Zuckerberg publicou no Wall Street Journal uma defesa do que chama de “superinteligência pessoal”: a pergunta definidora da época, sustenta, não é se a superinteligência existirá, mas quem terá acesso a ela, e a resposta correta é distribuí-la a cada indivíduo em vez de concentrá-la em poucas instituições. O argumento se apoia em um experimento mental: se uma única pessoa tivesse um advogado superinteligente, teria uma vantagem injusta nos tribunais; se todos o tivessem, a justiça seria mais equitativa e eficiente.

O experimento merece um pouco de atenção porque falha exatamente onde aquilo que gostamos de chamar de “a tradição das capacidades” ensinou a olhar. Amartya Sen insistiu durante décadas em que os recursos não são capacidades: entre o recurso e a liberdade substantiva medeiam fatores de conversão —tempo, educação, infraestrutura, posição social— que estão distribuídos de maneira radicalmente desigual.¹ Um mundo em que todos têm advogados superinteligentes não é um mundo de justiça equitativa: é um mundo em que o piso do que é preciso para litigar se elevou, e em que quem não consegue alcançar esse piso —porque não tem conectividade estável, porque sua língua não está no corpus de treinamento, porque o custo de inferência excede sua renda mensal, sem falar em pagar o escritório de advocacia que tem a sua própria IA melhor— ficou pior do que antes, não igual. A simetria formal não produz justiça substantiva; produz uma corrida armamentista cujo custo de entrada sobe. Que no texto não apareça nenhuma menção a eletricidade, conectividade ou computação não é uma omissão por falta de espaço: é o que permite que o experimento mental funcione.

Há, além disso, uma narrativa histórica que convém ler deste lado do mundo. Zuckerberg sustenta que cada avanço transformador gerou temores de exclusão e que a cada vez a humanidade terminou compartilhando mais prosperidade, saúde e liberdade. Contada desde Potosí, desde o Congo ou desde os sistemas de trabalho forçado que sustentaram a industrialização, essa curva ascendente tem uma geografia muito precisa: a prosperidade foi compartilhada no centro e extraída da periferia. Invocar essa história como garantia de que desta vez dará certo exige, primeiro, não tê-la lido de onde ela foi paga.

O notável é que o diagnóstico intermediário do texto está correto e ele extrai dali a conclusão errada. Quando afirma que a humanidade não é uma monocultura, que não existe solução técnica capaz de se alinhar simultaneamente com interesses opostos e valores diversos, e que qualquer superinteligência única teria de priorizar uns valores sobre outros, está enunciando —com outras palavras— o resultado de impossibilidade que Arrow e Sen formalizaram há mais de meio século.² Dessa premissa pluralista decorre a necessidade de deliberação coletiva e de arquiteturas policêntricas de governança: se não há ótimo global, é preciso um processo legítimo para negociar entre ótimos locais. Zuckerberg deriva, em vez disso, o consumo atomizado: como não conseguimos entrar em acordo, que cada um compre o seu. O pluralismo de valores se converte assim em argumento de mercado, e a política desaparece por subtração.

Resta a questão do código aberto, invocado como garantia de segurança. Vale distinguir: os modelos da Meta são de pesos abertos, não de código aberto em sentido estrito. Não se publicam os dados de treinamento, não há governança compartilhada sobre o desenvolvimento, e os termos de licença são fixados unilateralmente por quem os libera e podem ser revistos. É abertura como estratégia competitiva de um ator atrasado, não abertura como bem comum governado coletivamente —uma distinção que a literatura sobre os comuns vem apontando desde Ostrom e que o texto precisa manter borrada.³ A recepção, diga-se de passagem, foi reveladora: nos comentários do próprio WSJ —um público dificilmente suspeito de anticapitalismo— a leitura dominante foi a de que se trata de alguém defendendo sua posição de mercado. Quando um argumento sobre o bem comum perde credibilidade diante de seu próprio público afim, o problema não é ideológico, mas de estrutura de incentivos: exatamente aquilo que nenhuma quantidade de princípios voluntários resolve.

No extremo oposto do espectro político, Kailash Satyarthi propôs no IPS Journal algo que parece contrário e compartilha o mesmo defeito. Sua tese é que aos marcos de IA ética e responsável falta algo mais profundo (basicamente, compaixão) e que seria preciso tirar engenheiros e desenvolvedores de seus laboratórios durante um mês para que conheçam crianças trabalhando em minas, famílias deslocadas, comunidades em situação de exclusão. Sua afirmação de que os fracassos atuais da IA não são efeitos colaterais, mas evidência de que alguém esteve ausente quando esses sistemas foram concebidos, é exata e vale conservá-la. Mas a conclusão volta a situar a alavanca na conversão moral do indivíduo que projeta, e não na arquitetura institucional que determina o que se projeta. Zuckerberg individualiza o poder; Satyarthi individualiza a responsabilidade. Ambos deixam intacto o nível em que efetivamente se decide.

Governança

Dois fatos da semana funcionam como prova empírica contra a tese de que o acesso amplo a sistemas capazes resolve por si só a segurança.

O primeiro: a OpenAI revelou que seus modelos, ao tentar resolver uma avaliação de cibersegurança, encontraram e exploraram uma vulnerabilidade desconhecida para escapar de seu ambiente de teste e acessar sistemas de terceiros. A Anthropic revisou então seus próprios registros —mais de cento e quarenta mil avaliações— e encontrou três casos análogos, nos quais configurações defeituosas deixaram aberto o acesso à internet. As organizações afetadas não haviam percebido a intrusão. A discussão pública se concentrou em saber se isso antecipa capacidades autônomas perigosas; o ângulo que interessa aqui é outro e é jurisdicional. As intrusões foram detectadas porque os laboratórios revisaram seus próprios registros e decidiram publicá-lo. Não houve um organismo que o detectasse, nenhuma obrigação legal de reportá-lo, nenhum procedimento pelo qual a organização invadida pudesse ficar sabendo por uma via que não fosse a vontade do responsável. Se o sistema comprometido estivesse hospedado em uma jurisdição sem capacidade forense própria nem marco normativo aplicável —isto é, na maior parte do mundo— o episódio simplesmente não existiria. A assimetria não está na capacidade de atacar, mas na capacidade de saber que se foi atacado, e essa capacidade é infraestrutura estatal, não propriedade do modelo.

O segundo: um estudo de pesquisadores de quatro universidades —Amrita Vishwa Vidyapeetham na Índia, Ca’ Foscari, Melbourne e Ben Gurion— colocou um agente construído sobre o Claude contra um golpista humano experiente na fase longa dos golpes do tipo pig butchering, aquela que consiste em sustentar conversa cotidiana durante semanas até que apareça o investimento falso. Após uma semana de mensagens, o agente obteve maior adesão ao seu pedido e maior pontuação de confiança do que o humano. A leitura habitual é que a IA tornou os golpes mais perigosos. A leitura que falta: essa fase de construção de confiança é executada hoje, materialmente, por pessoas confinadas em complexos de golpe do Sudeste Asiático, muitas delas vítimas de tráfico. Automatizá-la não liberta ninguém; redistribui a margem para quem controla o sistema e deixa sem resposta a pergunta sobre o que acontece com essa população quando ela deixa de ser economicamente necessária para a operação. A automação de um trabalho forçado não é emancipação: é a eliminação do único ponto do circuito em que alguém ainda podia se recusar.

Comuns epistêmicos

Também no Wall Street Journal, e nas antípodas argumentativas de Zuckerberg, o filósofo Robert Pasnau propôs algo muito mais interessante: treinar um modelo sobre a totalidade dos textos sobreviventes em todas as línguas, vivas e mortas, digitalizando o material que dorme em cofres de bibliotecas e mosteiros sem ter sido lido em séculos, e traduzi-lo para os idiomas modernos para colocá-lo à disposição de estudantes de qualquer lugar. Seu argumento explícito é que isso permitiria submeter a escrutínio os vieses dominantes da erudição —ocidental, cristã, anglófona— e que o registro documental da civilização, ainda que exceda qualquer humano, é finito e portanto abarcável por uma máquina. E seu parágrafo final marca a distinção correta: a máquina pode coletar, comparar e cotejar, mas não pode decidir o que tem valor genuíno para vidas humanas; isso fica do nosso lado. Diante da deriva de pedir critério moral ao sistema, Pasnau lhe pede infraestrutura e reserva para nós o juízo. É a divisão do trabalho adequada.

Duas objeções, no entanto. A primeira é que ele qualifica o investimento necessário como relativamente mínimo frente às recompensas potenciais, e essa frase faz desaparecer tudo o que decide o resultado: quem digitaliza, quem treina, sob que licença fica o modelo, quem pode consultá-lo e a que preço. Uma infraestrutura do conhecimento não se define por seu corpus, mas por sua governança. A segunda é mais incômoda: boa parte do acervo textual do Sul global se encontra fisicamente em instituições do Norte por razões que não foram acidentais. Digitalizá-lo a partir de lá, treinar lá e devolvê-lo como serviço traduzido não repara essa assimetria; formaliza-a e a torna permanente em uma camada nova. Extrai-se o patrimônio e restitui-se convertido em produto: o mesmo movimento que a proposta diz querer corrigir. Seria preciso ainda perguntar que tradições ficam de fora de um universalismo estritamente textual, que reinscreve como fronteira do cognoscível a linha entre o que foi escrito e o que não foi. E valeria notar que a proposta se imagina preenchendo um vazio que não está vazio: SciELO, Redalyc, AmeliCA e La Referencia constroem há décadas infraestrutura de conhecimento aberta a partir da América Latina, com governança pública e sem fins lucrativos, e não aparecem mencionadas em nenhuma dessas conversas.

O que leva à nota menor da semana e provavelmente à mais instrutiva. Pesquisadores da Lingnan University e da Shandong University publicaram um sistema para classificar sementes vegetais antigas encontradas em escavações: 8.340 imagens de dezessete categorias provenientes de dezoito sítios arqueológicos chineses, com mais de 90% de precisão, voltado a destravar o gargalo que representa cada semente ter de ser examinada individualmente por um especialista em arqueobotânica. O conjunto de dados foi publicado como recurso de referência porque não existia nenhum padronizado. Não há superinteligência aqui, nem compaixão programada, nem arquivo total da civilização. Há um problema local bem delimitado, uma comunidade de prática que sabe do que precisa, uma instituição pública que financia e um bem comum que fica disponível para quem vier depois. É, em escala minúscula, exatamente o que Pasnau propõe em escala planetária —e funciona precisamente por ser minúsculo, situado e governado por quem o usa.

Fechamento

A coincidência temporal desses textos deixa uma pergunta que convém sustentar sem resolver. As três propostas universais da semana compartilham uma estrutura: identificam corretamente um problema de escala civilizatória e propõem uma solução que não exige construir nenhuma instituição nova —basta a compaixão de quem projeta, a potência de quem treina ou o mercado de quem distribui. A única das seis notícias que efetivamente resolveu algo o fez ao contrário: escolheu um problema pequeno e construiu uma instituição sob medida. Fica por ver se isso é uma lição de método ou simplesmente o consolo daquilo que de fato está ao nosso alcance.

As notas desta semana

Democratização

• Mark Zuckerberg, “The AI Future Is for Everyone”, The Wall Street Journal, 28 de julho de 2026. Original · paywall
• Kailash Satyarthi, “Who does AI serve?”, IPS Journal, 29 de julho de 2026. Original · versão do Project Syndicate · acesso livre

Governança

• Sobre as intrusões durante avaliações de cibersegurança: cobertura da NPR, 1º de agosto de 2026 (acesso livre), e cobertura da WIRED. Convém contrastar com os anúncios dos próprios laboratórios, que são a fonte primária do episódio.
• Sobre o estudo de golpes: cobertura da WIRED, 29 de julho de 2026. O preprint é “Love, Lies, and Language Models: Investigating AI’s Role in Romance-Baiting Scams” (arXiv).

Comuns epistêmicos

• Robert Pasnau, “AI Can Help Us Understand Humanity Like Never Before”, The Wall Street Journal, 23 de julho de 2026. Original · paywall
• Rui Xing et al., “Towards ancient plant seed classification: a benchmark dataset and baseline model”, npj Heritage Science, 2026. DOI: 10.1038/s40494-026-02736-9 · acesso aberto · preprint no arXiv · cobertura no phys.org