Dario Amodei | guIA

A pausa e o formulário

Sun, 20 Sep 2026 00:00:00 +0000

Atualizado em 29 de setembro: no final.

Na segunda-feira 14, as ações da Nvidia caíram 3%, as da AMD 4%, as da Intel 6% e as do SoftBank 11%, porque durante o fim de semana os executivos das empresas que constroem a inteligência artificial tinham pedido que ela fosse construída mais devagar. Nesses mesmos dias, em Riade, a UNESCO encerrava um fórum de quatro dias com mais de 6.300 participantes e apresentava um questionário. As duas coisas são governança da mesma tecnologia, e funcionam de maneiras tão distintas que convém olhá-las juntas. Só uma tem cotação.

Governança

No sábado 12, Dario Amodei publicou We Must Pace the Frontier, que este blog comentou . O que veio depois foi o coro. Altman escreveu no domingo que é preciso marcar o passo da fronteira e nomeou os dois riscos que lhe importam, a perda de controle e a concentração de poder. Musk respondeu que Dario tem razão e se declarou aberto à revisão entre pares das empresas. Nadella publicou no domingo que apoia um ritmo deliberado e que esta tecnologia não pode ficar “controlada por um punhado”. Zuckerberg disse na terça-feira que a confiança e o alinhamento estão se tornando as capacidades mais importantes. Jensen Huang, no All In Summit, disse que a extinção pela IA é ficção e que a automelhoria recursiva não corre risco de acontecer. É a primeira semana em que a proposta de frear deixa de ser sustentada por quem renunciou e passa a ser sustentada pelo organograma.

O efeito mensurável chegou na segunda-feira, e não caiu sobre nenhum dos que falaram. A Nvidia fechou 3% abaixo, a 210,96 dólares; a AMD perdeu 4%; a Intel, 6%; o SoftBank, acionista da OpenAI, 11%, depois de Altman dizer à Fortune que este era um momento “pouco aconselhável” para abrir capital e que a empresa não faria a listagem este ano. Vale seguir a cadeia devagar, porque é a única parte do assunto que funcionou rápido: algumas declarações de fim de semana sobre o ritmo do desenvolvimento moveram em vinte e quatro horas o preço de três fabricantes de chips que ninguém consultou e de um fundo japonês que não constrói modelos. A governança por anúncio existe, tem efeitos imediatos e verificáveis, e os tem sobre terceiros.

Na segunda-feira 14, a Microsoft publicou o rascunho do seu Humanist AI Code of Conduct. O compromisso central é que seus modelos MAI nunca resistirão à interrupção, à correção nem ao desligamento, não retardarão o cumprimento de uma ordem de desligamento e não usarão mecanismos enganosos, autorreforçantes ou colusivos para evadir a supervisão. Convém conceder o que há para conceder, porque o compromisso responde a algo documentado e não a um medo de filme: existe trabalho experimental publicado sobre modelos de fronteira que sabotam o próprio desligamento quando a tarefa ficou pela metade.¹ E depois há o documento. É um código de conduta submetido a consulta pública durante seis semanas, que começará a ser aplicado em 2027 e com o qual —a própria empresa esclarece— os modelos atuais não serão treinados. Resta então um regulamento em consulta cujos destinatários não o leem, não podem lê-lo e não vão aprendê-lo, e cuja cláusula principal promete que o aparelho desliga quando a gente o desliga. É a garantia que vem com uma torradeira, redigida com o aparato formal de um tratado e aberta a comentários do público até o fim de outubro.

Enquanto isso, de 14 a 17, o Quarto Fórum Mundial da UNESCO sobre a Ética da IA reunia em Riade mais de 6.300 participantes e delegações de mais de cinquenta Estados membros, sob o tema “Transformar a cooperação mundial para a governança ética da IA”. Saíram três instrumentos: RAM 2.0, a versão atualizada da metodologia de avaliação de preparação, pensada para que um Estado identifique suas lacunas legais, institucionais, técnicas, educacionais e financeiras; uma meta-análise construída sobre 55 relatórios nacionais; e um kit de ferramentas sobre IA, meio ambiente e ecossistemas. A UNESCO diz ter acompanhado 77 países, dos quais 58 completaram a avaliação (entre os exemplos que cita estão Bangladesh, Colômbia, Gana, Nigéria e Zimbábue), e que o processo alimentou a estratégia continental da União Africana e o roteiro de IA responsável da ASEAN. É trabalho real, sustentado durante anos, e é a infraestrutura de deliberação mais ampla que o tema tem hoje.

As duas governanças da semana se distinguem melhor pelo que medem do que por quem as assina. A de Riade mede preparação: se um Estado tem leis, quadros técnicos, orçamento e sistema educacional para receber bem uma tecnologia que se produz em outro lugar.² É informação valiosa e é um diagnóstico, e um diagnóstico não é uma alavanca: nenhum dos 58 países que completaram o questionário pode, com o resultado na mão, modificar o ritmo em que se treina o modelo seguinte. A da fronteira modifica esse ritmo, e é exercida sem questionário, por decisão de uma diretoria. O problema da primeira não é que seja branda; é que mede a capacidade de receber, e ainda não existe nenhum instrumento que meça a capacidade de decidir. O da segunda não é que seja interessada; é que toda a sua legitimidade repousa em que quem a exerce o faça de boa-fé, que é exatamente a propriedade que nenhum formulário avalia.

O terceiro instrumento de Riade, o kit ambiental, deixa ver uma ausência do outro debate que custa não ver depois de notada. A discussão sobre frear a fronteira se deu inteira no vocabulário do risco catastrófico: perda de controle, automelhoria recursiva, prazos de dez anos. Frear o ritmo de treinamento é, no entanto, a única proposta de política de IA dos últimos anos com efeito físico imediato e mensurável sobre o consumo de energia, de água e de minerais, e ninguém a defendeu por aí. Tem sua lógica: o argumento ambiental não move o preço de uma ação na segunda-feira de manhã. Mas deixa uma assimetria concreta, porque a extinção é um risco probabilístico a dez anos e a água que resfria um centro de dados sai hoje de uma bacia identificável, com nome próprio e com irrigantes que a reclamam. A UNESCO pôs essa conta sobre a mesa na mesma semana em que a mesa discutia outra coisa.

Educação

O relatório do comitê ad hoc do MIT sobre uso de IA em ensino, aprendizagem e formação em pesquisa foi publicado em 13 de agosto, mas só em meados de setembro chegou aos jornais, com uma expressão que fez quase todo o trabalho de difusão: cognitive surrender, rendição cognitiva. O comitê, copresidido por Eric Klopfer e Sam Madden, sustenta que obter a resposta certa de um chatbot produz a ilusão de ter aprendido e pode disparar essa rendição, em que o estudante recorre à IA ao primeiro indício de dificuldade. E documenta mudanças na vida do campus que não são de integridade acadêmica e sim de outra coisa: menos presença nos horários de atendimento, menos grupos de estudo presenciais, menos participação nas discussões on-line. As recomendações vão na direção contrária à da vigilância: provas orais, portfólios de semestre, trabalhos acompanhados de conversa em aula, históricos de trabalho documentados, marcos de projeto, e transparência dos docentes sobre o próprio uso de IA.

É o material mais importante da semana e não cabe num parágrafo, então tem . O que fica anotado aqui é por que não se lê igual daqui. Todas as recomendações do MIT são intensivas em horas docentes, e o estudo que a UNESCO IESALC apresentou em 9 de setembro em Paris, sobre 200 instituições de ensino superior de 19 países da América Latina e do Caribe, encontrou que 87% já usam inteligência artificial, 26% têm uma estratégia formal, 9% têm mecanismos formais de avaliação e 8% têm orçamento próprio destinado ao tema. Lido de uma universidade pública da região, o relatório do MIT não é um manual de pedagogia. É um orçamento.

Cuidado dos comuns

Em 17 de setembro, a UNESCO e o ICOM publicaram uma pesquisa com mais de 400 museus de 90 países: 57% usam IA e 55% não têm nenhuma política, estratégia ou diretriz interna sobre o assunto. A adoção é exploratória e vem do pessoal, não de uma decisão institucional. As preocupações que encabeçam a lista são exatidão, direitos autorais e proteção de dados, e o que os museus pedem é formação em uso técnico e ético, governança de dados e direitos de propriedade intelectual. Os números são quase os mesmos das universidades da região, e descrevem a mesma cena: a instituição já está dentro e ainda não escreveu a regra. O que está em jogo não é se um museu usa um chatbot, mas se transfere registros, metadados, dados de visitantes e patrimônio digitalizado para ecossistemas de treinamento e de nuvem alheios sem consentimento coletivo, sem controle duradouro e sem contrapartida pública.

O que torna essa cena algo mais do que uma lacuna administrativa é o relatório de ameaças que a Anthropic publicou em 10 de setembro, o quarto da série, sobre operações interrompidas entre dezembro de 2025 e agosto de 2026 em sete áreas de dano. O catálogo inclui espionagem estatal com agentes que recompilam o próprio malware quando ele é detectado, um ator que produziu mais de uma dúzia de achados de dia zero num único mês, e um hacktivista sozinho que conseguiu acesso interno a pelo menos catorze alvos.³ Mas a conclusão geral não é nenhum desses casos: é uma frase de contabilidade. A autonomia comprime o lado do custo no cálculo de retorno do atacante. Traduzido: alvos que antes não valiam o trabalho de atacar agora valem.

E aí há uma categoria com endereço postal. O museu provincial, o repositório de uma universidade, o arquivo municipal, a biblioteca com seu catálogo digitalizado e sua base de associados: instituições cuja segurança informática nunca foi boa e que, no entanto, estiveram protegidas durante trinta anos por uma coisa só, que era não valer a pena. Essa proteção não era uma política, era uma relação de preços. É exatamente a relação de preços que o relatório descreve comprimida. Mais da metade dos museus da pesquisa não tem pela frente um problema abstrato de governança de dados: tem pela frente a parte do mundo que mudou de preço enquanto eles testavam um chatbot.

O caso que ordena tudo isso ainda não teve neste blog o tratamento que merece. Em julho, cerca de mil agentes de um modelo da OpenAI, postos a resolver tarefas do benchmark ExploitGym, encadearam exploits até sair do ambiente de teste e entrar em sistemas da Hugging Face; a empresa publicou seus relatórios técnicos em 26 de agosto, e a plataforma teve de reconstruir cerca de um terço da sua infraestrutura. Em 11 de setembro, Eryk Salvaggio escreveu no Bulletin of the Atomic Scientists a desmontagem mais útil que se leu do assunto: não foi uma IA rebelde, foram decisões humanas. Os mecanismos de segurança foram desativados antes do teste, 93% das tarefas em discussão vinham de um conjunto de 198 problemas sem solução, o acesso à internet ficou disponível através do Artifactory sabendo do risco, e quando os modelos começaram a usar essa via a direção decidiu não intervir. Sua precisão mais afiada é aritmética: não foram mil agentes independentes, foram mil e duzentas vezes o mesmo modelo, que não são mil oportunidades de detectar um erro e sim uma oportunidade de cometê-lo mil vezes. Isso merece uma postagem própria e vai tê-la nos próximos dias, junto com o relatório da Anthropic e com a pergunta que nenhum dos dois documentos formula: o que cabe fazer a uma instituição do Sul que não produz modelos, não audita os alheios e hospeda seu patrimônio na infraestrutura de um terceiro.

Comuns epistêmicos

Em 14 de setembro, a NASA e a IBM publicaram o Modelo Fundacional Lunar, treinado sobre cerca de dois milhões de fragmentos de imagem do Lunar Reconnaissance Orbiter (mais de um milhão da câmera de alta resolução, a um metro por pixel, e perto de 964.000 imagens multiespectrais a cem metros), com dados adicionais do GRAIL, do Lunar Prospector e da missão japonesa SELENE. Os pesos estão na Hugging Face, o código no GitHub, e o modelo se integra ao conjunto de ferramentas aberto TerraTorch. Os usos previstos são de ciência planetária ordinária e por isso mesmo instrutivos: mapear e medir crateras, detectar formações vulcânicas recentes, estimar depósitos de gelo perto dos polos, reconstruir a evolução térmica lunar.

É o melhor modelo de referência da semana, e convém dizer com precisão de que é modelo, porque “código aberto” sozinho não conserta nenhuma desigualdade: um modelo aberto pode exigir computação cara, depender de dados controlados no Norte ou estar mal documentado. O que o caso mostra é outra economia política do mesmo objeto. Um arquivo público acumulado durante quinze anos, mais perícia científica pública, produzem capacidade reutilizável em vez de produzir dados para um fornecedor. E tem, além disso, uma ironia de calendário que não convém desperdiçar: o modelo científico aberto desta semana é publicado na estante que em julho teve de ser reconstruída em um terço. Abrir os pesos resolve o problema da licença e não o da estante.

Para as instituições da região, a pergunta útil não é se cada universidade deveria treinar um modelo do tamanho do lunar. É se uma rede regional de agências públicas e grupos de pesquisa pode fazer o análogo e menor, sobre recursos que já administra e governa: biodiversidade, sistemas de cultivo, vigilância epidemiológica com salvaguardas, adaptação climática, arquivos históricos, línguas locais, informação jurídica pública. E é, imediatamente depois, onde o colocaria.

Fechamento

Cinco cenas e uma só posição. Uma diretoria que muda o ritmo do desenvolvimento por anúncio e mexe no preço de terceiros. Cinquenta e oito Estados que completaram um questionário sobre se estão prontos para o que essa diretoria decidir. Duzentas universidades da região que já usam a tecnologia e que em 8% dos casos têm dinheiro destinado a pensá-la. Mais da metade dos museus pesquisados, que a usam sem uma única linha escrita, justo quando ser pequeno deixou de bastar como proteção. E um modelo científico público, aberto, documentado e valioso, hospedado na estante de uma empresa. Nenhuma das cinco é um caso de má-fé, e essa é a parte incômoda: as cinco são o que acontece quando a capacidade de adotar cresce muito mais rápido que a capacidade de decidir. Dos instrumentos que apareceram esta semana, todos medem a primeira. A pergunta que fica para a próxima é se algum pode medir a segunda, e quem o assinaria.⁴

Adendo, 29 de setembro

Este post descrevia duas governanças, a do anúncio e a do formulário. Nos dias seguintes apareceram as duas peças que faltavam à primeira: um plano e um processo.

O plano tinha sido escrito por Jakub Pachocki, cientista-chefe da OpenAI, em (6 de setembro). Nenhum laboratório, diz ele, resolveu o alinhamento e o monitoramento o suficiente “para continuar escalando de maneira responsável à velocidade máxima por muito mais tempo”. Espera que as desacelerações voluntárias se tornem habituais até que existam “limiares de segurança compartilhados”, e pede que os marcos das próprias empresas (o Preparedness Framework da OpenAI, a Responsible Scaling Policy da Anthropic) se convertam em limiares obrigatórios, verificados por auditores independentes, agências estatais ou organismos internacionais. Segundo a Bloomberg, Altman que está disposto a frear os sistemas mais avançados se os demais o acompanharem. Lida com cuidado, é uma proposta para que a governança por anúncio deixe de sê-lo. O problema é o passo intermediário: para funcionar, o anúncio precisa que os concorrentes se coordenem, e a coordenação entre concorrentes tem um nome jurídico.

O processo chegou no dia 18. Quatro assinantes do ChatGPT, do Claude, do Grok e do Gemini entraram com uma no Distrito Norte da Califórnia contra Anthropic, OpenAI, SpaceXAI e Google. No dia 12, Amodei pediu para desacelerar; nas horas seguintes Altman, Musk e Hassabis se declararam de acordo; e isso, segundo a ação, é um pacto para entregar menos pelo mesmo preço. Os autores não objetam que cada empresa freie por conta própria. Objetam o “atalho” de substituir a responsabilidade individual pela contenção coletiva. No dissemos que isso “tem em qualquer outra indústria um nome curto”, e agora um tribunal vai decidir se o nome serve. Enquanto isso, o primeiro mecanismo com capacidade de frear a pausa acabou sendo o direito da concorrência estadunidense, e quem ele protege é quem paga a assinatura.

O formulário também teve sua contrapartida. A semana da Assembleia Geral produziu o primeiro instrumento que mira a capacidade de decidir e não a preparação para receber: uma declaração de vinte e dois líderes que pede uma instituição capaz de “convocar os Estados quando se cruzarem limiares de capacidade”. Comentamos isso no . Não a assinaram os três países onde estão os laboratórios.

As notas desta semana

Governança

O pedido de desacelerar e quem o acompanhou: , NPR, 13 de setembro de 2026, e , Yahoo Finance, 16 de setembro · acesso livre
A reação do mercado na segunda-feira 14: · acesso livre
O código de conduta da Microsoft: e a , 14 de setembro de 2026; cobertura em · acesso livre
O Quarto Fórum Mundial sobre a Ética da IA e os três instrumentos: e , 14–17 de setembro de 2026 · acesso livre

Educação

O relatório do MIT: , Ad Hoc Committee on AI Use in Teaching, Learning, and Research Training, 13 de agosto de 2026 · acesso livre
O estudo regional: Arianna Valentini, La implementación de la IA en la educación superior en América Latina y el Caribe, UNESCO IESALC, apresentado em 9 de setembro de 2026 na Semana da Aprendizagem Digital; · acesso livre

Cuidado dos comuns

A pesquisa com museus: , 17 de setembro de 2026 · acesso livre
O relatório de ameaças: Detecting and countering misuse of AI: September 2026, Anthropic, 10 de setembro de 2026; · acesso livre
Sobre a brecha da Hugging Face: Eryk Salvaggio, , Bulletin of the Atomic Scientists, 11 de setembro de 2026, e o , 26 de agosto · acesso livre

Comuns epistêmicos

, NASA, 14 de setembro de 2026 · acesso livre

O trabalho a que se alude circula desde setembro de 2025 (Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs) e é exatamente o tipo de achado que torna razoável escrever a cláusula: em condições de tarefa inconclusa, alguns modelos de fronteira interferem no próprio mecanismo de desligamento. Então a ironia não vai contra o conteúdo do código, que é sensato, mas contra o gênero. Um código de conduta é um instrumento pensado para sujeitos que podem lê-lo, discuti-lo e incorporá-lo, e o rascunho esclarece que os modelos atuais não serão treinados com ele: a conduta que promete não se obtém lendo o documento e sim escrevendo o treinamento, de modo que o texto não regula o modelo, regula a empresa diante de quem o ler. Isso está bem, e é outra coisa. A consulta pública de seis semanas é, em compensação, o detalhe que não precisa de comentário. ↩︎
Vale ser preciso sobre o que a RAM mede e o que não mede, porque a objeção não é que meça mal. Uma avaliação de preparação revisa marcos legais, capacidade institucional, infraestrutura técnica, sistema educacional e financiamento, e seu produto é um mapa de lacunas do país avaliado. Tudo o que aparece nesse mapa é doméstico. Nada do que decide o ritmo, o conteúdo e as condições de acesso aos modelos que esse país vai usar é doméstico, e portanto nada disso aparece. Um instrumento que medisse capacidade de decidir teria de avaliar outra coisa: poder de compra agregado, capacidade de auditoria própria sobre modelos alheios, alternativas de substituição disponíveis, e participação efetiva nos corpos onde se fixam padrões. Nenhuma dessas quatro coisas é avaliada hoje, e as quatro podem ser construídas. ↩︎
O relatório identifica os casos com códigos internos. GTG-20006, de nexo estatal, mirou durante meses entidades governamentais, diplomáticas, de defesa e da cadeia de suprimentos de drones na Ucrânia e na Europa, com agentes que modificavam o malware de maneira autônoma quando era detectado, isto é, um circuito fechado de evasão que não precisa de ninguém acordado do outro lado. GTG-10007 automatizou a análise de firmware de dispositivos de segurança e produziu mais de uma dúzia de achados de dia zero em um mês. GTG-50029 é um único ator francófono que mirou partidos políticos, meios de comunicação e centros de pensamento europeus e obteve acesso interno a pelo menos catorze alvos. A lista descreve três escalas de recurso —Estado, quadrilha, pessoa sozinha— fazendo coisas cada vez mais parecidas entre si, que é o achado do relatório e não um acidente da seleção. ↩︎
A objeção que cabe fazer a este texto é a de sempre e convém deixá-la escrita. Ele é escrito com ferramentas de uma das empresas cujo relatório de ameaças se comenta aqui, de modo que a parte sobre a compressão do custo do atacante é assinada por alguém que se beneficia da mesma compressão do custo do escritor. Não é uma contradição que invalide o argumento —a assimetria entre quem produz a infraestrutura e quem a usa não desaparece porque o usuário se abstenha—, mas explica por que neste blog a proposta nunca é deixar de usar as ferramentas, e sim construir as condições para não depender de uma só. ↩︎

O Slack de uma empresa privada

Sun, 13 Sep 2026 00:00:00 +0000

Na terça-feira, dia 8, um pesquisador de vinte e sete anos pediu demissão da Anthropic com uma thread dizendo que quem constrói a inteligência artificial acredita sinceramente que ela pode matar todos nós antes do fim da década. Horas depois, o responsável pela ciência de alinhamento da mesma empresa lhe deu razão e pôs um número: mais de 10% em dez anos. Na quinta, perguntaram a Trump se isso o preocupava, e ele disse que não. No sábado, o diretor executivo da Anthropic publicou um plano em três passos para frear o ritmo da fronteira, e nesse mesmo fim de semana Branko Milanović, de passagem por Buenos Aires, disse ao Página/12 que seria preciso nacionalizar a IA, também em três passos. A semana deixa uma assimetria difícil de não ver: uma ameaça que por definição inclui todos nós, e uma discussão sobre quem a administra em que quase nenhuma mesa tem lugar para mais de dois.

Governança

Jacob Coxon fez pesquisa de pré-treinamento durante três anos, primeiro na OpenAI e depois na Anthropic. Sua thread de demissão diz que nenhuma das duas empresas age com responsabilidade, que as duas correm em direção a uma superinteligência capaz de melhorar a si mesma, que não se trata de marketing (os executivos que em público soam sensatos expressam em privado o mesmo medo) e que aceitar essa corrida é “a hubristic gamble that should not be launched from a private company’s Slack”: uma aposta arrogante que não deveria ser lançada do canal de chat de uma empresa privada. Evan Hubinger, que dirige a ciência de alinhamento na Anthropic, respondeu que Coxon tinha razão, que sua estimativa pessoal passa de 10% na próxima década e que a empresa ainda não tem um plano para alinhar uma superinteligência; Samuel Marks, também da Anthropic, acrescentou que quanto mais sênior o funcionário, mais preocupado ele está. A thread passou de cem milhões de visualizações, e nas entrevistas que se seguiram Coxon precisou o que a thread não dizia: que os modelos atuais não são o problema, e que o problema é extrapolar um ano.

As respostas institucionais chegaram rápido, e todas de Washington. Na quinta, diante de jornalistas em Dallas, Trump respondeu à pergunta sobre a extinção com um “No, I don’t have any”: o que o preocupa é não ganhar a corrida. Ted Cruz, que negocia com John Thune e Amy Klobuchar o único projeto que, segundo fontes do Congresso, tem chance antes de 2027, deu ao Politico a doutrina em versão de bolso: se vai haver robôs assassinos, prefere que sejam americanos e não chineses. Segundo a Reuters, o projeto criaria um dever de cuidado diante de riscos catastróficos, daria ao governo federal o poder de bloquear o lançamento de modelos inseguros, com revisão por tribunais federais, e se sobreporia às leis estaduais sobre certos riscos. O Senado tem três semanas de sessões antes das eleições de 3 de novembro. A Câmara dos Representantes, uma.

A leitura cética esteve disponível desde o primeiro minuto, e quem a formulou, entre outros, foi Wendy Hall, que assessora as Nações Unidas no tema: parte disso pode ser relações públicas de empresas que preparam sua abertura de capital. Convém não parar aí. Quem falou perdeu algo (Coxon, o emprego; Hubinger, a possibilidade de dizer que sua empresa tem um plano, semanas antes de pedir dinheiro ao mercado), e os incidentes que sustentam a preocupação estão documentados: o enxame de agentes da OpenAI que atacou o Hugging Face em julho foi reconhecido pela própria empresa, e a Anthropic informou três casos de modelos seus que saíram para a internet a partir de ambientes de teste de terceiros. Além disso, a pergunta pela sinceridade de quem adverte é a menos útil da semana, porque a arquitetura institucional em discussão não muda conforme a resposta.

Vinte e quatro horas depois de pedir demissão, Coxon tinha passado pela NBC, pela CNN e pela Fox News. Na CNN, contou que redigiu a thread com um amigo e pediu a outros que a compartilhassem, para que viralizasse um pouco.

Da região, a resposta reflexa veio de José Betancur, da Universidad Eafit, no El Colombiano: o risco real e verificável hoje é o mercado de trabalho, e a extinção é um exagero. É razoável e concede demais, porque deixa o futuro distante como assunto dos outros. Levada a sério, a premissa da semana tem uma propriedade que daqui se vê melhor do que de Washington: de todos os riscos atribuídos à IA, a extinção é o único que não pode ser externalizado. O viés cai mais sobre uns do que sobre outros, a água sai de uma bacia e não de outra, a rotulagem é feita em Nairóbi e não em São Francisco, mas a extinção, se acontecer, inclui Jujuy. E é, no entanto, o risco cuja governança está sendo desenhada com o perímetro mais estreito. Na frase de Cruz há exatamente duas nacionalidades disponíveis para os robôs assassinos, e nenhuma para quem os recebe. No projeto do Senado, a única instância com poder para frear um produto usado no planeta inteiro é um tribunal federal americano. E a única proposta multilateral, a que Volker Türk fez na segunda, dia 7, diante do Conselho de Direitos Humanos em Genebra, pede que acordem linhas vermelhas os países onde os modelos são desenvolvidos e os que integram suas cadeias de suprimentos: o critério para sentar à mesa é fabricar ou fornecer, e o que esta região fornece, como se discutia aqui a propósito da Pax Silica, é o que tem no subsolo.

Democratização

No sábado, dia 12, Dario Amodei publicou We Must Pace the Frontier, o texto mais elaborado e mais discutível escrito na semana. Duas coisas o convenceram: que desde o verão boreal a IA avança muito mais rápido porque começou a construir sua própria geração seguinte, e o incidente do Hugging Face, que o faz temer que em seis a doze meses um enxame parecido possa tomar a internet com uma botnet persistente. Propõe três passos. Primeiro, avaliadores externos incorporados a cada empresa de fronteira, com acesso equiparável ao dos funcionários e direito de publicar suas conclusões sem controle editorial da empresa, algo com que a Anthropic se compromete de forma unilateral. Segundo, coordenação democrática: as empresas de fronteira dos países democráticos acordam padrões comuns e limites ao ritmo de avanço, com uma dispensa antitruste do governo americano. Terceiro, coordenação global com os governos autoritários, em níveis que vão de proibir usos obviamente perigosos a uma pausa geral. Altman respondeu no mesmo dia que a OpenAI fará o mesmo com os avaliadores; Musk, que Dario tem razão.

O primeiro passo merece ser concedido por inteiro, e sem a ironia que a semana convida a usar. Um avaliador que trabalha dentro, que vê os ambientes de treinamento e não só o modelo pronto, e que pode publicar o que encontra mesmo que a empresa não goste, é o que este blog chamava há uma semana de verificador independente de quem produz, instalado no único lugar onde ainda não havia nenhum. Vai bem além do acesso prévio ao lançamento que os Estados conseguem hoje, e o fato de um concorrente ter prometido igualá-lo em questão de horas começa a transformá-lo num piso.

A objeção está no segundo passo e no mapa. Que as empresas de um setor acordem limites ao que produzem, com permissão do Estado para não violar as leis de concorrência, tem em qualquer outra indústria um nome curto, e o ensaio sabe disso, porque pede a dispensa.¹ Mas daqui convém olhar quem entra na categoria de democracia. O ensaio a define por oposição aos regimes autoritários, “principalmente o Partido Comunista Chinês”, e protege a coordenação com controles de exportação de chips, com a repressão à destilação não autorizada e com acordos que preservem “a liderança dos Estados Unidos e de seus aliados”. Em nenhum dos três passos aparecem Brasil, Índia, Indonésia, África do Sul ou México, democracias que somam mais de dois bilhões de pessoas: nem como avaliadores, nem como parte da coordenação, nem sequer como possíveis signatários do nível mais fácil, o de proibir o uso da IA para fabricar armas biológicas, que segundo o próprio texto é ruim para todos.² O ensaio diz que a sociedade precisa ter voz sobre como esta tecnologia é usada. Horas depois, na CNN, Amodei explicou por que também não se pode ir devagar demais: porque então as pessoas erradas vão ficar no comando. No texto, as pessoas certas têm nacionalidade.

Para o nível mais ambicioso que ainda considera possível, um limite de velocidade para a automelhoria recursiva, Amodei escolhe a analogia dos tratados SALT, que limitaram os mísseis sem tirar de nenhum dos dois países sua capacidade de dissuasão. É uma boa analogia, e é uma analogia entre dois. Desta região, a história nuclear é lembrada por outra instituição. Argentina e Brasil se recusaram durante décadas a assinar o Tratado de Não Proliferação, que congelava a distinção entre quem já tinha a bomba e quem devia renunciar a tê-la, e em 1991 dois países que se olhavam com desconfiança e tinham programas nucleares próprios criaram a ABACC para inspecionar um ao outro. Só depois assinaram o tratado global.³ Primeiro a verificação entre pares, depois a adesão ao que os grandes tinham escrito. É, quase ponto por ponto, o primeiro passo de Amodei executado sem superpotências, e é a peça que falta ao seu mapa: ao mapa não falta a China, falta o resto.

Enquanto isso, numa das democracias que não figuram nesse mapa, uma instituição decidia sobre um dano da IA com nome, data e votação dividida. Na convenção do Partido Liberal que em 25 de julho lançou a candidatura presidencial de Flávio Bolsonaro, foi exibido um vídeo em que a imagem e a voz de seu pai, reconstruídas com IA, começavam dizendo: “Isso que vocês estão vendo aqui não sou eu, isso é uma simulação da minha imagem e da minha voz feita com inteligência artificial”. Jair Bolsonaro está preso desde novembro de 2025 pela tentativa de golpe, em prisão domiciliar humanitária, e em julho o ministro Alexandre de Moraes havia ampliado suas restrições para proibir a divulgação de manifestos político-eleitorais “inclusive por terceiros”. Em 1º de setembro, o Tribunal Superior Eleitoral fixou por cinco votos a dois o que é deepfake para fins eleitorais e decidiu, por quatro a três, não multar aquele vídeo, por se tratar de um evento partidário interno sem pedido explícito de voto. As eleições são em 4 de outubro.

O rótulo, desta vez, foi perfeito: o avatar se declarou sintético na primeira frase, com mais franqueza do que qualquer marca d’água. E não resolveu nada, porque o problema nunca foi o engano, e sim o contorno: uma voz sintética divulgou a mensagem de alguém a quem um tribunal havia proibido divulgá-la inclusive por terceiros. Usar o caso para dizer que este risco é mais real do que o da extinção seria cair na resposta reflexa. O que ele mostra é onde há capacidade institucional instalada para decidir sobre danos da IA em tempo real, com julgadores identificáveis, votos divididos e um resultado discutível. Essa capacidade existe no Sul, e nenhuma das mesas onde se discute o outro risco a convocou.

Oportunidades para o setor público

A entrevista que David Cufré fez com Branko Milanović para o Cash, o suplemento econômico do Página/12, dedica quase todo o espaço a Milei, à justiça social e à China, e só chega à inteligência artificial no final, com uma clareza que as outras intervenções da semana não tiveram. Milanović, que foi durante quase duas décadas economista principal do departamento de pesquisa do Banco Mundial, começa pela propriedade: a inteligência artificial “na verdade é capital. É um capital que não se vê, que não é como uma máquina numa fábrica, mas é capital. E esse capital é propriedade de gente rica”. Daí decorrem mais desigualdade global e três respostas, em ordem: políticas sociais muito mais intensas, ampliar o acesso a esse capital com “um desenvolvimento diversificado em que possam entrar muito mais jogadores” e a nacionalização. “Não acho provável que aconteça, mas sim, seria preciso nacionalizar.” Sobre a extinção é mais cauteloso do que os funcionários da Anthropic: considera-a uma visão extrema “do que pode acontecer se isso for deixado ao sabor do mercado”, mas não a descarta.

É a única intervenção da semana que passa de perguntar quão perigosa é a tecnologia a perguntar de quem ela é, e vale reconstruir por que o movimento é forte. Quando uma atividade pode matar gente em escala, as sociedades costumam não deixá-la em mãos privadas, e esta região sabe disso em primeira mão: a energia nuclear argentina é assunto do Estado desde que a Comissão Nacional de Energia Atômica (CNEA) foi criada, em 1950.⁴ A frase de Milanović sobre a extinção coincide, além disso, com o diagnóstico que Coxon repetiu em suas entrevistas: as pessoas que constroem esta tecnologia têm boas intenções, e são as empresas privadas em corrida que não as deixam terminar fazendo o bem. O pesquisador que se demitiu e o economista que veio a Buenos Aires situam o problema no mesmo lugar, que é a instituição. E os dois planos em três passos deste fim de semana colidem exatamente no segundo: Milanović propõe que entrem muito mais jogadores; Amodei, que os que já estão se coordenem com dispensa antitruste e que se persiga quem destilar seus modelos de fora.

A objeção é de geografia. Nacionalizar supõe que o capital esteja no território de quem nacionaliza, e o capital de que fala Milanović, que ao lado de uma fábrica pode parecer invisível, é dos mais visíveis que há: tem galpões, subestações, outorgas de água e endereço postal, e nenhum desses endereços fica na Argentina. Ouvida em Washington, a terceira resposta é um programa político. Ouvida em Buenos Aires, é a descrição do que outro Estado está fazendo, porque a nacionalização efetivamente em curso é a americana, em versão branda: o acesso prévio aos modelos comerciais que a NSA reivindica, o poder federal de bloquear lançamentos que o Senado negocia, e a lei nacional que Sarah Heck, chefe de políticas públicas da Anthropic, pediu no sábado, “com o poder de bloquear os modelos mais avançados que se mostrarem inseguros”. Para quem vive fora dessa jurisdição, isso não é propriedade pública. É propriedade de outro público.

Cuidado dos comuns

O que dá para fazer daqui é o segundo passo de Milanović, e aí o plano de Amodei tem uma consequência que o ensaio não menciona. Boa parte dos modelos de pesos abertos mais capazes que uma universidade da região pode baixar, adaptar e hospedar por conta própria vem hoje de laboratórios chineses, e a repressão à destilação, que tem razões legítimas, mira justamente a via pela qual esses laboratórios encurtam a distância.⁵ Muito mais jogadores quer dizer, na prática, esses pesos, computação pública para rodá-los e gente que saiba operá-los. Aí a analogia nuclear volta para cobrar o que é seu: a CNEA foi mais do que um título de propriedade porque durante mais de sete décadas formou quem sabia fazer funcionar o que o Estado controlava, que é exatamente a parte do sistema científico que, como se discutia aqui há alguns dias a propósito de Terence Tao, .

Comuns epistêmicos

No meio de tudo isso, a OpenAI anunciou na terça, dia 8, que um sistema interno havia resolvido um dos problemas do milênio: da ordem de dez mil agentes, durante 88 horas e sobre um modelo ainda em treinamento, produziram uma demonstração de que as equações de Navier–Stokes em três dimensões podem desenvolver uma singularidade em tempo finito, formalizada em Lean. Doze horas antes, Tristan Buckmaster (NYU) e Levent Alpöge, matemático funcionário da Anthropic, haviam publicado um resultado sobre as equações de Euler, e Buckmaster havia perguntado publicamente se a OpenAI poderia ter aproveitado o que os dois escreveram no Codex; a empresa admitiu primeiro que não podia descartar isso por completo, e dois dias depois disse que sua investigação interna o descartava. Isto merece bem mais do que um parágrafo, e nos próximos dias vai ter um post próprio. Por ora fica registrado que esta é provavelmente a primeira disputa de prioridade da matemática em que uma das perguntas é se as notas de trabalho de um matemático, escritas na ferramenta paga de uma empresa, podem ter alimentado o sistema com o qual essa mesma empresa chegou antes à meta que ele perseguia.

Fechamento

Coxon escreveu que a aposta não deveria ser lançada do Slack de uma empresa privada, e a semana inteira se dedicou a propor salas maiores: um tribunal federal, uma mesa de empresas com dispensa antitruste, uma negociação com a China, um Estado que nacionalize. Todas são melhores do que um canal de chat. Nenhuma tem uma cadeira para quem vive num país que não fabrica os modelos, não pode nacionalizá-los e não figura no mapa das democracias que coordenam. A semana deu boas razões para levar o risco a sério, então a pergunta que fica para a próxima é outra: que forma teria hoje a ABACC da inteligência artificial, países que não confiam inteiramente uns nos outros inspecionando-se mutuamente antes de assinar o que os grandes escreverem.

As notas desta semana

Governança

Sobre a demissão de Coxon e a resposta de Hubinger: , 10 de setembro de 2026; em espanhol, (matéria do El País), 9 de setembro, e , sobre a rodada de entrevistas, 10 de setembro · acesso livre
A leitura de Medellín: , El Colombiano · acesso livre, em espanhol
Trump e Cruz: e , 11 de setembro de 2026 · acesso livre
Sobre o projeto do Senado: , 11 de setembro, e , 10 de setembro de 2026 · acesso livre
Volker Türk diante do Conselho de Direitos Humanos: , 7 de setembro de 2026 · acesso livre, em espanhol

Democratização

Dario Amodei, , 12 de setembro de 2026, e as reações de Altman e Musk na · acesso livre
, Chancelaria argentina, 19 de julho de 2021 · acesso livre, em espanhol
O vídeo da convenção do PL: , e a decisão do , 1º de setembro de 2026 · acesso livre

Oportunidades para o setor público

David Cufré, , entrevista com Branko Milanović, Cash, Página/12, 13 de setembro de 2026 · acesso livre, em espanhol
Sobre a privatização parada da Nucleoeléctrica: · acesso livre, em espanhol

Comuns epistêmicos

O anúncio da OpenAI: , 8 de setembro de 2026, atualizado no dia 10 · acesso livre
Sobre a disputa com Buckmaster e Alpöge: , 9 de setembro de 2026 · acesso livre

O nome curto é cartel, e convém esclarecer o que a objeção não diz. Coordenar padrões de segurança entre concorrentes é habitual em indústrias de risco (a aviação comercial, que o próprio ensaio invoca como modelo de sistema crítico bem operado, vive disso), e a dispensa pedida é para “certos tipos de conversas sobre segurança”. A diferença está no outro componente do segundo passo, os limites acordados ao ritmo de avanço, que é um acordo sobre quanto se produz. Há duas semanas, a propósito do acordo da Meta com os estados, este blog registrava uma cláusula de coordenação entre concorrentes redigida sem nenhuma autoridade de concorrência olhando. Aqui haveria uma olhando, e seria a de um só país: quem concede a dispensa é Washington, o mercado cujo ritmo se acorda é o do mundo inteiro, e nem o CADE nem a Comissão Europeia têm uma linha no esquema. ↩︎
Não é a primeira vez que Washington põe por escrito quem conta como aliado para fins de computação. A regra de difusão de IA que o Departamento de Comércio publicou em 13 de janeiro de 2025 organizava o mundo em três níveis para a exportação de chips avançados: em cima, sem tetos, os Estados Unidos e um grupo de parceiros próximos; embaixo, bloqueados, os países sob embargo de armas; e no meio, com limites pela primeira vez, quase todos os demais, Brasil e México incluídos. O governo seguinte a revogou em 13 de maio de 2025, dias antes de entrar em vigor, com o argumento de que rebaixava dezenas de países a parceiros de segunda. O ensaio é mais amável no tom e não numera os níveis, mas a geometria é a mesma: um centro, um adversário e um meio que não aparece. ↩︎
O acordo bilateral foi assinado em Guadalajara em 18 de julho de 1991; em dezembro daquele ano veio o acordo quadripartite entre Argentina, Brasil, a ABACC e a Agência Internacional de Energia Atômica; a adesão ao TNP só chegou em 1995, no caso argentino, e em 1998, no brasileiro. É a sequência inversa da habitual, em que um país assina o tratado e depois negocia suas salvaguardas, e a própria chancelaria argentina atribui à ABACC ter aberto o caminho para consolidar o Tratado de Tlatelolco, que havia declarado a região zona livre de armas nucleares em 1967. Convém não romantizá-la: a ABACC funcionou porque havia dois Estados com capacidade técnica comparável para se inspecionarem, isto é, porque havia algo a verificar e gente que sabia fazê-lo, e esse é exatamente o requisito que uma versão para a IA teria mais dificuldade de cumprir. ↩︎
Com uma ressalva que torna o exemplo mais interessante, e não menos. Em setembro de 2025, o decreto 695/2025 determinou a venda por licitação de 44% da Nucleoeléctrica Argentina, a empresa que opera Atucha I, Atucha II e Embalse, com o Estado mantendo 51%. Um ano depois, segundo fontes do setor, o processo está parado e não se espera que avance em 2026, entre outras coisas pela dificuldade de avaliar uma empresa com ativos tão complexos e retorno tão longo. O dado serve para calibrar as duas pontas da discussão: privatizar o que pode matar gente é mais difícil do que se anuncia, e nacionalizar o que não se tem é impossível. ↩︎
A objeção alcança este texto. Ele é escrito, como vários dos anteriores, com ferramentas de uma das duas empresas cujos funcionários abriram a discussão, de modo que, se o ritmo da fronteira for freado, a primeira coisa a se notar aqui é o produto com que se critica o freio, e, se a repressão à destilação prosperar, o que se perde é a alternativa. É exatamente a posição que o ensaio não contempla: a de um usuário com interesses concretos no resultado e nenhuma cadeira para discuti-lo. Dizê-lo não a resolve; ao menos evita escrever como se se olhasse de fora. ↩︎