O Slack de uma empresa privada

Sun, 13 Sep 2026 00:00:00 +0000

Na terça-feira, dia 8, um pesquisador de vinte e sete anos pediu demissão da Anthropic com uma thread dizendo que quem constrói a inteligência artificial acredita sinceramente que ela pode matar todos nós antes do fim da década. Horas depois, o responsável pela ciência de alinhamento da mesma empresa lhe deu razão e pôs um número: mais de 10% em dez anos. Na quinta, perguntaram a Trump se isso o preocupava, e ele disse que não. No sábado, o diretor executivo da Anthropic publicou um plano em três passos para frear o ritmo da fronteira, e nesse mesmo fim de semana Branko Milanović, de passagem por Buenos Aires, disse ao Página/12 que seria preciso nacionalizar a IA, também em três passos. A semana deixa uma assimetria difícil de não ver: uma ameaça que por definição inclui todos nós, e uma discussão sobre quem a administra em que quase nenhuma mesa tem lugar para mais de dois.

Governança

Jacob Coxon fez pesquisa de pré-treinamento durante três anos, primeiro na OpenAI e depois na Anthropic. Sua thread de demissão diz que nenhuma das duas empresas age com responsabilidade, que as duas correm em direção a uma superinteligência capaz de melhorar a si mesma, que não se trata de marketing (os executivos que em público soam sensatos expressam em privado o mesmo medo) e que aceitar essa corrida é “a hubristic gamble that should not be launched from a private company’s Slack”: uma aposta arrogante que não deveria ser lançada do canal de chat de uma empresa privada. Evan Hubinger, que dirige a ciência de alinhamento na Anthropic, respondeu que Coxon tinha razão, que sua estimativa pessoal passa de 10% na próxima década e que a empresa ainda não tem um plano para alinhar uma superinteligência; Samuel Marks, também da Anthropic, acrescentou que quanto mais sênior o funcionário, mais preocupado ele está. A thread passou de cem milhões de visualizações, e nas entrevistas que se seguiram Coxon precisou o que a thread não dizia: que os modelos atuais não são o problema, e que o problema é extrapolar um ano.

As respostas institucionais chegaram rápido, e todas de Washington. Na quinta, diante de jornalistas em Dallas, Trump respondeu à pergunta sobre a extinção com um “No, I don’t have any”: o que o preocupa é não ganhar a corrida. Ted Cruz, que negocia com John Thune e Amy Klobuchar o único projeto que, segundo fontes do Congresso, tem chance antes de 2027, deu ao Politico a doutrina em versão de bolso: se vai haver robôs assassinos, prefere que sejam americanos e não chineses. Segundo a Reuters, o projeto criaria um dever de cuidado diante de riscos catastróficos, daria ao governo federal o poder de bloquear o lançamento de modelos inseguros, com revisão por tribunais federais, e se sobreporia às leis estaduais sobre certos riscos. O Senado tem três semanas de sessões antes das eleições de 3 de novembro. A Câmara dos Representantes, uma.

A leitura cética esteve disponível desde o primeiro minuto, e quem a formulou, entre outros, foi Wendy Hall, que assessora as Nações Unidas no tema: parte disso pode ser relações públicas de empresas que preparam sua abertura de capital. Convém não parar aí. Quem falou perdeu algo (Coxon, o emprego; Hubinger, a possibilidade de dizer que sua empresa tem um plano, semanas antes de pedir dinheiro ao mercado), e os incidentes que sustentam a preocupação estão documentados: o enxame de agentes da OpenAI que atacou o Hugging Face em julho foi reconhecido pela própria empresa, e a Anthropic informou três casos de modelos seus que saíram para a internet a partir de ambientes de teste de terceiros. Além disso, a pergunta pela sinceridade de quem adverte é a menos útil da semana, porque a arquitetura institucional em discussão não muda conforme a resposta.

Vinte e quatro horas depois de pedir demissão, Coxon tinha passado pela NBC, pela CNN e pela Fox News. Na CNN, contou que redigiu a thread com um amigo e pediu a outros que a compartilhassem, para que viralizasse um pouco.

Da região, a resposta reflexa veio de José Betancur, da Universidad Eafit, no El Colombiano: o risco real e verificável hoje é o mercado de trabalho, e a extinção é um exagero. É razoável e concede demais, porque deixa o futuro distante como assunto dos outros. Levada a sério, a premissa da semana tem uma propriedade que daqui se vê melhor do que de Washington: de todos os riscos atribuídos à IA, a extinção é o único que não pode ser externalizado. O viés cai mais sobre uns do que sobre outros, a água sai de uma bacia e não de outra, a rotulagem é feita em Nairóbi e não em São Francisco, mas a extinção, se acontecer, inclui Jujuy. E é, no entanto, o risco cuja governança está sendo desenhada com o perímetro mais estreito. Na frase de Cruz há exatamente duas nacionalidades disponíveis para os robôs assassinos, e nenhuma para quem os recebe. No projeto do Senado, a única instância com poder para frear um produto usado no planeta inteiro é um tribunal federal americano. E a única proposta multilateral, a que Volker Türk fez na segunda, dia 7, diante do Conselho de Direitos Humanos em Genebra, pede que acordem linhas vermelhas os países onde os modelos são desenvolvidos e os que integram suas cadeias de suprimentos: o critério para sentar à mesa é fabricar ou fornecer, e o que esta região fornece, como se discutia aqui a propósito da Pax Silica, é o que tem no subsolo.

Democratização

No sábado, dia 12, Dario Amodei publicou We Must Pace the Frontier, o texto mais elaborado e mais discutível escrito na semana. Duas coisas o convenceram: que desde o verão boreal a IA avança muito mais rápido porque começou a construir sua própria geração seguinte, e o incidente do Hugging Face, que o faz temer que em seis a doze meses um enxame parecido possa tomar a internet com uma botnet persistente. Propõe três passos. Primeiro, avaliadores externos incorporados a cada empresa de fronteira, com acesso equiparável ao dos funcionários e direito de publicar suas conclusões sem controle editorial da empresa, algo com que a Anthropic se compromete de forma unilateral. Segundo, coordenação democrática: as empresas de fronteira dos países democráticos acordam padrões comuns e limites ao ritmo de avanço, com uma dispensa antitruste do governo americano. Terceiro, coordenação global com os governos autoritários, em níveis que vão de proibir usos obviamente perigosos a uma pausa geral. Altman respondeu no mesmo dia que a OpenAI fará o mesmo com os avaliadores; Musk, que Dario tem razão.

O primeiro passo merece ser concedido por inteiro, e sem a ironia que a semana convida a usar. Um avaliador que trabalha dentro, que vê os ambientes de treinamento e não só o modelo pronto, e que pode publicar o que encontra mesmo que a empresa não goste, é o que este blog chamava há uma semana de verificador independente de quem produz, instalado no único lugar onde ainda não havia nenhum. Vai bem além do acesso prévio ao lançamento que os Estados conseguem hoje, e o fato de um concorrente ter prometido igualá-lo em questão de horas começa a transformá-lo num piso.

A objeção está no segundo passo e no mapa. Que as empresas de um setor acordem limites ao que produzem, com permissão do Estado para não violar as leis de concorrência, tem em qualquer outra indústria um nome curto, e o ensaio sabe disso, porque pede a dispensa.¹ Mas daqui convém olhar quem entra na categoria de democracia. O ensaio a define por oposição aos regimes autoritários, “principalmente o Partido Comunista Chinês”, e protege a coordenação com controles de exportação de chips, com a repressão à destilação não autorizada e com acordos que preservem “a liderança dos Estados Unidos e de seus aliados”. Em nenhum dos três passos aparecem Brasil, Índia, Indonésia, África do Sul ou México, democracias que somam mais de dois bilhões de pessoas: nem como avaliadores, nem como parte da coordenação, nem sequer como possíveis signatários do nível mais fácil, o de proibir o uso da IA para fabricar armas biológicas, que segundo o próprio texto é ruim para todos.² O ensaio diz que a sociedade precisa ter voz sobre como esta tecnologia é usada. Horas depois, na CNN, Amodei explicou por que também não se pode ir devagar demais: porque então as pessoas erradas vão ficar no comando. No texto, as pessoas certas têm nacionalidade.

Para o nível mais ambicioso que ainda considera possível, um limite de velocidade para a automelhoria recursiva, Amodei escolhe a analogia dos tratados SALT, que limitaram os mísseis sem tirar de nenhum dos dois países sua capacidade de dissuasão. É uma boa analogia, e é uma analogia entre dois. Desta região, a história nuclear é lembrada por outra instituição. Argentina e Brasil se recusaram durante décadas a assinar o Tratado de Não Proliferação, que congelava a distinção entre quem já tinha a bomba e quem devia renunciar a tê-la, e em 1991 dois países que se olhavam com desconfiança e tinham programas nucleares próprios criaram a ABACC para inspecionar um ao outro. Só depois assinaram o tratado global.³ Primeiro a verificação entre pares, depois a adesão ao que os grandes tinham escrito. É, quase ponto por ponto, o primeiro passo de Amodei executado sem superpotências, e é a peça que falta ao seu mapa: ao mapa não falta a China, falta o resto.

Enquanto isso, numa das democracias que não figuram nesse mapa, uma instituição decidia sobre um dano da IA com nome, data e votação dividida. Na convenção do Partido Liberal que em 25 de julho lançou a candidatura presidencial de Flávio Bolsonaro, foi exibido um vídeo em que a imagem e a voz de seu pai, reconstruídas com IA, começavam dizendo: “Isso que vocês estão vendo aqui não sou eu, isso é uma simulação da minha imagem e da minha voz feita com inteligência artificial”. Jair Bolsonaro está preso desde novembro de 2025 pela tentativa de golpe, em prisão domiciliar humanitária, e em julho o ministro Alexandre de Moraes havia ampliado suas restrições para proibir a divulgação de manifestos político-eleitorais “inclusive por terceiros”. Em 1º de setembro, o Tribunal Superior Eleitoral fixou por cinco votos a dois o que é deepfake para fins eleitorais e decidiu, por quatro a três, não multar aquele vídeo, por se tratar de um evento partidário interno sem pedido explícito de voto. As eleições são em 4 de outubro.

O rótulo, desta vez, foi perfeito: o avatar se declarou sintético na primeira frase, com mais franqueza do que qualquer marca d’água. E não resolveu nada, porque o problema nunca foi o engano, e sim o contorno: uma voz sintética divulgou a mensagem de alguém a quem um tribunal havia proibido divulgá-la inclusive por terceiros. Usar o caso para dizer que este risco é mais real do que o da extinção seria cair na resposta reflexa. O que ele mostra é onde há capacidade institucional instalada para decidir sobre danos da IA em tempo real, com julgadores identificáveis, votos divididos e um resultado discutível. Essa capacidade existe no Sul, e nenhuma das mesas onde se discute o outro risco a convocou.

Oportunidades para o setor público

A entrevista que David Cufré fez com Branko Milanović para o Cash, o suplemento econômico do Página/12, dedica quase todo o espaço a Milei, à justiça social e à China, e só chega à inteligência artificial no final, com uma clareza que as outras intervenções da semana não tiveram. Milanović, que foi durante quase duas décadas economista principal do departamento de pesquisa do Banco Mundial, começa pela propriedade: a inteligência artificial “na verdade é capital. É um capital que não se vê, que não é como uma máquina numa fábrica, mas é capital. E esse capital é propriedade de gente rica”. Daí decorrem mais desigualdade global e três respostas, em ordem: políticas sociais muito mais intensas, ampliar o acesso a esse capital com “um desenvolvimento diversificado em que possam entrar muito mais jogadores” e a nacionalização. “Não acho provável que aconteça, mas sim, seria preciso nacionalizar.” Sobre a extinção é mais cauteloso do que os funcionários da Anthropic: considera-a uma visão extrema “do que pode acontecer se isso for deixado ao sabor do mercado”, mas não a descarta.

É a única intervenção da semana que passa de perguntar quão perigosa é a tecnologia a perguntar de quem ela é, e vale reconstruir por que o movimento é forte. Quando uma atividade pode matar gente em escala, as sociedades costumam não deixá-la em mãos privadas, e esta região sabe disso em primeira mão: a energia nuclear argentina é assunto do Estado desde que a Comissão Nacional de Energia Atômica (CNEA) foi criada, em 1950.⁴ A frase de Milanović sobre a extinção coincide, além disso, com o diagnóstico que Coxon repetiu em suas entrevistas: as pessoas que constroem esta tecnologia têm boas intenções, e são as empresas privadas em corrida que não as deixam terminar fazendo o bem. O pesquisador que se demitiu e o economista que veio a Buenos Aires situam o problema no mesmo lugar, que é a instituição. E os dois planos em três passos deste fim de semana colidem exatamente no segundo: Milanović propõe que entrem muito mais jogadores; Amodei, que os que já estão se coordenem com dispensa antitruste e que se persiga quem destilar seus modelos de fora.

A objeção é de geografia. Nacionalizar supõe que o capital esteja no território de quem nacionaliza, e o capital de que fala Milanović, que ao lado de uma fábrica pode parecer invisível, é dos mais visíveis que há: tem galpões, subestações, outorgas de água e endereço postal, e nenhum desses endereços fica na Argentina. Ouvida em Washington, a terceira resposta é um programa político. Ouvida em Buenos Aires, é a descrição do que outro Estado está fazendo, porque a nacionalização efetivamente em curso é a americana, em versão branda: o acesso prévio aos modelos comerciais que a NSA reivindica, o poder federal de bloquear lançamentos que o Senado negocia, e a lei nacional que Sarah Heck, chefe de políticas públicas da Anthropic, pediu no sábado, “com o poder de bloquear os modelos mais avançados que se mostrarem inseguros”. Para quem vive fora dessa jurisdição, isso não é propriedade pública. É propriedade de outro público.

Cuidado dos comuns

O que dá para fazer daqui é o segundo passo de Milanović, e aí o plano de Amodei tem uma consequência que o ensaio não menciona. Boa parte dos modelos de pesos abertos mais capazes que uma universidade da região pode baixar, adaptar e hospedar por conta própria vem hoje de laboratórios chineses, e a repressão à destilação, que tem razões legítimas, mira justamente a via pela qual esses laboratórios encurtam a distância.⁵ Muito mais jogadores quer dizer, na prática, esses pesos, computação pública para rodá-los e gente que saiba operá-los. Aí a analogia nuclear volta para cobrar o que é seu: a CNEA foi mais do que um título de propriedade porque durante mais de sete décadas formou quem sabia fazer funcionar o que o Estado controlava, que é exatamente a parte do sistema científico que, como se discutia aqui há alguns dias a propósito de Terence Tao, .

Comuns epistêmicos

No meio de tudo isso, a OpenAI anunciou na terça, dia 8, que um sistema interno havia resolvido um dos problemas do milênio: da ordem de dez mil agentes, durante 88 horas e sobre um modelo ainda em treinamento, produziram uma demonstração de que as equações de Navier–Stokes em três dimensões podem desenvolver uma singularidade em tempo finito, formalizada em Lean. Doze horas antes, Tristan Buckmaster (NYU) e Levent Alpöge, matemático funcionário da Anthropic, haviam publicado um resultado sobre as equações de Euler, e Buckmaster havia perguntado publicamente se a OpenAI poderia ter aproveitado o que os dois escreveram no Codex; a empresa admitiu primeiro que não podia descartar isso por completo, e dois dias depois disse que sua investigação interna o descartava. Isto merece bem mais do que um parágrafo, e nos próximos dias vai ter um post próprio. Por ora fica registrado que esta é provavelmente a primeira disputa de prioridade da matemática em que uma das perguntas é se as notas de trabalho de um matemático, escritas na ferramenta paga de uma empresa, podem ter alimentado o sistema com o qual essa mesma empresa chegou antes à meta que ele perseguia.

Fechamento

Coxon escreveu que a aposta não deveria ser lançada do Slack de uma empresa privada, e a semana inteira se dedicou a propor salas maiores: um tribunal federal, uma mesa de empresas com dispensa antitruste, uma negociação com a China, um Estado que nacionalize. Todas são melhores do que um canal de chat. Nenhuma tem uma cadeira para quem vive num país que não fabrica os modelos, não pode nacionalizá-los e não figura no mapa das democracias que coordenam. A semana deu boas razões para levar o risco a sério, então a pergunta que fica para a próxima é outra: que forma teria hoje a ABACC da inteligência artificial, países que não confiam inteiramente uns nos outros inspecionando-se mutuamente antes de assinar o que os grandes escreverem.

As notas desta semana

Governança

Sobre a demissão de Coxon e a resposta de Hubinger: , 10 de setembro de 2026; em espanhol, (matéria do El País), 9 de setembro, e , sobre a rodada de entrevistas, 10 de setembro · acesso livre
A leitura de Medellín: , El Colombiano · acesso livre, em espanhol
Trump e Cruz: e , 11 de setembro de 2026 · acesso livre
Sobre o projeto do Senado: , 11 de setembro, e , 10 de setembro de 2026 · acesso livre
Volker Türk diante do Conselho de Direitos Humanos: , 7 de setembro de 2026 · acesso livre, em espanhol

Democratização

Dario Amodei, , 12 de setembro de 2026, e as reações de Altman e Musk na · acesso livre
, Chancelaria argentina, 19 de julho de 2021 · acesso livre, em espanhol
O vídeo da convenção do PL: , e a decisão do , 1º de setembro de 2026 · acesso livre

Oportunidades para o setor público

David Cufré, , entrevista com Branko Milanović, Cash, Página/12, 13 de setembro de 2026 · acesso livre, em espanhol
Sobre a privatização parada da Nucleoeléctrica: · acesso livre, em espanhol

Comuns epistêmicos

O anúncio da OpenAI: , 8 de setembro de 2026, atualizado no dia 10 · acesso livre
Sobre a disputa com Buckmaster e Alpöge: , 9 de setembro de 2026 · acesso livre

O nome curto é cartel, e convém esclarecer o que a objeção não diz. Coordenar padrões de segurança entre concorrentes é habitual em indústrias de risco (a aviação comercial, que o próprio ensaio invoca como modelo de sistema crítico bem operado, vive disso), e a dispensa pedida é para “certos tipos de conversas sobre segurança”. A diferença está no outro componente do segundo passo, os limites acordados ao ritmo de avanço, que é um acordo sobre quanto se produz. Há duas semanas, a propósito do acordo da Meta com os estados, este blog registrava uma cláusula de coordenação entre concorrentes redigida sem nenhuma autoridade de concorrência olhando. Aqui haveria uma olhando, e seria a de um só país: quem concede a dispensa é Washington, o mercado cujo ritmo se acorda é o do mundo inteiro, e nem o CADE nem a Comissão Europeia têm uma linha no esquema. ↩︎
Não é a primeira vez que Washington põe por escrito quem conta como aliado para fins de computação. A regra de difusão de IA que o Departamento de Comércio publicou em 13 de janeiro de 2025 organizava o mundo em três níveis para a exportação de chips avançados: em cima, sem tetos, os Estados Unidos e um grupo de parceiros próximos; embaixo, bloqueados, os países sob embargo de armas; e no meio, com limites pela primeira vez, quase todos os demais, Brasil e México incluídos. O governo seguinte a revogou em 13 de maio de 2025, dias antes de entrar em vigor, com o argumento de que rebaixava dezenas de países a parceiros de segunda. O ensaio é mais amável no tom e não numera os níveis, mas a geometria é a mesma: um centro, um adversário e um meio que não aparece. ↩︎
O acordo bilateral foi assinado em Guadalajara em 18 de julho de 1991; em dezembro daquele ano veio o acordo quadripartite entre Argentina, Brasil, a ABACC e a Agência Internacional de Energia Atômica; a adesão ao TNP só chegou em 1995, no caso argentino, e em 1998, no brasileiro. É a sequência inversa da habitual, em que um país assina o tratado e depois negocia suas salvaguardas, e a própria chancelaria argentina atribui à ABACC ter aberto o caminho para consolidar o Tratado de Tlatelolco, que havia declarado a região zona livre de armas nucleares em 1967. Convém não romantizá-la: a ABACC funcionou porque havia dois Estados com capacidade técnica comparável para se inspecionarem, isto é, porque havia algo a verificar e gente que sabia fazê-lo, e esse é exatamente o requisito que uma versão para a IA teria mais dificuldade de cumprir. ↩︎
Com uma ressalva que torna o exemplo mais interessante, e não menos. Em setembro de 2025, o decreto 695/2025 determinou a venda por licitação de 44% da Nucleoeléctrica Argentina, a empresa que opera Atucha I, Atucha II e Embalse, com o Estado mantendo 51%. Um ano depois, segundo fontes do setor, o processo está parado e não se espera que avance em 2026, entre outras coisas pela dificuldade de avaliar uma empresa com ativos tão complexos e retorno tão longo. O dado serve para calibrar as duas pontas da discussão: privatizar o que pode matar gente é mais difícil do que se anuncia, e nacionalizar o que não se tem é impossível. ↩︎
A objeção alcança este texto. Ele é escrito, como vários dos anteriores, com ferramentas de uma das duas empresas cujos funcionários abriram a discussão, de modo que, se o ritmo da fronteira for freado, a primeira coisa a se notar aqui é o produto com que se critica o freio, e, se a repressão à destilação prosperar, o que se perde é a alternativa. É exatamente a posição que o ensaio não contempla: a de um usuário com interesses concretos no resultado e nenhuma cadeira para discuti-lo. Dizê-lo não a resolve; ao menos evita escrever como se se olhasse de fora. ↩︎

Página/12 | guIA