El Slack de una empresa privada

Sun, 13 Sep 2026 00:00:00 +0000

El martes 8, un investigador de veintisiete años renunció a Anthropic con un hilo que decía que quienes construyen la inteligencia artificial creen sinceramente que podría matarnos a todos antes de que termine la década. Horas después, el responsable de ciencia de alineación de la misma empresa le dio la razón y le puso número: más del 10% en diez años. El jueves le preguntaron a Trump si eso le preocupaba, y dijo que no. El sábado, el director ejecutivo de Anthropic publicó un plan en tres pasos para frenar el ritmo de la frontera, y ese mismo fin de semana Branko Milanović, de paso por Buenos Aires, le dijo a Página/12 que habría que nacionalizar la IA, también en tres pasos. La semana deja una asimetría difícil de no ver: una amenaza que por definición nos incluye a todos, y una discusión sobre quién la administra en la que casi ninguna mesa tiene lugar para más de dos.

Gobernanza

Jacob Coxon hizo investigación de preentrenamiento durante tres años, primero en OpenAI y después en Anthropic. Su hilo de renuncia dice que ninguna de las dos empresas actúa con responsabilidad, que las dos corren hacia una superinteligencia capaz de mejorarse a sí misma, que no se trata de marketing (los directivos que en público suenan sensatos expresan en privado el mismo miedo) y que aceptar esa carrera es “a hubristic gamble that should not be launched from a private company’s Slack”: una apuesta arrogante que no debería lanzarse desde el canal de chat de una empresa privada. Evan Hubinger, que dirige ciencia de alineación en Anthropic, contestó que Coxon tenía razón, que su estimación personal supera el 10% en la próxima década y que la empresa todavía no tiene un plan para alinear una superinteligencia; Samuel Marks, también de Anthropic, agregó que cuanto más senior es el empleado, más preocupado está. El hilo pasó los cien millones de visualizaciones, y en las entrevistas que siguieron Coxon precisó lo que el hilo no decía: que los modelos actuales no son el problema, y que el problema es extrapolar un año.

Las respuestas institucionales llegaron rápido, y todas desde Washington. El jueves, ante periodistas en Dallas, Trump contestó a la pregunta por la extinción con un “No, I don’t have any”: lo que le preocupa es no ganar la carrera. Ted Cruz, que negocia con John Thune y Amy Klobuchar el único proyecto que según fuentes del Congreso tiene chances antes de 2027, le dio a Politico la doctrina en versión de bolsillo: si va a haber robots asesinos, prefiere que sean estadounidenses y no chinos. Según Reuters, el proyecto crearía un deber de cuidado frente a riesgos catastróficos, le daría al gobierno federal el poder de bloquear el lanzamiento de modelos inseguros, con revisión de tribunales federales, y desplazaría las leyes estatales sobre ciertos riesgos. Al Senado le quedan tres semanas de sesiones antes de las elecciones del 3 de noviembre. A la Cámara de Representantes, una.

La lectura escéptica estuvo disponible desde el primer minuto, y la formuló entre otros Wendy Hall, que asesora a Naciones Unidas en la materia: parte de esto puede ser relaciones públicas de empresas que preparan su salida a bolsa. Conviene no quedarse ahí. Quienes hablaron perdieron algo (Coxon, el empleo; Hubinger, la posibilidad de decir que su empresa tiene un plan, semanas antes de pedirle plata al mercado), y los incidentes que sostienen la preocupación están documentados: el enjambre de agentes de OpenAI que atacó Hugging Face en julio lo reconoció la propia empresa, y Anthropic informó tres casos de modelos suyos que salieron a internet desde entornos de prueba de terceros. Además, la pregunta por la sinceridad de quien advierte es la menos útil de la semana, porque la arquitectura institucional que se discute no cambia según cuál sea la respuesta.

Veinticuatro horas después de renunciar, Coxon había pasado por NBC, CNN y Fox News. En CNN contó que redactó el hilo con un amigo y les pidió a otros que lo compartieran, para que se hiciera un poco viral.

Desde la región, la respuesta refleja la dio en El Colombiano José Betancur, de la Universidad Eafit: el riesgo real y verificable hoy es el mercado laboral, y lo de la extinción es una exageración. Es razonable y concede demasiado, porque deja el futuro lejano como asunto de otros. Tomada en serio, la premisa de la semana tiene una propiedad que desde acá se ve mejor que desde Washington: de todos los riesgos que se le atribuyen a la IA, la extinción es el único que no se puede externalizar. El sesgo cae más sobre unos que sobre otros, el agua la pone una cuenca y no otra, el etiquetado se hace en Nairobi y no en San Francisco, pero la extinción, si ocurre, incluye a Jujuy. Y es, sin embargo, el riesgo cuya gobernanza se diseña con el perímetro más chico. En la frase de Cruz hay exactamente dos nacionalidades disponibles para los robots asesinos, y ninguna para quienes los reciben. En el proyecto del Senado, la única instancia con poder para frenar un producto que se usa en todo el planeta es un tribunal federal estadounidense. Y la única propuesta multilateral, la que hizo Volker Türk el lunes 7 ante el Consejo de Derechos Humanos en Ginebra, pide que acuerden líneas rojas los países donde se desarrollan los modelos y los que integran sus cadenas de suministro: el criterio para sentarse es fabricar o proveer, y lo que esta región provee, como se discutía acá a propósito de Pax Silica, es lo que tiene en el suelo.

Democratización

El sábado 12, Dario Amodei publicó We Must Pace the Frontier, lo más elaborado y lo más discutible que se escribió en la semana. Lo convencieron dos cosas: que desde el verano boreal la IA avanza mucho más rápido porque empezó a construir su propia generación siguiente, y el incidente de Hugging Face, que le hace temer que en seis a doce meses un enjambre parecido pueda tomar internet con una botnet persistente. Propone tres pasos. Primero, evaluadores externos embebidos en cada empresa de frontera, con acceso equiparable al de los empleados y derecho a publicar sus hallazgos sin control editorial de la empresa, algo a lo que Anthropic se compromete de manera unilateral. Segundo, coordinación democrática: las empresas de frontera de los países democráticos acuerdan estándares comunes y límites al ritmo de avance, con una dispensa antimonopolio del gobierno estadounidense. Tercero, coordinación global con los gobiernos autoritarios, en niveles que van de prohibir usos obviamente peligrosos a una pausa general. Altman respondió el mismo día que OpenAI hará lo mismo con los evaluadores; Musk, que Dario tiene razón.

El primer paso merece concederse entero, y sin la ironía que la semana invita a usar. Un evaluador que trabaja adentro, que ve los entornos de entrenamiento y no sólo el modelo terminado, y que puede publicar lo que encuentra aunque a la empresa no le guste, es lo que hace una semana este blog llamaba un verificador independiente de quien produce, instalado en el único lugar donde todavía no había ninguno. Va bastante más allá del acceso previo al lanzamiento que hoy consiguen los Estados, y que un competidor haya prometido igualarlo en cuestión de horas empieza a convertirlo en un piso.

La objeción está en el segundo paso y en el mapa. Que las empresas de un sector acuerden límites a lo que producen, con permiso del Estado para no violar las leyes de competencia, tiene en cualquier otra industria un nombre corto, y el ensayo lo sabe, porque pide la dispensa.¹ Pero desde acá conviene mirar quién entra en la categoría de democracia. El ensayo la define por oposición a los regímenes autoritarios, “principalmente el Partido Comunista Chino”, y protege la coordinación con controles de exportación de chips, con la persecución de la destilación no autorizada y con acuerdos que cuiden “la ventaja de Estados Unidos y sus aliados”. En ninguno de los tres pasos aparecen Brasil, India, Indonesia, Sudáfrica o México, democracias que suman más de dos mil millones de personas: ni como evaluadores, ni como parte de la coordinación, ni siquiera como firmantes posibles del nivel más fácil, el de prohibir el uso de la IA para fabricar armas biológicas, que según el propio texto es malo para todos.² El ensayo dice que la sociedad tiene que tener voz sobre cómo se usa esta tecnología. Horas después, en CNN, Amodei explicó por qué tampoco se puede ir demasiado lento: porque entonces la gente equivocada va a quedar a cargo. En el texto, la gente correcta tiene nacionalidad.

Para el nivel más ambicioso que todavía considera posible, un límite de velocidad a la automejora recursiva, Amodei elige la analogía de los tratados SALT, que limitaron los misiles sin quitarle a ninguno de los dos países su capacidad de disuasión. Es una buena analogía, y es una analogía entre dos. Desde esta región la historia nuclear se recuerda por otra institución. Argentina y Brasil se negaron durante décadas a firmar el Tratado de No Proliferación, que congelaba la distinción entre quienes ya tenían la bomba y quienes debían renunciar a tenerla, y en 1991 dos países que se miraban con desconfianza y tenían programas nucleares propios crearon la ABACC para inspeccionarse mutuamente. Recién después firmaron el tratado global.³ Primero la verificación entre pares, después la adhesión a lo que habían escrito los grandes. Es, casi término por término, el primer paso de Amodei ejecutado sin superpotencias, y es la pieza que su mapa no tiene: al mapa no le falta China, le falta el resto.

Mientras tanto, en una de las democracias que no figuran en ese mapa, una institución decidía sobre un daño de la IA con nombre, fecha y votación dividida. En la convención del Partido Liberal que el 25 de julio proclamó la candidatura presidencial de Flávio Bolsonaro se proyectó un video en el que la imagen y la voz de su padre, reconstruidas con IA, empezaban diciendo: “Isso que vocês estão vendo aqui não sou eu, isso é uma simulação da minha imagem e da minha voz feita com inteligência artificial”. Jair Bolsonaro está preso desde noviembre de 2025 por la tentativa de golpe, en prisión domiciliaria humanitaria, y en julio el juez Alexandre de Moraes le había ampliado las restricciones para prohibirle difundir manifiestos político-electorales “inclusive por terceiros”. El 1 de septiembre, el Tribunal Superior Electoral fijó por cinco votos contra dos qué es un deepfake a efectos electorales y decidió, por cuatro contra tres, no multar ese video, porque se trató de un evento partidario interno sin pedido explícito de voto. Las elecciones son el 4 de octubre.

La etiqueta, esta vez, fue perfecta: el avatar se declaró sintético en su primera frase, con más franqueza que cualquier marca de agua. Y no resolvió nada, porque el problema nunca fue el engaño sino el rodeo: una voz sintética difundió el mensaje de alguien a quien un tribunal le había prohibido difundirlo incluso por terceros. Usar el caso para decir que este riesgo es más real que el de la extinción sería caer en la respuesta refleja. Lo que muestra es dónde hay capacidad institucional instalada para decidir sobre daños de la IA en tiempo real, con jueces identificables, votos divididos y un resultado discutible. Esa capacidad existe en el Sur, y ninguna de las mesas donde se discute el otro riesgo la convocó.

Oportunidades para el sector público

La entrevista que David Cufré le hizo a Branko Milanović para Cash, el suplemento económico de Página/12, dedica casi todo el espacio a Milei, a la justicia social y a China, y llega a la inteligencia artificial al final, con una claridad que las otras intervenciones de la semana no tuvieron. Milanović, que fue durante casi dos décadas economista principal del departamento de investigación del Banco Mundial, arranca por la propiedad: “la inteligencia artificial en verdad es capital. Es un capital que no se ve, que no es como máquina en una fábrica, pero es capital. Y ese capital es propiedad de gente rica”. De ahí se sigue más desigualdad global, y tres respuestas en orden: políticas sociales mucho más intensas, ampliar el acceso a ese capital con “un desarrollo diversificado en el que puedan entrar muchos más jugadores” y la nacionalización. “No creo probable que ocurra, pero sí, habría que nacionalizar.” Sobre la extinción es más cauto que los empleados de Anthropic: la considera una visión extrema “de lo que puede pasar si se deja librada al manejo del mercado”, pero no la descarta.

Es la única intervención de la semana que pasa de preguntar cuán peligrosa es la tecnología a preguntar de quién es, y vale reconstruir por qué el movimiento es fuerte. Cuando una actividad puede matar gente a escala, las sociedades suelen no dejarla en manos privadas, y esta región lo sabe de primera mano: la energía nuclear argentina es asunto del Estado desde que se creó la Comisión Nacional de Energía Atómica en 1950.⁴ La frase de Milanović sobre la extinción coincide, además, con el diagnóstico que Coxon repitió en sus entrevistas: la gente que construye esta tecnología tiene buenas intenciones, y son las empresas privadas en carrera las que no la dejan terminar haciendo el bien. El investigador que renunció y el economista que vino a Buenos Aires ubican el problema en el mismo lugar, que es la institución. Y los dos planes en tres pasos de este fin de semana chocan exactamente en el segundo: Milanović propone que entren muchos más jugadores; Amodei, que los que ya están se coordinen con dispensa antimonopolio y que se persiga a quien destile sus modelos desde afuera.

La objeción es de geografía. Nacionalizar supone que el capital está en el territorio de quien nacionaliza, y el capital del que habla Milanović, que al lado de una fábrica puede parecer invisible, es de lo más visible que hay: tiene galpones, subestaciones, permisos de agua y dirección postal, y ninguna de esas direcciones queda en la Argentina. Escuchada en Washington, la tercera respuesta es un programa político. Escuchada en Buenos Aires, es la descripción de lo que está haciendo otro Estado, porque la nacionalización efectivamente en curso es la estadounidense, en versión blanda: el acceso previo a los modelos comerciales que reclama la NSA, el poder federal de bloquear lanzamientos que negocia el Senado, y la ley nacional que Sarah Heck, jefa de políticas públicas de Anthropic, pidió el sábado, “con el poder de bloquear los modelos más avanzados que resulten inseguros”. Para quien vive fuera de esa jurisdicción, eso no es propiedad pública. Es propiedad de otro público.

Cuidado de los comunes

Lo que sí se puede hacer desde acá es el segundo paso de Milanović, y ahí el plan de Amodei tiene una consecuencia que el ensayo no menciona. Buena parte de los modelos de pesos abiertos más capaces que una universidad de la región puede descargar, adaptar y alojar por su cuenta viene hoy de laboratorios chinos, y la persecución de la destilación, que tiene razones legítimas, apunta justo a la vía por la que esos laboratorios achican la distancia.⁵ Muchos más jugadores quiere decir, en la práctica, esos pesos, cómputo público para correrlos y gente que sepa operarlos. Ahí la analogía nuclear vuelve para cobrarse lo suyo: la CNEA fue algo más que un título de propiedad porque durante más de siete décadas formó a quienes sabían hacer funcionar lo que el Estado controlaba, que es exactamente la parte del sistema científico que, como se discutía acá hace unos días a propósito de Terence Tao, .

Comunes epistémicos

En medio de todo esto, OpenAI anunció el martes 8 que un sistema interno había resuelto uno de los problemas del milenio: del orden de diez mil agentes, durante 88 horas y sobre un modelo todavía en entrenamiento, produjeron una demostración de que las ecuaciones de Navier–Stokes en tres dimensiones pueden desarrollar una singularidad en tiempo finito, formalizada en Lean. Doce horas antes, Tristan Buckmaster (NYU) y Levent Alpöge, matemático empleado de Anthropic, habían publicado un resultado sobre las ecuaciones de Euler, y Buckmaster había preguntado en público si OpenAI pudo aprovechar lo que ambos escribieron en Codex; la empresa admitió primero que no podía descartarlo del todo, y dos días después dijo que su investigación interna lo descartaba. Esto merece bastante más que un párrafo, y en los próximos días va a tener un posteo propio. Por ahora queda anotado que es probablemente la primera disputa de prioridad en la matemática en la que una de las preguntas es si las notas de trabajo de un matemático, escritas en la herramienta paga de una empresa, pudieron alimentar al sistema con el que esa empresa llegó antes a la meta que él perseguía.

Cierre

Coxon escribió que la apuesta no debería lanzarse desde el Slack de una empresa privada, y la semana entera se dedicó a proponer habitaciones más grandes: un tribunal federal, una mesa de empresas con dispensa antimonopolio, una negociación con China, un Estado que nacionalice. Todas son mejores que un canal de chat. Ninguna tiene una silla para quien vive en un país que no fabrica los modelos, no los puede nacionalizar y no figura en el mapa de las democracias que coordinan. La semana dio buenas razones para tomarse el riesgo en serio, así que la pregunta que queda para la que viene es otra: qué forma tendría hoy la ABACC de la inteligencia artificial, países que no se tienen del todo confianza inspeccionándose entre sí antes de firmar lo que escriban los grandes.

Las notas de esta semana

Gobernanza

Sobre la renuncia de Coxon y la respuesta de Hubinger: , 10 de septiembre de 2026; en castellano, (nota de El País), 9 de septiembre, e , sobre la ronda de entrevistas, 10 de septiembre · acceso libre
La lectura desde Medellín: , El Colombiano · acceso libre
Trump y Cruz: y , 11 de septiembre de 2026 · acceso libre
Sobre el proyecto del Senado: , 11 de septiembre, y , 10 de septiembre de 2026 · acceso libre
Volker Türk ante el Consejo de Derechos Humanos: , 7 de septiembre de 2026 · acceso libre

Democratización

Dario Amodei, , 12 de septiembre de 2026, y las reacciones de Altman y Musk en · acceso libre
, Cancillería argentina, 19 de julio de 2021 · acceso libre
El video de la convención del PL: , y la decisión del , 1 de septiembre de 2026 · acceso libre

Oportunidades para el sector público

David Cufré, , entrevista a Branko Milanović, Cash, Página/12, 13 de septiembre de 2026 · acceso libre
Sobre la privatización en pausa de Nucleoeléctrica: · acceso libre

Comunes epistémicos

El anuncio de OpenAI: , 8 de septiembre de 2026, actualizado el 10 · acceso libre
Sobre la disputa con Buckmaster y Alpöge: , 9 de septiembre de 2026 · acceso libre

El nombre corto es cártel, y conviene aclarar qué no dice la objeción. Coordinar estándares de seguridad entre competidores es habitual en industrias de riesgo (la aviación comercial, que el propio ensayo invoca como modelo de sistema crítico bien operado, vive de eso), y la dispensa que se pide es para “ciertos tipos de conversaciones de seguridad”. La diferencia está en el otro componente del segundo paso, los límites acordados al ritmo de avance, que es un acuerdo sobre cuánto se produce. Hace dos semanas, a propósito del acuerdo de Meta con los estados, este blog anotaba una cláusula de coordinación entre competidores redactada sin ninguna autoridad de competencia mirando. Acá habría una mirando, y sería la de un solo país: la dispensa la otorga Washington, el mercado cuyo ritmo se acuerda es el de todo el mundo, y ni el CADE brasileño ni la Comisión Europea tienen una línea en el esquema. ↩︎
No es la primera vez que Washington pone por escrito quién cuenta como aliado a efectos del cómputo. La regla de difusión de IA que el Departamento de Comercio publicó el 13 de enero de 2025 ordenaba el mundo en tres niveles para la exportación de chips avanzados: arriba, sin topes, Estados Unidos y un grupo de socios cercanos; abajo, bloqueados, los países bajo embargo de armas; y en el medio, con límites por primera vez, casi todos los demás, Brasil y México incluidos. El gobierno siguiente la derogó el 13 de mayo de 2025, días antes de que entrara en vigor, con el argumento de que degradaba a decenas de países a socios de segunda. El ensayo es más amable en el tono y no numera los niveles, pero la geometría es la misma: un centro, un adversario y un medio que no figura. ↩︎
El acuerdo bilateral se firmó en Guadalajara el 18 de julio de 1991; en diciembre de ese año llegó el acuerdo cuatripartito entre Argentina, Brasil, la ABACC y el Organismo Internacional de Energía Atómica; la adhesión al TNP recién en 1995 en el caso argentino y en 1998 en el brasileño. Es la secuencia inversa de la habitual, en la que un país firma el tratado y después negocia sus salvaguardias, y la propia cancillería argentina le atribuye a la ABACC haber abierto el camino para consolidar el Tratado de Tlatelolco, el que había declarado a la región zona libre de armas nucleares en 1967. Conviene no romantizarla: la ABACC funcionó porque había dos Estados con capacidad técnica comparable para inspeccionarse, es decir, porque había algo que verificar y gente que sabía hacerlo, y ése es exactamente el requisito que una versión para la IA tendría más difícil de cumplir. ↩︎
Con una salvedad que vuelve el ejemplo más interesante y no menos. En septiembre de 2025, el decreto 695/2025 dispuso vender por licitación el 44% de Nucleoeléctrica Argentina, la empresa que opera Atucha I, Atucha II y Embalse, con el Estado conservando el 51%. Un año después, según fuentes del sector, el proceso está en pausa y no se espera que avance durante 2026, entre otras cosas por lo difícil que resulta valuar una empresa con activos tan complejos y un retorno tan largo. El dato sirve para calibrar las dos puntas de la discusión: privatizar lo que puede matar gente resulta más difícil de lo que se anuncia, y nacionalizar lo que no se tiene es imposible. ↩︎
La objeción alcanza a este texto. Se escribe, como varios de los anteriores, con herramientas de una de las dos empresas cuyos empleados abrieron la discusión, de modo que si el ritmo de la frontera se frena, lo primero que se nota acá es el producto con el que se critica el freno, y si la persecución de la destilación prospera, lo que se pierde es la alternativa. Es la posición exacta que el ensayo no contempla: la de un usuario con intereses concretos en el resultado y ninguna silla para discutirlo. Decirlo no la resuelve; al menos evita escribir como si se mirara desde afuera. ↩︎

TSE | guIA