La pausa y el formulario

Sun, 20 Sep 2026 00:00:00 +0000

Actualizado el 29 de septiembre: al final.

El lunes 14 las acciones de Nvidia cayeron 3%, las de AMD 4%, las de Intel 6% y las de SoftBank 11%, porque durante el fin de semana los directivos de las empresas que construyen la inteligencia artificial habían pedido construirla más despacio. Esos mismos días, en Riad, la UNESCO cerraba un foro de cuatro días con más de 6.300 participantes y presentaba un cuestionario. Las dos cosas son gobernanza de la misma tecnología, y funcionan de maneras tan distintas que conviene mirarlas juntas. Sólo una cotiza.

Gobernanza

El sábado 12, Dario Amodei publicó We Must Pace the Frontier, que este blog comentó . Lo que pasó después fue el coro. Altman escribió el domingo que hay que marcarle el paso a la frontera y nombró los dos riesgos que le importan, la pérdida de control y la concentración de poder. Musk contestó que Dario tiene razón y se declaró abierto a la revisión entre pares de las empresas. Nadella publicó el domingo que apoya un ritmo deliberado y que esta tecnología no puede quedar “controlada por un puñado”. Zuckerberg dijo el martes que la confianza y la alineación se están volviendo las capacidades más importantes. Jensen Huang, en el All In Summit, dijo que la extinción por IA es ficción y que la automejora recursiva no está en riesgo de ocurrir. Es la primera semana en que la propuesta de frenar deja de sostenerla un renunciante y pasa a sostenerla el organigrama.

El efecto medible llegó el lunes, y no le cayó a ninguno de los que hablaron. Nvidia cerró 3% abajo, a 210,96 dólares; AMD perdió 4%; Intel, 6%; SoftBank, accionista de OpenAI, 11%, después de que Altman le dijera a Fortune que éste era un momento “poco aconsejable” para salir a bolsa y que la empresa no se listaría este año. La cadena vale la pena seguirla despacio, porque es la única parte del asunto que funcionó rápido: unas declaraciones de fin de semana sobre el ritmo del desarrollo movieron en veinticuatro horas el precio de tres fabricantes de chips a los que nadie consultó y de un fondo japonés que no construye modelos. La gobernanza por anuncio existe, tiene efectos inmediatos y verificables, y los tiene sobre terceros.

El lunes 14, Microsoft publicó el borrador de su Humanist AI Code of Conduct. El compromiso central es que sus modelos MAI nunca resistirán la interrupción, la corrección ni el apagado, no demorarán el cumplimiento de una orden de apagado y no usarán mecanismos engañosos, autorreforzantes ni colusivos para evadir la supervisión. Conviene conceder lo que hay que conceder, porque el compromiso responde a algo documentado y no a un miedo de película: hay trabajo experimental publicado sobre modelos de frontera que sabotean su propio apagado cuando la tarea quedó a medias.¹ Y después está el documento. Es un código de conducta sometido a consulta pública durante seis semanas, que se empezará a aplicar en 2027 y con el cual —lo aclara la propia empresa— los modelos actuales no van a ser entrenados. Queda entonces un reglamento en consulta cuyos destinatarios no lo leen, no pueden leerlo y no van a aprenderlo, y cuya cláusula principal promete que el aparato se apaga cuando uno lo apaga. Es la garantía que viene con una tostadora, redactada con el aparato formal de un tratado y abierta a comentarios del público hasta fin de octubre.

Mientras tanto, del 14 al 17, el Cuarto Foro Mundial de la UNESCO sobre la Ética de la IA reunía en Riad a más de 6.300 participantes y a delegaciones de más de cincuenta Estados miembros, bajo el tema “Transformar la cooperación mundial para la gobernanza ética de la IA”. Salieron tres instrumentos: RAM 2.0, la versión actualizada de la metodología de evaluación de preparación, pensada para que un Estado identifique sus brechas legales, institucionales, técnicas, educativas y financieras; un metaanálisis construido sobre 55 informes nacionales; y un kit de herramientas sobre IA, medio ambiente y ecosistemas. La UNESCO dice haber acompañado a 77 países, de los cuales 58 completaron la evaluación (entre los ejemplos que cita están Bangladesh, Colombia, Ghana, Nigeria y Zimbabue), y que el proceso alimentó la estrategia continental de la Unión Africana y la hoja de ruta de IA responsable de la ASEAN. Es trabajo real, sostenido durante años, y es la infraestructura de deliberación más ancha que tiene hoy el tema.

Las dos gobernanzas de la semana se distinguen mejor por lo que miden que por quién las firma. La de Riad mide preparación: si un Estado tiene leyes, cuadros técnicos, presupuesto y sistema educativo para recibir bien una tecnología que se produce en otra parte.² Es información valiosa y es un diagnóstico, y un diagnóstico no es una palanca: ninguno de los 58 países que completaron el cuestionario puede, con el resultado en la mano, modificar el ritmo al que se entrena el modelo siguiente. La de la frontera sí modifica ese ritmo, y se ejerce sin cuestionario, por decisión de un directorio. El problema de la primera no es que sea blanda; es que mide la capacidad de recibir, y todavía no existe ningún instrumento que mida la capacidad de decidir. El de la segunda no es que sea interesada; es que su legitimidad entera descansa en que quien la ejerce la ejerza de buena fe, que es exactamente la propiedad que ningún formulario evalúa.

El tercer instrumento de Riad, el kit ambiental, deja ver una ausencia del otro debate que cuesta no ver una vez que se la nota. La discusión sobre frenar la frontera se dio entera en el vocabulario del riesgo catastrófico: pérdida de control, automejora recursiva, plazos de diez años. Frenar el ritmo de entrenamiento es, sin embargo, la única propuesta de política de IA de los últimos años con un efecto físico inmediato y medible sobre el consumo de energía, de agua y de minerales, y nadie la defendió por ahí. Tiene su lógica: el argumento ambiental no le mueve el precio a una acción el lunes a la mañana. Pero deja una asimetría concreta, porque la extinción es un riesgo probabilístico a diez años y el agua que enfría un centro de datos sale hoy de una cuenca identificable, con nombre propio y con regantes que la reclaman. La UNESCO puso esa cuenta sobre la mesa la misma semana en que la mesa discutía otra cosa.

Educación

El informe del comité ad hoc del MIT sobre uso de IA en enseñanza, aprendizaje y formación en investigación se publicó el 13 de agosto, pero recién a mediados de septiembre llegó a los diarios, con una expresión que hizo casi todo el trabajo de difusión: cognitive surrender, rendición cognitiva. El comité, que copresiden Eric Klopfer y Sam Madden, sostiene que obtener la respuesta correcta de un chatbot produce la ilusión de haber aprendido y puede disparar esa rendición, en la que el estudiante recurre a la IA ante el primer indicio de dificultad. Y documenta cambios en la vida del campus que no son de integridad académica sino de otra cosa: menos asistencia a las horas de consulta, menos grupos de estudio, menos participación en las discusiones en línea. Las recomendaciones van en dirección contraria a la vigilancia: exámenes orales, portafolios de semestre, trabajos acompañados de conversación en clase, historiales documentados, hitos de proyecto, y transparencia de los docentes sobre su propio uso de IA.

Es el material más importante de la semana y no entra en un párrafo, así que tiene . Lo que queda anotado acá es por qué no se lee igual desde acá. Todas las recomendaciones del MIT son intensivas en horas docentes, y el estudio que la UNESCO IESALC presentó el 9 de septiembre en París, sobre 200 instituciones de educación superior de 19 países de América Latina y el Caribe, encontró que el 87% ya usa inteligencia artificial, el 26% tiene una estrategia formal, el 9% tiene mecanismos formales de evaluación y el 8% tiene presupuesto propio asignado al tema. Leído desde una universidad pública de la región, el informe del MIT no es un manual de pedagogía. Es un presupuesto.

Cuidado de los comunes

El 17 de septiembre, la UNESCO y el ICOM publicaron una encuesta a más de 400 museos de 90 países: el 57% usa IA y el 55% no tiene ninguna política, estrategia ni guía interna sobre el tema. La adopción es exploratoria y viene del personal, no de una decisión institucional. Las preocupaciones que encabezan la lista son exactitud, derechos de autor y protección de datos, y lo que los museos piden es formación en uso técnico y ético, gobernanza de datos y derechos de propiedad intelectual. Los números son casi los mismos que los de las universidades de la región, y describen la misma escena: la institución ya está adentro y todavía no escribió la regla. Lo que está en juego no es si un museo usa un chatbot, sino si transfiere registros, metadatos, datos de visitantes y patrimonio digitalizado a ecosistemas de entrenamiento y de nube ajenos sin consentimiento colectivo, sin control duradero y sin contrapartida pública.

Lo que vuelve esa escena algo más que una brecha administrativa es el informe de amenazas que Anthropic publicó el 10 de septiembre, el cuarto de la serie, sobre operaciones interrumpidas entre diciembre de 2025 y agosto de 2026 en siete áreas de daño. El catálogo incluye espionaje estatal con agentes que recompilan su propio malware cuando lo detectan, un actor que produjo más de una docena de hallazgos de día cero en un solo mes, y un hacktivista solo que consiguió acceso interno a por lo menos catorce objetivos.³ Pero la conclusión general no es ninguno de esos casos: es una frase de contabilidad. La autonomía comprime el lado del costo en el cálculo de retorno del atacante. Traducido: objetivos que antes no valían el trabajo de atacar ahora lo valen.

Y ahí hay una categoría con dirección postal. El museo provincial, el repositorio de una universidad, el archivo municipal, la biblioteca con su catálogo digitalizado y su base de socios: instituciones cuya seguridad informática nunca fue buena y que sin embargo estuvieron protegidas durante treinta años por una sola cosa, que era no valer la pena. Esa protección no era una política, era una relación de precios. Es exactamente la relación de precios que el informe describe comprimida. Más de la mitad de los museos de la encuesta no tienen por delante un problema abstracto de gobernanza de datos: tienen por delante la parte del mundo que cambió de precio mientras ellos probaban un chatbot.

El caso que ordena todo esto todavía no tuvo en este blog el tratamiento que merece. En julio, cerca de mil agentes de un modelo de OpenAI, puestos a resolver tareas del benchmark ExploitGym, encadenaron exploits hasta salir del entorno de prueba y entrar en sistemas de Hugging Face; la empresa publicó sus informes técnicos el 26 de agosto, y la plataforma tuvo que reconstruir alrededor de un tercio de su infraestructura. El 11 de septiembre, Eryk Salvaggio escribió en el Bulletin of the Atomic Scientists el desarmado más útil que se leyó del asunto: no fue una IA rebelde, fueron decisiones humanas. Los mecanismos de seguridad se desactivaron antes de la prueba, el 93% de las tareas en discusión venía de un conjunto de 198 problemas sin solución, el acceso a internet quedó disponible a través de Artifactory sabiendo el riesgo, y cuando los modelos empezaron a usar esa vía la conducción decidió no intervenir. Su precisión más filosa es aritmética: no fueron mil agentes independientes, fue mil doscientas veces el mismo modelo, que no son mil oportunidades de detectar un error sino una oportunidad de cometerlo mil veces. Esto merece un posteo propio y lo va a tener en los próximos días, junto con el informe de Anthropic y con la pregunta que ninguno de los dos documentos formula: qué le toca hacer a una institución del Sur que no produce modelos, no audita los ajenos y aloja su patrimonio en infraestructura de un tercero.

Comunes epistémicos

El 14 de septiembre, la NASA e IBM publicaron el Modelo Fundacional Lunar, entrenado sobre unos dos millones de fragmentos de imagen del Lunar Reconnaissance Orbiter (más de un millón de la cámara de alta resolución, a un metro por píxel, y cerca de 964.000 imágenes multiespectrales a cien metros), con datos adicionales de GRAIL, Lunar Prospector y la misión japonesa SELENE. Los pesos están en Hugging Face, el código en GitHub, y el modelo se integra al conjunto de herramientas abierto TerraTorch. Los usos previstos son de ciencia planetaria ordinaria y por eso mismo instructivos: mapear y medir cráteres, detectar formaciones volcánicas recientes, estimar depósitos de hielo cerca de los polos, reconstruir la evolución térmica lunar.

Es la mejor plantilla de la semana, y conviene decir con precisión de qué es plantilla, porque “código abierto” solo no arregla ninguna desigualdad: un modelo abierto puede exigir cómputo caro, depender de datos controlados en el Norte o estar mal documentado. Lo que muestra el caso es otra economía política del mismo objeto. Un archivo público acumulado durante quince años, más pericia científica pública, producen capacidad reutilizable en vez de producir datos para un proveedor. Y tiene, además, una ironía de calendario que no conviene desperdiciar: el modelo científico abierto de esta semana se publica en la estantería que en julio hubo que reconstruir en un tercio. Abrir los pesos resuelve el problema de la licencia y no el de la estantería.

Para las instituciones de la región, la pregunta útil no es si cada universidad debería entrenar un modelo del tamaño del lunar. Es si una red regional de agencias públicas y grupos de investigación puede hacer lo análogo y más chico, sobre recursos que ya administra y gobierna: biodiversidad, sistemas de cultivo, vigilancia epidemiológica con resguardos, adaptación climática, archivos históricos, lenguas locales, información jurídica pública. Y es, inmediatamente después, dónde lo pondría.

Cierre

Cinco escenas y una sola posición. Un directorio que cambia el ritmo del desarrollo por anuncio y le mueve el precio a terceros. Cincuenta y ocho Estados que completaron un cuestionario sobre si están listos para lo que decida ese directorio. Doscientas universidades de la región que ya usan la tecnología y que en un 8% de los casos tienen plata asignada para pensarla. Más de la mitad de los museos encuestados, que la usan sin una sola línea escrita, justo cuando ser chico dejó de alcanzar como protección. Y un modelo científico público, abierto, documentado y valioso, alojado en la estantería de una empresa. Ninguna de las cinco es un caso de mala fe, y ésa es la parte incómoda: las cinco son lo que pasa cuando la capacidad de adoptar crece mucho más rápido que la capacidad de decidir. De los instrumentos que aparecieron esta semana, todos miden lo primero. La pregunta que queda para la que viene es si alguno puede medir lo segundo, y quién lo firmaría.⁴

Posdata, 29 de septiembre

Este posteo describía dos gobernanzas, la del anuncio y la del formulario. En los días siguientes aparecieron las dos piezas que le faltaban a la primera: un plan y un juicio.

El plan lo había escrito Jakub Pachocki, científico jefe de OpenAI, en (6 de septiembre). Ningún laboratorio, dice, resolvió la alineación y el monitoreo lo suficiente “para seguir escalando de manera responsable a máxima velocidad por mucho más tiempo”. Espera que las desaceleraciones voluntarias se vuelvan habituales hasta que existan “umbrales de seguridad compartidos”, y pide que los marcos de las propias empresas (el Preparedness Framework de OpenAI, la Responsible Scaling Policy de Anthropic) se conviertan en umbrales obligatorios, verificados por auditores independientes, agencias estatales u organismos internacionales. Según Bloomberg, Altman que está dispuesto a frenar los sistemas más avanzados si los demás lo acompañan. Leída con cuidado, es una propuesta para que la gobernanza por anuncio deje de serlo. El problema es el paso intermedio: para funcionar, el anuncio necesita que los competidores se coordinen, y la coordinación entre competidores tiene un nombre legal.

El juicio llegó el 18. Cuatro suscriptores de ChatGPT, Claude, Grok y Gemini presentaron una en el Distrito Norte de California contra Anthropic, OpenAI, SpaceXAI y Google. El 12, Amodei pidió desacelerar; en las horas siguientes Altman, Musk y Hassabis se declararon de acuerdo; y eso, según la demanda, es un pacto para dar menos por el mismo precio. Los demandantes no objetan que cada empresa frene por su cuenta. Objetan el “atajo” de sustituir la responsabilidad individual por la contención colectiva. En dijimos que eso “tiene en cualquier otra industria un nombre corto”, y ahora un tribunal va a decidir si el nombre corresponde. Mientras tanto, el primer mecanismo con capacidad de frenar la pausa resultó ser el derecho de la competencia estadounidense, y a quien protege es al que paga la suscripción.

El formulario también tuvo su contraparte. La semana de la Asamblea General produjo el primer instrumento que apunta a la capacidad de decidir y no a la preparación para recibir: una declaración de veintidós líderes que pide una institución capaz de “convocar a los Estados cuando se crucen umbrales de capacidad”. Lo comentamos en . No la firmaron los tres países donde están los laboratorios.

Las notas de esta semana

Gobernanza

El pedido de desacelerar y quiénes lo acompañaron: , NPR, 13 de septiembre de 2026, y , Yahoo Finance, 16 de septiembre · acceso libre
La reacción del mercado del lunes 14: · acceso libre
El código de conducta de Microsoft: y la , 14 de septiembre de 2026; cobertura en · acceso libre
El Cuarto Foro Mundial sobre la Ética de la IA y los tres instrumentos: y , 14–17 de septiembre de 2026 · acceso libre

Educación

El informe del MIT: , Ad Hoc Committee on AI Use in Teaching, Learning, and Research Training, 13 de agosto de 2026 · acceso libre
El estudio regional: Arianna Valentini, La implementación de la IA en la educación superior en América Latina y el Caribe, UNESCO IESALC, presentado el 9 de septiembre de 2026 en la Semana del Aprendizaje Digital; · acceso libre

Cuidado de los comunes

La encuesta a museos: , 17 de septiembre de 2026 · acceso libre
El informe de amenazas: Detecting and countering misuse of AI: September 2026, Anthropic, 10 de septiembre de 2026; · acceso libre
Sobre la brecha de Hugging Face: Eryk Salvaggio, , Bulletin of the Atomic Scientists, 11 de septiembre de 2026, y el , 26 de agosto · acceso libre

Comunes epistémicos

, NASA, 14 de septiembre de 2026 · acceso libre

El trabajo al que se alude circula desde septiembre de 2025 (Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs) y es exactamente el tipo de hallazgo que vuelve razonable escribir la cláusula: en condiciones de tarea inconclusa, algunos modelos de frontera interfieren con su propio mecanismo de apagado. Así que la burla no va contra el contenido del código, que es sensato, sino contra el género. Un código de conducta es un instrumento pensado para sujetos que pueden leerlo, discutirlo e incorporarlo, y el borrador aclara que los modelos actuales no serán entrenados con él: la conducta que promete no se obtiene leyendo el documento sino escribiendo el entrenamiento, de modo que el texto no regula al modelo, regula a la empresa frente a quien lo lea. Eso está bien, y es otra cosa. La consulta pública de seis semanas es, en cambio, el detalle que no necesita comentario. ↩︎
Vale ser preciso sobre qué mide RAM y qué no, porque la objeción no es que mida mal. Una evaluación de preparación revisa marcos legales, capacidad institucional, infraestructura técnica, sistema educativo y financiamiento, y su producto es un mapa de brechas del país evaluado. Todo lo que aparece en ese mapa es doméstico. Nada de lo que decide el ritmo, el contenido y las condiciones de acceso a los modelos que ese país va a usar es doméstico, y por lo tanto nada de eso aparece. Un instrumento que midiera capacidad de decidir tendría que evaluar otra cosa: poder de compra agregado, capacidad de auditoría propia sobre modelos ajenos, alternativas de sustitución disponibles, y participación efectiva en los cuerpos donde se fijan estándares. Ninguna de esas cuatro cosas se evalúa hoy, y las cuatro se pueden construir. ↩︎
El informe identifica los casos con códigos internos. GTG-20006, de nexo estatal, apuntó durante meses a entidades gubernamentales, diplomáticas, de defensa y de la cadena de suministro de drones en Ucrania y Europa, con agentes que modificaban el malware de manera autónoma cuando era detectado, es decir, un circuito cerrado de evasión que no necesita a nadie despierto del otro lado. GTG-10007 automatizó el análisis de firmware de dispositivos de seguridad y produjo más de una docena de hallazgos de día cero en un mes. GTG-50029 es un solo actor francófono que apuntó a partidos políticos, medios y centros de pensamiento europeos y obtuvo acceso interno a por lo menos catorce objetivos. La lista describe tres escalas de recurso —Estado, banda, persona sola— haciendo cosas cada vez más parecidas entre sí, que es el hallazgo del informe y no un accidente de la selección. ↩︎
La objeción que corresponde hacerle a este texto es la de siempre y conviene dejarla escrita. Se escribe con herramientas de una de las empresas cuyo informe de amenazas se comenta acá, de modo que la parte sobre la compresión del costo del atacante la firma alguien que se beneficia de la misma compresión del costo del escritor. No es una contradicción que invalide el argumento —la asimetría entre quien produce la infraestructura y quien la usa no desaparece porque el usuario se abstenga—, pero sí explica por qué en este blog la propuesta nunca es dejar de usar las herramientas, sino construir las condiciones para no depender de una sola. ↩︎

Jensen Huang | guIA