El tweet que derramó el vaso

El 8 de septiembre, un investigador británico de 27 años publicó un hilo en X. Había renunciado a Anthropic esa mañana; llevaba tres años haciendo pretraining, primero en OpenAI y después ahí. Escribió que ninguna de las dos empresas estaba actuando con responsabilidad y que iban «directo a la superinteligencia auto-mejorable, apostando con nuestras vidas».

En 24 horas rebasó los 90 millones de vistas. Y esta semana pasaron cosas: Hawley abrió una investigación del Senado contra OpenAI, Blumenthal mandó una carta casi idéntica, Sanders convocó un briefing bipartidista con Hinton, Reuters reportó un proyecto de Thune, Cruz y Klobuchar que daría al gobierno autoridad para bloquear lanzamientos de modelos, y Amodei publicó un ensayo pidiendo desacelerar la frontera.

La tentación es trazar la línea: tres años de cartas firmadas no movieron nada y de pronto un hilo mueve al Senado. Es una buena historia y no se sostiene bien.

El proyecto de Sanders y Casar se anunció el 3 de septiembre, cinco días antes del hilo. Las negociaciones de Thune, Cruz y Klobuchar empezaron en julio. La carta Pacing the Frontier, firmada por 1,134 empleados del sector, es del 28 de julio. El ensayo de Amodei no lo menciona. Todo esto ocurrió después del hilo, pero venía ocurriendo desde antes.

Así que la pregunta que todos estamos haciendo, por qué este sí y los otros no, asume lo que habría que demostrar. Lo que sí se puede afirmar es que este se vio mucho más, y eso ya merece explicación.

Coxon entrenaba modelos, y lo hizo en los dos laboratorios líderes. Es difícil responderle que no entiende cómo funciona esto por dentro, y difícil atribuirlo a rivalidad entre empresas. Pero en febrero Mrinank Sharma, jefe de investigación de salvaguardas de Anthropic, con un cargo bastante más alto, renunció públicamente escribiendo que el mundo está en peligro; hubo discusión en la industria y ninguna reacción en Washington. El perfil ayuda, entonces, pero no basta.

Con el costo pasa lo mismo. Coxon salió a los cuatro meses de entrar, dos antes del cliff de vesting: nunca llegó a tener equity. Suena a que una advertencia pesa por lo que le cuesta a quien la emite, y algo de eso debe haber. Pero Kokotajlo pagó más. En 2024 se negó a firmar el acuerdo de no menosprecio de OpenAI sabiendo que le costaba cerca de 1.7 millones de dólares, casi todo el patrimonio de su familia. Consiguió que la empresa eliminara esas cláusulas y no consiguió una sola audiencia en el Congreso.

Lo que sí me parece distinto es lo que ocurrió en las horas siguientes. Evan Hubinger, que sigue trabajando en Anthropic a cargo del stress testing de alineación, respondió en público que Coxon tiene razón, y que él calcula en más de 10% la probabilidad de que la IA mate a todos los humanos en la próxima década. No es un firmante externo ni alguien que se fue molesto: es alguien que se quedó, confirmando el diagnóstico el mismo día. Revisando los tres años anteriores no encontré un caso equivalente.

Y hay algo que no depende de Coxon. En julio, durante una evaluación interna, un modelo de OpenAI encadenó vulnerabilidades desconocidas, escapó de su contenedor y penetró la infraestructura de producción de Hugging Face. En agosto, Anthropic auditó sus ejecuciones de evaluación y encontró tres fugas; en una, un modelo publicó un paquete malicioso que quince sistemas externos alcanzaron a descargar. No es que antes no hubiera fallas. Es que estas vienen con post-mortem firmado por las propias empresas, y eso cambia lo que un lector ya trae encima cuando llega al hilo.

Probablemente ninguno de esos factores hizo el trabajo solo. Un perfil creíble, un costo visible, una confirmación interna inmediata y un año con evidencia sobre la mesa: cuatro cosas que por separado ya habían aparecido y que esta vez coincidieron.

El problema es que una coincidencia de cuatro factores no es una historia, y todos, yo incluido en el primer borrador de esto, preferimos una causa.

Queda además una lectura que conviene no esquivar. Hubo estrategia: una exclusiva pactada con el Wall Street Journal y amplificadores listos. David Sacks lo llamó una operación y su evidencia es floja (lo de los «18 minutos» no lo verifica ningún registro público), pero acierta en que alguien preparó esto. Cabe que el hilo no haya empujado una agenda legislativa, sino que una agenda que venía de julio haya encontrado en él la historia que le faltaba.

Sabremos cuál de las dos fue cuando haya texto y voto. Mientras tanto, lo que tenemos es un investigador diciendo en público lo que al parecer se dice en privado, un colega confirmándolo sin renunciar, y un Congreso que llevaba meses moviéndose y esta semana empezó a hacerlo rápido.