Qué ha dicho
Jacob Coxon, investigador que dedicó unos tres años al preentrenamiento en OpenAI y después en Anthropic, anunció su dimisión el 9 de septiembre en una publicación en X, y dijo que abandonaba por completo la industria de la IA.
Escribió que había dimitido de Anthropic ese mismo día, que ninguna de las dos empresas actúa con responsabilidad y que ambas corren directas hacia una superinteligencia capaz de mejorarse a sí misma, apostando con nuestras vidas. Dijo que el sector va camino de los escenarios más agresivos, en los que las cosas podrían estar fuera de control a finales del año que viene, y que aceptar la carrera y entrar en lo que llamó la fase final es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada.
The Wall Street Journal informó de la dimisión. Anthropic no ha publicado una respuesta.
La distinción que traza entre los dos laboratorios
La parte más interesante del argumento de Coxon es que no trata a las dos empresas como equivalentes. En OpenAI, según lo describe, los investigadores no han interiorizado del todo lo que está en juego. En Anthropic sí lo han hecho —la dirección comprende los riesgos—, pero la empresa está atrapada en una carrera competitiva y cree que nadie más actuará con responsabilidad, de modo que debe llegar primero.
Es una crítica más afilada que la habitual, porque concede el argumento de seguridad en lugar de discutirlo. Si una empresa puede entender un riesgo con claridad y aun así no frenar, el problema es estructural y no epistémico, y la cultura interna de seguridad no es la palanca que lo arregla.
Qué está pidiendo
Coxon reclama coordinación entre laboratorios, y dice que debería llegar a medidas costosas, incluida explícitamente una prohibición temporal de mejorar las capacidades de los modelos. Es una petición mucho más fuerte que los marcos de divulgación y los compromisos de evaluación en los que ha convergido el sector, y no tiene ningún mecanismo detrás.
Llega además en una semana en la que el mismo argumento se ha formulado desde dentro del otro laboratorio. El jefe científico de OpenAI, Jakub Pachocki, escribió la semana pasada que ningún laboratorio ha resuelto la alineación lo bastante bien como para seguir escalando a pleno ritmo. La diferencia es que Pachocki lo dijo mientras seguía escalando, que es más o menos lo que señala Coxon.
Cuánto peso darle
La dimisión de un investigador no es una prueba sobre las capacidades de los modelos, y un empleado que se va no tiene más acceso al futuro que nadie. Sí es una prueba sobre lo que cree la gente dentro de estas empresas, y eso influye en con cuánta seriedad leer los marcos de seguridad que publican.
La categoría a la que pertenece es pequeña pero no está vacía: varios investigadores han dejado laboratorios de frontera en público en los dos últimos años con variaciones del mismo argumento. Ninguno ha cambiado un calendario de lanzamientos.
Qué vigilar a partir de ahora
Si Anthropic responde, y en qué tono. Una empresa que ha construido su posición de mercado sobre tomarse en serio la seguridad afronta una elección incómoda cuando la crítica viene de alguien que trabajó en su pila de preentrenamiento y no discute su análisis, sino solo su conducta.
