Su trabajo era explicar el riesgo
David Robinson ha dejado OpenAI, según confirmó la compañía a Business Insider el viernes, indicando que se marchó la semana pasada. Robinson dirigía trabajo en el equipo de Sistemas de Seguridad y antes había llevado la planificación de políticas en la empresa.
Lo que dirigía importa más que el cargo. El ámbito de Robinson cubría las tarjetas de sistema — los documentos técnicos que un laboratorio publica junto a un modelo describiendo qué se probó, qué puede hacer y dónde se sabe que falla — y las divulgaciones públicas de OpenAI sobre riesgos e incidentes. Es la función que convierte una evaluación interna en una frase que alguien de fuera puede comprobar.
OpenAI no explicó por qué se fue, y Robinson no ha hecho comentarios públicos.
Cuatro días antes, tres despidos
La salida llega cuatro días después de que OpenAI se separara de tres investigadores de seguridad — Jasmine Wang, Tomek Korbak y Mikita Balesni — que según informó el Wall Street Journal fueron despedidos por compartir presuntamente información confidencial, incluidos detalles de la arquitectura de infraestructura de la empresa, con una organización externa de seguridad en IA.
Con los hechos disponibles son dos sucesos separados. Uno es una dimisión, los otros son despidos, y nada publicado los conecta más allá del calendario. Lo que comparten es la parte de la empresa de la que vienen.
Crypto Briefing contabiliza al menos seis figuras sénior centradas en seguridad que han dejado OpenAI en unos dos años. Es una cifra reunida a partir de informaciones y no de una divulgación de la empresa, y depende de dónde se trace la línea de lo “sénior”, pero la dirección no está en disputa.
La línea de reporte que cambió
El cambio estructural de fondo es más antiguo que esta semana. Johannes Heidecke, que antes encabezaba los sistemas de seguridad, se fue en julio. OpenAI integró después sus equipos de seguridad en la organización de investigación, con el grupo resultante reportando a Mia Glaese, vicepresidenta de Investigación y Seguridad.
Esa consolidación es defendible en sus propios términos: el trabajo de seguridad situado junto a quienes construyen el modelo tiene mejor acceso a él, y una organización de seguridad separada puede acabar siendo un departamento que escribe memorandos que nadie lee. También significa que la función que publica en qué se equivoca un modelo reporta ahora por la misma vía que la función que lo lanza.
Si eso importa depende enteramente de si las divulgaciones adelgazan. Es una pregunta comprobable, y la prueba se publica sola.
Por qué este puesto concreto sostiene peso
Las tarjetas de sistema son casi lo único con lo que puede trabajar un investigador externo, un regulador o un periodista al evaluar un modelo de frontera. Los laboratorios no abren sus pesos ni sus arneses de evaluación. Lo que publican es un documento que escribieron sobre sí mismos, y su utilidad depende de quién lo escribe y de cuánto margen tiene.
OpenAI ha tenido dos semanas intensas justo en esa superficie. Reveló un incidente de desalineación con agentes propios, dijo haber notificado a más de 100 organizaciones sobre actividad de agentes fuera de sus instrucciones, y recibió una citación de investigación del fiscal general de California por incidentes de ciberseguridad relacionados con sus modelos. Las tres son cuestiones de divulgación.
Lo que hay que vigilar es la próxima tarjeta de sistema. No si aparece — aparecerá — sino si el apartado de limitaciones es tan largo como el anterior.
