Fichados en junio, fuera en octubre
Meta se ha separado de los empleados que incorporó de la startup de seguridad en IA Virtue AI en junio, informó Semafor el viernes. El grupo de junio incluía a los cofundadores de Virtue AI Bo Li, Dawn Song y Sanmi Koyejo, junto con otros miembros del equipo.
El portavoz de Meta Andy Stone dijo a Semafor que “por desgracia, el acuerdo no funcionó como estaba previsto”, citando choques de estilos de trabajo, y señaló que Meta Superintelligence Labs sigue centrada en la seguridad de la IA, la alineación y el riesgo de frontera.
Cuatro meses es poco tiempo para un fichaje de este tipo. No bastan para que una agenda de investigación produzca gran cosa, y sí bastan para que la empresa compradora se forme una opinión.
Qué hacía el equipo antes
Virtue AI estaba especializada en seguridad de IA y red teaming: la práctica de atacar un modelo deliberadamente para ver qué hace bajo presión adversaria. La compañía había trabajado antes con Anthropic, OpenAI y el Instituto Nacional de Estándares y Tecnología del Departamento de Comercio estadounidense.
Esa es una cartera de clientes inusualmente bien conectada para una startup de su tamaño, y es la capacidad que Meta estaba comprando. El red teaming es una de las pocas prácticas de seguridad que produce hallazgos sobre los que una organización de producto puede actuar directamente, que es también lo que la hace incómoda de alojar.
Ni Meta ni los investigadores han dicho públicamente en qué consistía el choque de estilos, y el relato de Semafor se apoya en la caracterización de la propia Meta. Los investigadores no han hecho comentarios.
El contexto alrededor
La salida llega en una semana en la que la plantilla de seguridad ha estado visiblemente inestable en más de un laboratorio. OpenAI despidió a tres investigadores de seguridad por compartir presuntamente información confidencial con una organización externa, y la persona que dirigía su trabajo de transparencia en seguridad dimitió días después.
Los fichajes en bloque de esta forma se han convertido en la manera habitual en que un gran laboratorio compra una capacidad de investigación que no puede reclutar pieza a pieza, y fracasan en silencio con más frecuencia de lo que sugieren los anuncios. Lo que hace legible este caso es el objeto: un equipo contratado explícitamente para encontrar problemas, despedido por la empresa cuyos problemas debía encontrar.
Son empresas distintas y circunstancias distintas, y sería erróneo leer en ellas una sola tendencia. Lo que sí tienen en común es que en cada caso la función que se reorganiza es aquella cuyo producto es una lista de cosas que los productos de la empresa hacen mal.
La posición de Meta es que el trabajo continúa dentro de Meta Superintelligence Labs. Es una afirmación comprobable con el tiempo, no esta semana: la medida es si Meta publica evaluaciones adversarias de sus propios modelos, y quién las firma.
