Rekryterade i juni, borta i oktober
Meta har skilts från de anställda bolaget tog in från AI-säkerhetsbolaget Virtue AI i juni, rapporterade Semafor på fredagen. Junigruppen omfattade Virtue AI:s grundare Bo Li, Dawn Song och Sanmi Koyejo, tillsammans med andra teammedlemmar.
Metas talesperson Andy Stone sade till Semafor att “tyvärr fungerade upplägget inte som planerat”, med hänvisning till krockande arbetssätt, och sade att Meta Superintelligence Labs fortsatt fokuserar på AI-säkerhet, alignment och frontrisk.
Fyra månader är kort tid för en sådan rekrytering. Det räcker inte för att en forskningsagenda ska hinna producera särskilt mycket, och det räcker för att det köpande bolaget ska ha bildat sig en uppfattning.
Vad teamet gjorde tidigare
Virtue AI var specialiserat på AI-säkerhet och red teaming — praktiken att avsiktligt angripa en modell för att se vad den gör under motståndarpress. Bolaget hade tidigare arbetat med Anthropic, OpenAI och det amerikanska handelsdepartementets standardiseringsinstitut NIST.
Det är en ovanligt välkopplad kundlista för ett bolag av den storleken, och det är den förmågan Meta köpte. Red teaming är en av få säkerhetspraktiker som ger fynd en produktorganisation kan agera direkt på, vilket också är det som gör den obekväm att härbärgera.
Varken Meta eller forskarna har offentligt sagt vad de krockande arbetssätten bestod i, och Semafors beskrivning vilar på Metas egen karakteristik. Forskarna har inte kommenterat.
Sammanhanget runt omkring
Avgången kommer i en vecka då säkerhetsbemanningen varit synligt instabil på mer än ett labb. OpenAI avskedade tre säkerhetsforskare för att de påstås ha delat konfidentiell information med en extern organisation, och den som ledde bolagets arbete med säkerhetstransparens sade upp sig några dagar senare.
Rekryteringar genom uppköp av den här formen har blivit det vanliga sättet för ett stort labb att köpa en forskningsförmåga det inte kan rekrytera bit för bit, och de misslyckas tyst oftare än beskeden antyder. Vad som gör just den här läsbar är ämnet: ett team som anställts uttryckligen för att hitta problem, avvecklat av det bolag vars problem det skulle hitta.
Det är olika bolag och olika omständigheter, och det vore fel att läsa in en enda trend i dem. Vad de har gemensamt är att den funktion som omorganiseras i varje fall är den vars resultat är en lista över saker bolagets produkter gör fel.
Metas egen hållning är att arbetet fortsätter inne i Meta Superintelligence Labs. Det är ett påstående som går att pröva över tid snarare än denna vecka: måttet är om Meta publicerar motståndarutvärderingar av sina egna modeller, och vem som undertecknar dem.
