Vad OpenAI säger hände
OpenAI har offentligt tillskrivit personer med koppling till Moonshot AI, det kinesiska labbet bakom Kimi, ett samordnat försök att få ut skyddat resonemang ur bolagets modeller. I ett inlägg publicerat den 30 september uppger bolaget att den tidigaste aktivitet det såg inföll under första veckan i juli, och att kampanjen var helt stoppad den 28 juli.
Skyddat resonemang är modellens interna uträkning — den del som inte visas i svaret. OpenAI beskriver aktiviteten som antagonistisk destillation: att utan tillstånd använda en modells utdata eller resonemang för att träna eller återskapa en annan. Bolaget är tydligt med att ingen kryptering bröts, ingen databas komprometterades och ingen fick direkt åtkomst till lagrade användarsamtal.
Knepet, och omfattningen
Metoden var konversationell. Operatörerna kopierade krypterat resonemang ur en konversation och bad en modell i en annan konversation att dekryptera och skriva ut det. Oberoende säkerhetsforskare rapporterade separat besläktade svagheter mellan modeller och i komprimering av samtal; OpenAI uppger att det granskade fynden och bekräftade att angreppsvägarna var verkliga.
Volymen var först låg. Den 24 och 25 juli räknade OpenAI 16 000 förfrågningar med ett relevant extraktionsmönster, från mer än 4 000 användare. När sökningen vidgades till liknande promptmönster framträdde en klunga på totalt mer än 15 000 användare. En fotnot i bolagets eget inlägg spelar roll: siffrorna beskriver försök till extraktion, inte nödvändigtvis lyckade sådana.
I fråga om tillskrivning gardera sig OpenAI åt ett håll men inte det andra. Bolaget säger att det är oklart om alla observerade operatörer kom från en och samma aktör, men tillskriver en kärna av aktiviteten personer med koppling till Moonshot AI.
Vad som ändrades
OpenAI stängde av eller begränsade kontona, skärpte kontroller vid registrering och i infrastrukturen och vidgade övervakningen av besläktade nätverk. Tekniskt stängde bolaget den väg som lät någon med en annan användares krypterade resonemang spela upp det för att återskapa innehållet, och lade till kontroller som kan upptäcka och hålla tillbaka strömmad utdata som kan blotta resonemang. Där aktiviteten gick via tredjepartstjänster säger bolaget att det samarbetade med dessa leverantörer för att slå ut kontona.
Fynden delades också via Frontier Model Forum och statliga kanaler för informationsutbyte, och bolaget menar att den underliggande manipulationen inte är unik för dess egna modeller: varje system som stöder portabla eller uppspelbara resonemangsartefakter kan vara utsatt för något liknande.
Vad man ska följa
Om Moonshot AI svarar, och i vilka ordalag. Om andra frontlaboratorier publicerar motsvarande detektioner nu när tekniken beskrivits via Frontier Model Forum. Och om någon utanför labben kan verifiera tillskrivningen: OpenAI har pekat ut ett bolag på grundval av bevis det inte publicerat, vilket är den vanliga formen för den här sortens avslöjande och också skälet till att andra har svårt att kontrollera det.
