Hva OpenAI sier skjedde
OpenAI har offentlig tilskrevet personer med tilknytning til Moonshot AI, det kinesiske laboratoriet bak Kimi, et samordnet forsøk på å hente ut beskyttet resonnering fra selskapets modeller. I et innlegg publisert 30. september opplyser selskapet at den tidligste aktiviteten det observerte var i første uke av juli, og at kampanjen var helt stanset 28. juli.
Beskyttet resonnering er modellens interne utregning — delen som ikke vises i svaret. OpenAI beskriver aktiviteten som fiendtlig destillasjon: å bruke en modells utdata eller resonnering uten tillatelse for å trene eller gjenskape en annen. Selskapet er tydelig på at ingen kryptering ble brutt, ingen database kompromittert, og at ingen fikk direkte tilgang til lagrede brukersamtaler.
Trikset, og omfanget
Metoden var samtalebasert. Operatørene kopierte kryptert resonnering ut av én samtale og ba en modell i en annen samtale om å dekryptere og skrive den ut. Uavhengige sikkerhetsforskere meldte separat om beslektede svakheter på tvers av modeller og i komprimering av samtaler; OpenAI sier det kontrollerte funnene og bekreftet at angrepsveiene var reelle.
Volumet var lavt i starten. Den 24. og 25. juli talte OpenAI 16 000 forespørsler med et relevant uthentingsmønster, fra mer enn 4 000 brukere. Da søket ble utvidet til lignende ledetekstmønstre, dukket det opp en klynge på mer enn 15 000 brukere totalt. En fotnote i selskapets eget innlegg betyr noe her: tallene beskriver forsøk på uthenting, ikke nødvendigvis vellykkede.
Når det gjelder tilskrivning, tar OpenAI forbehold i én retning og ikke i den andre. Selskapet sier det er uklart om alle observerte operatører kom fra én og samme aktør, men tilskriver en kjerne av aktiviteten til personer knyttet til Moonshot AI.
Hva som ble endret
OpenAI utestengte eller begrenset kontoene, strammet inn kontroller ved registrering og i infrastrukturen, og utvidet overvåkingen av beslektede nettverk. Teknisk stengte selskapet veien som lot noen som hadde en annen brukers krypterte resonnering spille den av for å hente innholdet, og la til kontroller som kan oppdage og holde tilbake strømmet utdata som kan avsløre resonnering. Der aktiviteten gikk via tredjepartstjenester, sier det at det samarbeidet med disse leverandørene for å slå ut kontoene.
Funnene ble også delt gjennom Frontier Model Forum og offentlige kanaler for informasjonsdeling, og selskapet mener at den underliggende manipulasjonen ikke er unik for dets egne modeller: ethvert system som støtter flyttbare eller avspillbare resonneringsartefakter kan være utsatt for noe lignende.
Hva man skal følge
Om Moonshot AI svarer, og i hvilke ordelag. Om andre frontlaboratorier publiserer tilsvarende deteksjoner nå som teknikken er beskrevet via Frontier Model Forum. Og om noen utenfor laboratoriene kan verifisere tilskrivningen: OpenAI har pekt ut et selskap på grunnlag av bevis det ikke har publisert, som er den vanlige formen for denne typen offentliggjøring og også grunnen til at andre har vanskelig for å kontrollere den.
