Et sikkerhetsargument for å holde resonnementet privat
OpenAI har publisert en redegjørelse for hvordan selskapet oppdager og forstyrrer fiendtlig destillasjon — å bruke en frontmodells utdata uten tillatelse til å trene en annen modell som arver evnen, men ikke sikringene. Selskapet beskriver problemet som et sikkerhetsspørsmål, ikke bare et kommersielt: en motstander kan destillere en modells cyberevne og så ta den i bruk uten de avslagene som begrenset originalen.
Hovedtallet gjelder beskyttet resonnement, den mellomliggende tankekjeden en modell lager på vei mot et svar. I en intern adaptiv black box-evaluering med automatiserte red teams sier OpenAI at gjennomsnittlig suksessrate for angrep som henter tilbake resonnement modellen laget da den besvarte en tidligere forespørsel, falt fra 54,0 prosent mot GPT‑6 Astra med de opprinnelige sikringene til 0,2 prosent mot GPT‑6.2 Astra med oppdaterte. For resonnement i den pågående forespørselen gikk raten fra 22,9 til 0,9 prosent. Begge tallene er OpenAIs egne, samlet over seks angripende modeller.
Hvorfor sporene betyr mer enn svarene
OpenAI beskriver også en intern studie av hvordan cyberevne overføres. Med det en bruker normalt ser som utgangspunkt — sluttsvar, resonnementsammendrag og verktøybruk — finjusterte selskapet elevmodeller på baner fra lærermodeller på Astra-nivå som arbeidet med koding og defensiv sikkerhet, og målte hva som endret seg når eleven også så lærerens eksakte resonnementspor.

Etter veiledet finjustering slo eleven trent på eksakte spor stort sett den som var trent på sammendrag. Etter en runde forsterkningslæring lå eleven med eksakte spor fortsatt høyere ved det største testede inferensbudsjettet på begge testene som vises, mens sammendragseleven gjorde det bedre ved lavere budsjetter. I en fotnote noterer OpenAI at Anthropic rapporterte en tilsvarende fordel for fullstendige utskrifter framfor sammendrag på SWE-bench Verified, og mener eget resultat utvider det til offensivt cyberarbeid.
Klassifikatorer, API-grenser og utestengte kontoer
Forsvaret ligger på to nivåer. På forespørselsnivå: fiendtlig trening slik at modeller avviser uttrekksforsøk, inndataklassifikatorer som oppdager forsøkene, og utdataklassifikatorer som sjekker assistentmeldinger og argumenter i verktøykall — det siste fordi en modell kan lekke resonnement i et verktøys argumenter uten å ha det i sluttsvaret.
På API-nivå binder GPT‑6.2 Astra og Sol beskyttet resonnement til samtalehistorikken som skapte det. Skrives en tidligere melding om, forkaster API-et resonnementet som fulgte. Eldre modellfamilier med svakere sikringer hindres i å lese de nyere modellenes beskyttede resonnement. OpenAI sier at en redegjørelse i september gjaldt angrep som flyttet kryptert resonnement fra én samtale til en annen, og at selskapet siden har stengt en vei som kunne blottlegge en annen brukers krypterte resonnement.

Navngitte aktører og et lovønske
Tallene for tiltak er nøkterne. OpenAI sier at ukentlige aksjoner mot destillasjonskampanjer “har variert i omfang fra tusenvis til titusenvis av kontoer, med en rate som økte betydelig i sommer”.
Selskapet navngir to parter. I februar orienterte det Kongressen om aktivitet som tydet på at DeepSeek forsøkte å destillere amerikanske frontmodeller. I september meldte det at en kampanje for å hente ut beskyttet resonnement var stanset, og tilskrev en sentral del av aktiviteten personer knyttet til Moonshot AI, utvikleren av Kimi. Flere avsløringer er lovet.
Innlegget avsluttes med politikk. OpenAI sier det støtter lovgivning som gir amerikanske myndigheter flere verktøy til å identifisere og sanksjonere utenlandske aktører som henter ut evner fra amerikanske modeller, og nevner Chip Security Act, AI OVERWATCH Act og MATCH Act. Det tilbyr også fire praksiser til andre laboratorier: beskytt resonnement gjennom hele interaksjonen, behold vellykkede angrep som regresjonstester, kombiner tiltak per forespørsel med kampanjeetterforskning, og samordne sikringskrav med utrullingspartnere. Om konkurrentene publiserer sammenlignbare uttrekksrater, er den åpenbare neste prøven.