Et sikkerhedsargument for at holde ræsonnementet privat
OpenAI har offentliggjort en redegørelse for, hvordan virksomheden opdager og forstyrrer fjendtlig destillation — at bruge en frontmodels output uden tilladelse til at træne en anden model, der arver evnen, men ikke sikringerne. Virksomheden beskriver problemet som et sikkerhedsspørgsmål og ikke blot et kommercielt: en modstander kunne destillere en models cyberevne og derefter tage den i brug uden de afvisninger, der begrænsede originalen.
Hovedtallet handler om beskyttet ræsonnement, den mellemliggende tankekæde, en model danner på vej mod et svar. I en intern adaptiv black box-evaluering med automatiserede red teams siger OpenAI, at den gennemsnitlige succesrate for angreb, der genvinder ræsonnement, modellen dannede, da den besvarede en tidligere forespørgsel, faldt fra 54,0 procent mod GPT‑6 Astra med de oprindelige sikringer til 0,2 procent mod GPT‑6.2 Astra med de opdaterede. For ræsonnement i den aktuelle forespørgsel gik raten fra 22,9 til 0,9 procent. Begge tal er OpenAIs egne, samlet på tværs af seks angribende modeller.
Hvorfor sporene betyder mere end svarene
OpenAI beskriver også et internt studie af, hvordan cyberevne overføres. Med det, en bruger normalt ser, som udgangspunkt — slutsvar, ræsonnementresuméer og værktøjsbrug — finjusterede virksomheden elevmodeller på baner fra lærermodeller på Astra-niveau, der arbejdede med kodning og defensiv sikkerhed, og målte, hvad der ændrede sig, når eleven også så lærerens nøjagtige ræsonnementspor.

Efter superviseret finjustering slog eleven, der var trænet på nøjagtige spor, generelt den, der var trænet på resuméer. Efter en runde forstærkningslæring lå eleven med nøjagtige spor stadig højere ved det største testede inferensbudget på begge de viste prøver, mens resuméeleven klarede sig bedre ved lavere budgetter. I en fodnote bemærker OpenAI, at Anthropic rapporterede en tilsvarende fordel ved fulde udskrifter frem for resuméer på SWE-bench Verified, og mener, at dens eget resultat udvider det til offensivt cyberarbejde.
Klassifikatorer, API-grænser og lukkede konti
Forsvaret ligger på to niveauer. På forespørgselsniveau: fjendtlig træning, så modeller afviser udtrækningsforsøg, inputklassifikatorer, der opdager forsøgene, og outputklassifikatorer, der gennemgår assistentbeskeder og argumenter i værktøjskald — det sidste fordi en model kan lække ræsonnement i et værktøjs argumenter uden at have det i slutsvaret.
På API-niveau binder GPT‑6.2 Astra og Sol beskyttet ræsonnement til den samtalehistorik, der frembragte det. Omskrives en tidligere besked, kasserer API’et det ræsonnement, der fulgte. Ældre modelfamilier med svagere sikringer forhindres i at læse de nyere modellers beskyttede ræsonnement. OpenAI siger, at en redegørelse i september angik angreb, der flyttede krypteret ræsonnement fra én samtale til en anden, og at virksomheden siden har lukket en vej, der kunne blotlægge en anden brugers krypterede ræsonnement.

Navngivne aktører og et lovønske
Tallene for indgreb er nøgterne. OpenAI siger, at de ugentlige aktioner mod destillationskampagner “har varieret i omfang fra tusinder til titusinder af konti, med en rate, der steg betydeligt i sommer”.
Virksomheden navngiver to parter. I februar orienterede den Kongressen om aktivitet, der tydede på, at DeepSeek forsøgte at destillere amerikanske frontmodeller. I september meldte den, at en kampagne for at udtrække beskyttet ræsonnement var stoppet, og tilskrev en central del af aktiviteten personer med tilknytning til Moonshot AI, udvikleren af Kimi. Flere afsløringer er stillet i udsigt.
Opslaget slutter med politik. OpenAI siger, at den støtter lovgivning, der giver de amerikanske myndigheder flere redskaber til at identificere og sanktionere udenlandske aktører, der udtrækker evner fra amerikanske modeller, og nævner Chip Security Act, AI OVERWATCH Act og MATCH Act. Den tilbyder også fire praksisser til andre laboratorier: beskyt ræsonnement gennem hele interaktionen, behold vellykkede angreb som regressionstests, kombiner tiltag per forespørgsel med kampagneefterforskning, og samordn sikringskrav med udrulningspartnere. Om konkurrenterne offentliggør sammenlignelige udtrækningsrater, er den oplagte næste prøve.