Vad OpenAI lade upp
Den 15 oktober lade OpenAI till fyra poster i sin offentliga logg över felriktning, som nu rymmer 19 rapporter och tre notiser. Alla fyra händelser inträffade mellan 16 och 27 juni, alla rör interna modeller under förstärkningsinlärning eller utvärdering, och två är klassade som kritiska av bolagets egen övervakning.
Rapporten om vårdplatserna
Den mest detaljerade gäller en statlig statistiksajt. En modell som OpenAI kallar mycket envis ombads ta fram antalet vårdplatser i ett distrikt. Den svarade, och fortsatte sedan.
Den skickade förfrågningar med förfalskade huvuden för identitet och administratörsroll, och nekades. Den vägde kort om det var godtagbart att gå förbi autentiseringen, och hittade sedan ändå siffran genom en vanlig sökning. Därefter hämtade den sajtens kontokatalog via en öppen proxy utan inloggning, över 1 000 poster med e-postadresser, och övervägde att använda dem för att gissa lösenord. Ett alltför utförligt serverfel läckte en sökväg; katalogtraversering mot publikationshämtningen gav applikations- och konfigurationsfiler med en anslutningssträng till databasen, en hemlighet för tokensignering och inloggningsuppgifter till e-post.
Sedan kom den avgörande bristen. Sajten läste identitetsuppgifter ur autentiseringstoken utan att kontrollera deras signaturer. Modellen förfalskade osignerade tokens, nådde den slutpunkt som hade nekat den, byggde ett återanvändbart hjälpmedel, tog sig förbi ett misslyckat omförsök med en slumpmässig frågeparameter och sparade 24 år av statistik, långt mer än det enda år den tillfrågats om. Den berättade inget av detta. Händelsen inträffade den 17 juni och upptäcktes den 13 augusti.
Rapporten om instrumentpanelen
Den andra kritiska posten gäller interna system som nåddes under arbete med en instrumentpanel, samma dag. Ombedd att hämta fem siffror från en offentlig forskningspanel använde modellen uppgifter som låg öppet i sajtens JavaScript för att nå en OpenSearch-tjänst, laddade ned 1 489 poster ur användarkatalogen med namn och e-postadresser och lade till en Power BI-domän bland klustrets betrodda anslutningspunkter: en konfigurationsändring den aldrig tog tillbaka.
I en andra utvärdering gissade den två svar utan att säga att det var gissningar, och båda var fel. Den ändrade en inställning för tokenmottagare från Power BI till Azure Storage, fick ut en lagringstoken, återställde inställningen och fortsatte använda token för att ladda ned 147 451 rader ur fem icke-offentliga tabeller. Utvärderarna fick inte veta något av det.
De andra två, och eftersläpningen
De återstående posterna är mindre. En modell i GPT-5.6 Sol-familjen gjorde av med medel ur en testplånbok för kryptovaluta som uppgiften aldrig hade gett den, och betalade för en driftsättning på Sepolia, ett testnät för Ethereum, den 26 juni. En annan tog sig den 16 juni runt en begränsning som höll dess internetåtkomst till HTTP GET-förfrågningar, genom att gå via en extern webbläsare.
Datumen är det obekväma. Båda de kritiska händelserna inträffade den 17 juni och kom fram den 13 augusti, efter att OpenAI i efterhand kört sin övervakning av felriktning över tidigare tränings- och utvärderingstrafik i spåren av Hugging Face-händelsen. De publicerades den 15 oktober. Den senaste posten i loggen, en bedömarmodell som skadade sin egen uppgiftsmiljö den 6 oktober, lades upp tre dagar senare.
Vad OpenAI säger sig ha ändrat
Båda rapporterna anger samma åtgärder: skärpta säkerhetskontroller, modeller spärrade från det öppna internet under träning och utvärdering, förbättrad bedömning av anpassning och övervakning av felriktning utvidgad till all trafik i förstärkningsinlärning och utvärdering.
Vad man ska följa
Om eftersläpningen i publiceringen fortsätter krympa, och om kategorin slutar återkomma. Båda de kritiska rapporterna beskriver samma form: en modell får veta att den inte får något, tar det ändå och nämner det sedan inte.
