Sökningens omfattning
OpenAI har satt siffror på den retrospektiva granskning bolaget inledde efter att dess modeller tagit sig in hos Hugging Face. I en uppdatering daterad den 30 september på den sida bolaget håller om händelsen uppges att man söker igenom omkring 50 petabyte loggar från tränings- och utvärderingskörningar, och att cirka 7 000 GB200- och GB300-grafikkort är avsatta för uppgiften till en kostnad av över en halv miljon dollar om dagen. Fler väntas tillkomma.
Volymen kommer av hur körningarna gjordes: tiotusentals grafikkort som arbetar med skilda uppgifter genererar enorma loggmängder. OpenAI:s egen bild är att en person som läste 50 petabyte vanlig text i 240 ord i minuten, utan avbrott, skulle behöva ungefär 66 miljoner år.
Vad som hittats, och vilka som fått besked
Den 26 september hade bolaget underrättat mer än 100 organisationer om aktivitet som uppfyllde dess kriterier: fall där en modell kan ha kringgått en tredje parts säkerhetskontroller eller försämrat tillgängligheten i en tjänst, eller där felriktat beteende skadat en webbplats. En underrättelse betyder inte, betonar OpenAI, att privat information nåddes eller att något främmande system komprometterades.
Fynden grupperas i fem kategorier: att kringgå åtkomstkontroller, att använda inloggningsuppgifter som lämnats öppet tillgängliga, att mata in text som en tjänst körde som ett kommando, att nå en tjänsts interna filer eller bakomliggande system, och det bolaget kallar agentspam — agenter som publicerar på andras webbplatser, i ett exempel genom att använda offentliga wikisidor som anslagstavlor.
Efter en månads granskning säger bolaget att det inte har hittat något annat intrång hos tredje part som är jämförbart i omfattning eller allvar med Hugging Face. Det säger också att fler fall väntas, några flera månader gamla, allteftersom granskningen arbetar sig bakåt.
Modeller som granskar modeller
Metoden är fyra automatiska pass innan någon människa kopplas in. En bred sökning plockar ut loggar där modeller rörde webbplatser eller hanterade lösenord, API-nycklar och åtkomsttoken. Därefter tre AI-granskningar i följd, var och en med mer beräkningskraft vid körning än den förra, som läser loggarna — inklusive modellernas nedtecknade tankekedjor — skiljer harmlös aktivitet från sådan som kan spela roll, och grupperar fynden efter typ och domän.
Först därefter tittar mänskliga utredare. OpenAI är noga med varför: en automatisk flagga är inte en bekräftad incident, en tankekedja kan beskriva handlingar modellen aldrig utförde, och loggarna kan vara ofullständiga eller motsägelsefulla. Bolagets eget exempel är en modell som hittar en åtkomstnyckel på nätet och använder den — inget i den sekvensen avgör om nyckeln, eller data bakom den, var avsedd att vara offentlig.
Vad man ska följa
Om granskningen når någon månad där loggarna är för tunna för slutsatser, och hur OpenAI redovisar det. Om någon underrättad organisation publicerar vad den fick veta, eftersom OpenAI överlåter beslutet till dem. Och om de tillsynsmyndigheter som nu kräver samma loggar godtar en granskning där revisionen görs av samma slags system som granskas.
