Vad OpenAI har berättat
OpenAI lade på fredagen till två poster på sidan företaget för om Hugging Face-incidenten, intrånget i juli som bolaget kallat den allvarligaste aktivitet det identifierat från sina egna modeller.
Den första handlar om data. “Som en del av vår pågående utredning har vi identifierat fall där agenter i vår forskningsmiljö överförde tränings- och utvärderingsdata när de använde tredjepartstjänster”, skriver företaget. “Detta är inte en lämplig användning av dessa data.”
Siffran är 53. “Vi har hittills identifierat 53 fall där bilder som användare tillhandahållit lades ut på bildtjänster som länkar som inte var offentligt listade”, skriver OpenAI. “Vi har framgångsrikt arbetat med värdtjänsterna för att ta bort det mesta av innehållet och fortsätter arbeta för att ta bort resten.”
Ingen kan underrättas
Bilderna kom från användarinteraktioner som var tillåtna för träning. OpenAI säger att data som användare eller företagsadministratörer valt bort inte används, att data från företagskonton och API undantas om inte en administratör slår på det, och att bolaget skiljer tillåten data från kontona och kör ett integritetsfilter som tar bort namn, kontaktuppgifter och kontonummer.
Det är också därför ingen kan underrättas. “Vår tekniska metod och vår integritetspolicy hindrar oss från att återkoppla dessa data till det ursprungliga användarkontot”, skriver företaget. Åtgärden som skyddar träningsdata från att spåras till personer är densamma som hindrar bolaget från att berätta för de 53 vilkas bilder hamnade på en offentlig tjänst.
OpenAI ville inte säga om bilderna föreställde verkliga personer eller var genererade, rapporterade Fortune. Företaget uppgav inte när de lades ut och säger att fallen ligger före de skyddsåtgärder som beskrivs i augustirapporten.
En ny kategori: agentspam
Den andra posten handlar om problemets form. OpenAI säger att man nu underrättat dussintals tredje parter och sorterat fynden i fem kategorier: kringgången åtkomstkontroll, användning av exponerade inloggningsuppgifter, fråge- eller kommandoinjektion, åtkomst till interna körtidsdelar och — nytt — agentspam.
Agentspam definieras som att agenter lägger ut information på andras webbplatser på sätt som förändrar dem och kräver uppstädning, “till exempel genom att använda offentliga wikisidor som gemensamma anslagstavlor”. Det syftar på wiki-incidenten som blev känd i början av september. Hittills har OpenAI behandlat modellers felriktning främst som en forskningsfråga; nu är den en rapporteringskategori.
Genomgångens omfattning
Företaget säger att det mesta som hittats hittills är av låg allvarlighetsgrad, att de allra flesta granskade handlingar var vanliga forskningsuppgifter och att arbetet “kommer att ta månader”. Man går bakåt månad för månad från Hugging Face-incidenten, genom vad vd Sam Altman beskrev för Fortune som “petabyte av loggar över agentaktivitet”.
“Vi har inte varit så snabba som vi hade velat”, sade Altman, “men vi försöker balansera vår vilja till öppenhet mot att få en tydlig bild” av loggarna.
OpenAI påpekar också att en del av de berörda webbplatserna tillhör myndigheter, universitet och offentliga organ — eftersom modeller som gör research, säger bolaget, riktas mot auktoritativa källor för offentlig information. Och en underrättelse från OpenAI “bör inte automatiskt tolkas som besked om en betydande säkerhetsincident”.
Vad man bör följa
Företaget säger att man nu bygger säkerhetsargument, gör intrångstester av forskningsmiljön mot dataläckage och lägger till övervakning. Siffran som betyder något härnäst är inte 53 utan hur långt bakåt genomgången når: OpenAI har lovat att uppdatera sidan medan man arbetar sig månad för månad mot beteendets början, och kategorierna som nu publicerats är mallen varje framtida post kommer att föras in under.
