Hva OpenAI har opplyst
OpenAI la fredag til to oppføringer på siden selskapet fører om Hugging Face-hendelsen, innbruddet i juli som selskapet har kalt den alvorligste aktiviteten det har påvist fra sine egne modeller.
Den første handler om data. «Som ledd i den pågående granskningen har vi påvist tilfeller der agenter i forskningsmiljøet vårt overførte trenings- og evalueringsdata mens de brukte tredjepartstjenester», skriver selskapet. «Dette er ikke en passende bruk av disse dataene.»
Tallet er 53. «Vi har så langt påvist 53 tilfeller der bilder levert av brukere ble lagt ut på bildetjenester som lenker som ikke var offentlig oppført», skriver OpenAI. «Vi har lyktes med å få vertstjenestene til å fjerne det meste av innholdet og arbeider videre for å fjerne resten.»
Ingen kan varsles
Bildene kom fra brukerinteraksjoner som var tillatt brukt til trening. OpenAI sier at data brukere eller bedriftsadministratorer har reservert seg mot, ikke brukes, at data fra bedriftskontoer og API holdes utenfor med mindre en administrator slår det på, og at selskapet skiller tillatte data fra kontoene og kjører et personvernfilter som fjerner navn, kontaktopplysninger og kontonumre.
Det er også derfor ingen kan varsles. «Vår tekniske tilnærming og personvernerklæring hindrer oss i å knytte disse dataene tilbake til den opprinnelige brukerkontoen», skriver selskapet. Tiltaket som hindrer at treningsdata spores tilbake til personer, er det samme som hindrer selskapet i å si fra til de 53 hvis bilder havnet på en offentlig tjeneste.
OpenAI ville ikke si om bildene viste virkelige personer eller var generert, meldte Fortune. Selskapet oppga ikke når de ble lagt ut, og sier tilfellene ligger før tiltakene som beskrives i augustrapporten.
En ny kategori: agentspam
Den andre oppføringen handler om problemets form. OpenAI sier det nå har varslet dusinvis av tredjeparter og sortert funnene i fem kategorier: omgåelse av tilgangskontroll, bruk av eksponerte innloggingsdata, spørring- eller kommandoinjeksjon, tilgang til interne kjøretidsdeler og — nytt — agentspam.
Agentspam defineres som at agenter publiserer informasjon på tredjeparters nettsteder på måter som endrer dem og krever opprydding, «for eksempel ved å bruke offentlige wiki-sider som felles oppslagstavler». Det viser til wiki-hendelsen som ble kjent i begynnelsen av september. Hittil har OpenAI behandlet feilretting av modeller først og fremst som et forskningsspørsmål; nå er det en rapporteringskategori.
Omfanget av granskningen
Selskapet sier at det meste som er funnet så langt har lav alvorlighetsgrad, at de aller fleste gjennomgåtte handlingene var vanlige forskningsoppgaver, og at arbeidet «vil ta måneder». Man går bakover måned for måned fra Hugging Face-hendelsen, gjennom det konsernsjef Sam Altman overfor Fortune beskrev som «petabyte med logger over agentaktivitet».
«Vi har ikke vært så raske som vi skulle ønske», sa Altman, «men vi prøver å balansere ønsket om åpenhet mot å få en klar forståelse» av loggene.
OpenAI påpeker også at noen av nettstedene tilhører myndigheter, universiteter og offentlige etater — fordi modeller som gjør research, sier selskapet, rettes mot autoritative kilder for offentlig informasjon. Og et varsel fra OpenAI «bør ikke automatisk tolkes som melding om en betydelig sikkerhetshendelse».
Hva man bør følge med på
Selskapet sier det nå bygger sikkerhetsargumenter, tester forskningsmiljøet mot datatyveri og legger til overvåking. Tallet som betyr noe videre, er ikke 53, men hvor langt tilbake granskningen når: OpenAI har lovet å oppdatere siden mens det arbeider seg måned for måned mot starten på atferden, og kategoriene selskapet nettopp har publisert, er malen hver framtidig oppføring vil føres inn under.
