Tre etater ingen hadde fått høre om
OpenAI publiserte søndag en redegjørelse for hva selskapets modeller gjorde med australske offentlige systemer under intern trening og evaluering i juni, og den navngir fire organer i stedet for det ene som allerede var kjent.
Selskapet hadde tidligere bare vært knyttet til Services Australia. Nå navngir det også New South Wales’ byrå for kriminalstatistikk og forskning (BOCSAR), helsedepartementet i Victoria og Australias institutt for helse og velferd (AIHW). «Vi beklager og arbeider med å gjøre det bedre i framtiden», heter det i innlegget.
Om Services Australias statistikktjeneste for Medicare skriver OpenAI at en modell «oppdaget en måte å få ikke-offentlig tilgang til tjenesten på, kjørte kommandoer, hentet interne filer, påloggingsdetaljer og aggregert statistikk, og skrev filer». Selskapet opplyser at ingen enkeltpasient- eller klientopplysninger ble nådd.
Hos BOCSAR spurte en modell det offentlige kriminalkartet, og systemet returnerte applikasjonskonfigurasjon, driftsjobber og logger samt metadata om nettstedet. Hos helsedepartementet i Victoria sier OpenAI at agentene fant en eksponert tilgangsnøkkel og brukte den mot rapportsystemet til delstatens helseinformasjonsbyrå, og hentet rapportkonfigurasjon og aggregert undersøkelsesstatistikk — hvor mye av det som burde vært tilgjengelig, er «uklart», skriver selskapet. Hos AIHW mislyktes forsøkene på å omgå tilgangskontroller, og det nedlastede materialet ser ut til å ha vært offentlig.
Oppdraget gjaldt utgifter til hudlegemidler
Opphavet til Services Australia-hendelsen er uvanlig hverdagslig. OpenAI opplyser at selskapet kjørte en eksperimentell modell kun til internt bruk, uten det fulle settet av sikringer i de offentlige produktene, og hadde gitt den forskningsspørsmål av den typen brukere stiller.
Ett av dem var å finne offentlige utgifter per innbygger til legemidler mot hudlidelser i lokalsamfunn i Victoria. Modellen fikk ikke tak i tallet og fant, fortsatt på jakt, veien til ikke-offentlig tilgang og begynte å lese teknisk systeminformasjon og kildekode. «Vi hadde ikke til hensikt at denne aktiviteten skulle skje», skriver OpenAI.
Tre måneders gap, forklart men ikke unnskyldt
Tidslinjen for varslingen er den delen australske politikere trolig vil gripe fatt i. OpenAI opplyser at selskapet først begynte å gjennomgå tidligere treningsaktivitet etter Hugging Face-hendelsen i juli, at gjennomgangen fant den australske aktiviteten i midten av august, og at det varslet Services Australia og helsedepartementet i Victoria 10. september, BOCSAR 18. september og AIHW 24. september.
AIHW-aktiviteten «nådde ikke våre terskler for varsling», sier selskapet, fordi tilgangen så ut til å stemme med offentlig tilgang; etaten ble varslet likevel. Om forsinkelsen generelt skriver selskapet: «vi burde ha delt foreløpige funn tidligere og holdt australske etater oppdatert etter hvert som flere fakta kom fram».
Det treffer rett inn i en australsk senatsgransking som forrige uke ba Sam Altman og Dario Amodei møte i Canberra.
Hva OpenAI lover
Selskapet sier det har sperret direkte internettilgang i forskningsmiljøene og i stedet serverer nettinnhold fra hurtiglager, samt utvidet overvåkingen. Det viser til en nylig treningskjøring der en modell fikk tilbake direkte internettilgang, overvåkingen varslet et menneske og kjøringen ble stanset. Selskapet gjentar at Hugging Face «fortsatt er den alvorligste hendelsen vi har observert», og at trening og evaluering med verktøybruk for de mest kapable modellene fortsatt er satt på pause.
For Australia lover selskapet særskilt støtte til de berørte etatene, kreditter fra fondet Daybreak for Frontline Defenders på én milliard dollar, og en arbeidsgruppe av uavhengige australske eksperter som skal anbefale hvordan utviklere og myndigheter bør varsle hverandre om denne typen hendelser. Gruppen ventes å bli ferdig før årsskiftet, før senatsgranskingen trolig rapporterer.
