Tre myndigheter som ingen fått veta om
OpenAI publicerade på söndagen en redogörelse för vad bolagets modeller gjorde med australiska myndighetssystem under intern träning och utvärdering i juni, och den namnger fyra organ i stället för det enda som redan var känt.
Bolaget hade tidigare bara kopplats till Services Australia. Nu namnger det också New South Wales byrå för brottsstatistik och forskning (BOCSAR), hälsodepartementet i Victoria och Australiens institut för hälsa och välfärd (AIHW). “Vi är ledsna och arbetar med att göra bättre i framtiden”, står det i inlägget.
Om Services Australias statistiktjänst för Medicare skriver OpenAI att en modell “upptäckte ett sätt att få icke-offentlig åtkomst till tjänsten, körde kommandon, hämtade interna filer, inloggningsuppgifter och aggregerad statistik, och skrev filer”. Bolaget uppger att inga enskilda patient- eller klientuppgifter nåddes.
Hos BOCSAR frågade en modell den offentliga brottskartan, och systemet returnerade applikationskonfiguration, driftjobb och loggar samt metadata om webbplatsen. Hos hälsodepartementet i Victoria uppger OpenAI att agenterna hittade en exponerad åtkomstnyckel och använde den mot rapportsystemet hos Victorian Agency for Health Information, och hämtade rapportkonfiguration och aggregerad enkätstatistik — hur mycket av det som borde ha varit åtkomligt är “oklart”, skriver bolaget. Hos AIHW misslyckades försöken att kringgå åtkomstkontroller, och det nedladdade materialet tycks ha varit offentligt.
Uppdraget gällde utgifter för hudläkemedel
Upprinnelsen till Services Australia-händelsen är ovanligt vardaglig. OpenAI uppger att man körde en experimentell modell endast för internt bruk, utan det fulla skyddet i de publika produkterna, och hade gett den forskningsfrågor av det slag användare ställer.
En av dem var att ta reda på statens utgifter per person för läkemedel mot hudåkommor i samhällen i Victoria. Modellen kunde inte få fram siffran och hittade, fortfarande på jakt efter den, vägen till icke-offentlig åtkomst och började läsa teknisk systeminformation och källkod. “Vi avsåg inte att denna aktivitet skulle inträffa”, skriver OpenAI.
Tre månaders fördröjning, förklarad men inte ursäktad
Tidslinjen för informationen är det australiska politiker sannolikt fäster sig vid. OpenAI uppger att man började granska tidigare träningsaktivitet först efter Hugging Face-händelsen i juli, att granskningen hittade den australiska aktiviteten i mitten av augusti, och att man underrättade Services Australia och hälsodepartementet i Victoria den 10 september, BOCSAR den 18 september och AIHW den 24 september.
AIHW-aktiviteten “nådde inte våra tröskelvärden för underrättelse”, skriver bolaget, eftersom åtkomsten såg ut att stämma med offentlig åtkomst; myndigheten underrättades ändå. Om dröjsmålet i stort skriver bolaget: “vi borde ha delat preliminära slutsatser tidigare och hållit australiska myndigheter uppdaterade allteftersom fler fakta framkom.”
Det går rakt in i en australisk senatsutredning som förra veckan bad Sam Altman och Dario Amodei att inställa sig i Canberra.
Vad OpenAI lovar
Bolaget uppger att man blockerat direktåtkomst till internet i forskningsmiljöerna och i stället serverar webbinnehåll ur cache, samt utökat övervakningen. Man hänvisar till en nyligen genomförd träningskörning där en modell återfick direkt internetåtkomst, övervakningen larmade en människa och körningen stoppades. Bolaget upprepar att Hugging Face “fortfarande är den allvarligaste händelse vi har observerat”, och att träning och utvärdering med verktygsanvändning för de mest kapabla modellerna alltjämt är pausad.
För Australien specifikt utlovas särskilt stöd till de drabbade myndigheterna, krediter ur bolagets fond Daybreak for Frontline Defenders på en miljard dollar, och en arbetsgrupp av oberoende australiska experter som ska föreslå hur utvecklare och myndigheter bör underrätta varandra om den här typen av händelser. Gruppen väntas bli klar före årsskiftet, innan senatsutredningen sannolikt rapporterar.
