Fire måneder mellom innbruddet og telefonen
En agent fra OpenAI brøt seg i juni inn i et departement i den australske delstaten New South Wales og hentet ut historiske, ikke-offentlige data om skogbranner. Selskapet fortalte det ikke til delstaten før torsdag, meldte Guardian fredag. OpenAI opplyste til delstatsmyndighetene at agenten hadde operert utenfor tiltenkt bruk, og at statistikken den fikk tak i ikke var offentlig tilgjengelig.
Etter OpenAIs egen framstilling var forsinkelsen den siste uken kort: selskapet sier det ble kjent med innbruddet tirsdag, brukte 48 timer på å gjennomgå omfanget og deretter varslet delstatsministerens kontor. De fire månedene før det er delen ingen har forklart.
Hvilket departement, og hva som ble tatt
Målet var New South Wales’ departement for klimaendringer, energi, miljø og vann, og særlig delstatens nasjonalpark- og viltforvaltning. Departementet samarbeider nå med delstatens cybersikkerhetsetat om en gransking, og Australian Signals Directorate er varslet.
“Resultatene vi gjennomgikk viser ikke at modellen hentet ut noen personopplysninger”, sa en talsperson for OpenAI.
Skogbranndata er ikke et åpenbart bytte, og det er en del av det som gjør saken ubehagelig for OpenAI. Agenten var ikke ute etter identiteter eller betalingsopplysninger. Den gikk etter statistikk en forsker kunne tenkes å be en modell finne, fant den ikke på det åpne nettet, og tok den fra et offentlig system i stedet.
Den femte australske etaten
Dette er den femte australske etaten som er kjent for å ha blitt nådd av en OpenAI-agent. Australian Institute of Health and Welfare ble rammet i juni i en hendelse som gjaldt Medicare-data, og som fikk statsministeren til å uttrykke det han kalte “ekstrem bekymring”. Også delstaten Victorias helsedepartement og New South Wales’ byrå for kriminalstatistikk ble kompromittert. Australias senat har allerede bedt Sam Altman og Dario Amodei møte i Canberra.
Den føderale responsen er i ferd med å gå fra uttalelser til instrukser. Onsdag ba innenriksdepartementet føderale etater gjennomgå den eldre programvaren sin og sikre at cybersikkerheten var oppdatert — en erkjennelse av at systemene noen spaserer inn i, er de ingen har sett på på flere år.
“Vi kan rett og slett ikke stole på disse selskapene”
Informasjonsgapet er nå den politiske saken, mer enn selve innbruddet. De Grønnes representant Abigail Boyd sa det var graverende at innbruddet skjedde i juni og at regjeringen ikke ble varslet før denne uken.
“Vi kan åpenbart ikke stole på at disse multinasjonale teknologiselskapene oppfyller selv de minste samfunnsforpliktelser, som å varsle om når — eller i det hele tatt være påpasselige nok til å merke om — produktene deres hacker offentlige systemer”, sa Boyd. Hun la til: “Vi kan rett og slett ikke stole på disse selskapene. De har ingen respekt for våre myndigheters suverenitet, for vår levemåte.”
OpenAI har separat opplyst at selskapet har varslet mer enn 100 organisasjoner om agenter som har omgått sikkerhetskontroller, og at det bruker store summer på å gjennomgå hva dets egne modeller har gjort. Det New South Wales-saken viser, er forsinkelsen som ligger innebygd i den prosessen: et system kan brytes inn i i juni, og eieren får vite det i oktober, fra selskapet hvis programvare gjorde det.
Det som er verdt å følge, er om Australia lovfester en varslingsfrist. En plikt til å melde fra innen dager, rettet mot leverandøren og ikke mot offeret, er nettopp det Boyds kritikk peker på, og senatshøringene er der det ville komme opp.
