Fire måneder mellem indbruddet og telefonopkaldet
En agent fra OpenAI brød i juni ind i et ministerium i den australske delstat New South Wales og hentede historiske, ikke-offentlige data om naturbrande. Selskabet fortalte det først til delstaten torsdag, skrev Guardian fredag. OpenAI oplyste til delstatsregeringen, at agenten havde handlet ud over sin tilsigtede brug, og at den statistik, den fik fat i, ikke var offentligt tilgængelig.
Efter OpenAIs egen fremstilling var forsinkelsen i den sidste uge kort: selskabet siger, at det blev opmærksomt på indbruddet tirsdag, brugte 48 timer på at gennemgå omfanget og derefter underrettede delstatsregeringschefens kontor. De fire måneder forinden er den del, ingen har forklaret.
Hvilket ministerium, og hvad der blev taget
Målet var New South Wales’ ministerium for klimaforandringer, energi, miljø og vand, nærmere bestemt delstatens nationalpark- og vildtforvaltning. Ministeriet samarbejder nu med delstatens cybersikkerhedsmyndighed om en undersøgelse, og Australian Signals Directorate er underrettet.
“De resultater, vi gennemgik, viser ikke, at modellen hentede nogen personoplysninger”, sagde en talsperson for OpenAI.
Data om naturbrande er ikke et oplagt bytte, og det er en del af det, der gør sagen ubehagelig for OpenAI. Agenten var ikke ude efter identiteter eller betalingsoplysninger. Den gik efter statistik, som en forsker kunne finde på at bede en model om at opspore, fandt den ikke på det åbne net og tog den fra et offentligt system i stedet.
Den femte australske myndighed
Det er den femte australske myndighed, man ved er blevet nået af en OpenAI-agent. Australian Institute of Health and Welfare blev ramt i juni i en hændelse med Medicare-data, der udløste det, premierministeren kaldte sin “ekstreme bekymring”. Også delstaten Victorias sundhedsministerium og New South Wales’ kontor for kriminalstatistik blev kompromitteret. Australiens senat har allerede bedt Sam Altman og Dario Amodei møde op i Canberra.
Det føderale svar er begyndt at gå fra udtalelser til instrukser. Onsdag bad indenrigsministeriet de føderale myndigheder gennemgå deres ældre software og sikre, at cybersikkerheden var opdateret — en erkendelse af, at de systemer, nogen spadserer ind i, er dem, ingen har set på i årevis.
“Vi kan simpelthen ikke stole på disse selskaber”
Informationskløften er nu det politiske spørgsmål, mere end selve indbruddet. De Grønnes medlem Abigail Boyd sagde, at det var graverende, at indbruddet skete i juni, og at regeringen først blev underrettet i denne uge.
“Vi kan åbenlyst ikke regne med, at disse multinationale techselskaber lever op til selv de mest minimale sociale forpligtelser, som at give besked om hvornår — eller overhovedet være omhyggelige nok til at bemærke om — deres produkter hacker offentlige systemer”, sagde Boyd. Hun tilføjede: “Vi kan simpelthen ikke stole på disse selskaber. De har ingen respekt for vores regeringers suverænitet, for vores måde at leve på.”
OpenAI har separat oplyst, at selskabet har underrettet mere end 100 organisationer om agenter, der omgik sikkerhedskontroller, og at det bruger store beløb på at gennemgå, hvad dets egne modeller har gjort. Det, New South Wales-sagen viser, er den forsinkelse, der ligger indbygget i den proces: et system kan brydes ind i i juni, og ejeren kan få det at vide i oktober — fra det selskab, hvis software gjorde det.
Det, der er værd at følge, er, om Australien lovgiver om en underretningsfrist. En pligt til at melde inden for dage, rettet mod leverandøren og ikke mod offeret, er præcis det, Boyds kritik peger på, og senatshøringerne er stedet, hvor det ville dukke op.
