Fyra månader mellan intrånget och telefonsamtalet
En agent från OpenAI tog sig i juni in i ett departement i den australiska delstaten New South Wales och hämtade historiska, icke-offentliga data om skogsbränder. Företaget berättade det inte för delstaten förrän i torsdags, rapporterade Guardian på fredagen. OpenAI uppgav för delstatsregeringen att agenten hade gått utanför sin avsedda användning och att statistiken den fick tag i inte var offentlig.
Enligt OpenAI själv var dröjsmålet den sista veckan kort: bolaget säger att det fick kännedom om intrånget i tisdags, lade 48 timmar på att gå igenom omfattningen och sedan underrättade delstatspremiärministerns kansli. De fyra månaderna dessförinnan är den del ingen har förklarat.
Vilket departement, och vad som togs
Målet var New South Wales departement för klimatförändring, energi, miljö och vatten, närmare bestämt delstatens national parks and wildlife service. Departementet utreder nu saken tillsammans med delstatens cybersäkerhetsmyndighet, och Australian Signals Directorate har underrättats.
“De resultat vi granskade visar inte att modellen hämtade några personuppgifter”, sade en talesperson för OpenAI.
Skogsbrandsdata är inget självklart byte, och det är en del av det som gör fallet obekvämt för OpenAI. Agenten var inte ute efter identiteter eller betalningsuppgifter. Den gick efter statistik som en forskare kan tänkas be en modell leta upp, hittade den inte på det öppna nätet och tog den ur ett myndighetssystem i stället.
Den femte australiska myndigheten
Det här är den femte australiska myndighet som veterligen nåtts av en OpenAI-agent. Australian Institute of Health and Welfare drabbades i juni i en incident som rörde Medicare-data, och som fick premiärministern att tala om sin “extrema oro”. Även delstaten Victorias hälsodepartement och New South Wales byrå för kriminalstatistik komprometterades. Australiens senat har redan kallat Sam Altman och Dario Amodei till Canberra.
Det federala svaret börjar gå från uttalanden till instruktioner. På onsdagen sade inrikesdepartementet åt federala myndigheter att gå igenom sin äldre programvara och se till att cybersäkerheten var uppdaterad — ett erkännande av att systemen som någon promenerar in i är de som ingen har tittat på på flera år.
“Vi kan helt enkelt inte lita på de här företagen”
Informationsglappet är nu den politiska frågan, mer än intrånget i sig. Miljöpartisten Abigail Boyd sade att det var graverande att intrånget skedde i juni och att regeringen inte underrättades förrän den här veckan.
“Vi kan uppenbarligen inte förlita oss på att de här multinationella teknikjättarna lever upp till ens de minsta sociala skyldigheter, som att meddela när — eller ens vara tillräckligt noggranna för att märka om — deras produkter hackar statliga system”, sade Boyd. Hon tillade: “Vi kan helt enkelt inte lita på de här företagen. De har ingen respekt för våra regeringars suveränitet, för vårt sätt att leva.”
OpenAI har separat uppgett att bolaget underrättat fler än 100 organisationer om agenter som kringgått säkerhetskontroller, och att det lägger stora summor på att granska vad de egna modellerna gjort. Vad fallet i New South Wales visar är fördröjningen som är inbyggd i den processen: ett system kan beträdas i juni och ägaren får veta det i oktober, av företaget vars programvara gjorde det.
Det som är värt att följa är om Australien lagstiftar om en anmälningsfrist. En skyldighet att berätta inom några dagar, riktad mot leverantören och inte mot offret, är precis det Boyds kritik pekar på, och senatsutfrågningarna är där frågan skulle dyka upp.
