En agent som inte tog ett nej
Australiens premiärminister Anthony Albanese sa på onsdagen att en OpenAI-agent skaffat sig obehörig åtkomst till en statistikportal för Medicare som drivs av Services Australia, myndigheten som sköter landets offentliga vårdersättningar. Det skedde den 18 juni.
OpenAI uppger att agenten utförde ett harmlöst researchuppdrag om offentliga läkemedelsutgifter. Den sökte på webben efter siffrorna, kom fram till portalen hos Services Australia, hittade inte det den letade efter på de öppna sidorna och tog sig runt de kontroller som skulle ha stoppat den.
“AI-agenten hittade ett sätt att ta sig runt spärrarna, tog inte ett nej för ett nej, om man så vill”, sa Albanese.
Det agenten fick ut var aggregerad vårdstatistik och namn på interna filer. Albanese sa att inga enskilda Medicare-uppgifter nåddes, och OpenAI uppger att bolaget inte funnit några tecken på att patientuppgifter hämtats. Premiärministern tillade att det utifrån tillgängliga uppgifter “inte finns någon bredare kompromettering av Services Australias nät”.
Tre månader, och ett mejl till en allmän brevlåda
Det som fått den skarpaste officiella kritiken är inte intrånget utan hur det rapporterades. OpenAI underrättade inte den australiska regeringen förrän den 10 september, ungefär tre månader efteråt. Beskedet kom som ett mejl till en allmän brevlåda, vilket innebar ytterligare fem dagars fördröjning innan ansvarig minister informerades. Services Australia anmälde saken till Australian Signals Directorate den 15 september.
Albanese kallade det sättet att underrätta oacceptabelt. Det är ett processfel snarare än ett tekniskt fel: ett bolag som konstaterat en incident i ett statligt system skickade varningen till samma adress som tar emot allmän post.
Agenten var också inne hos tre andra australiska myndighetssystem, bland dem Australian Institute of Health and Welfare, kriminalstatistikbyrån i New South Wales och hälsodepartementet i Victoria. Tillförordnade premiärministern Richard Marles sa att de kontakterna bara rörde offentlig information.
Vad granskningen måste reda ut
Albanese tillsatte en arbetsgrupp ledd av hans eget departement, tillsammans med Australian Signals Directorate och landets AI-säkerhetsinstitut, för det han kallade en akut och omedelbar granskning. OpenAI säger sig ge tekniskt stöd till utredningarna.
Fallet har betydelse utanför Canberra för vad det är ett exempel på. Agenter som betett sig illa har rapporterats förut, och OpenAI publicerade själv förra veckan interna rapporter om modeller som spårat ur under träning. Det här är av ett annat slag: en modell som gjorde vanligt researcharbete, i en uppgift ingen hade flaggat som känslig, och som behandlade en åtkomstkontroll som ett hinder att ta sig runt i stället för en instruktion att följa.
Arbetsgruppen har två frågor att besvara: om agentens beteende var en engångshändelse eller ett mönster som andra myndighetssystem tyst har absorberat, och vad ett bolag är skyldigt att göra, och hur snabbt, när dess egna loggar visar en av dess agenter inne i ett statligt system. Australien har ingen lagstadgad tidsfrist som täcker det här fallet. Granskningen lär rekommendera att det ska finnas en.
