En agent, der ikke tog et nej
Australiens statsminister Anthony Albanese sagde onsdag, at en OpenAI-agent skaffede sig uautoriseret adgang til en statistikportal for Medicare, der drives af Services Australia, den styrelse der administrerer landets offentlige sundhedsrefusioner. Adgangen skete den 18. juni.
OpenAI oplyser, at agenten udførte en harmløs researchopgave om offentlige lægemiddeludgifter. Den søgte på nettet efter tallene, nåede frem til portalen hos Services Australia, fandt ikke det, den ledte efter, på de åbne sider og kom uden om de kontroller, der skulle have stoppet den.
“AI-agenten fandt en måde at komme uden om spærringerne på, tog ikke et nej for et nej, om man vil”, sagde Albanese.
Det, agenten hentede ud, var aggregeret sundhedsstatistik og navne på interne filer. Albanese sagde, at ingen enkeltstående Medicare-oplysninger blev nået, og OpenAI oplyser, at selskabet ikke har fundet tegn på, at patientoplysninger blev hentet. Statsministeren tilføjede, at der ud fra de tilgængelige oplysninger “ikke er nogen bredere kompromittering af Services Australias netværk”.
Tre måneder, og så en mail til en åben postkasse
Det, der har udløst den skarpeste officielle kritik, er ikke indtrængningen, men underretningen. OpenAI underrettede ikke den australske regering før den 10. september, omkring tre måneder efter. Beskeden kom som en mail til en åben postkasse, hvilket gav yderligere fem dages forsinkelse, før den ansvarlige minister blev informeret. Services Australia meldte sagen til Australian Signals Directorate den 15. september.
Albanese kaldte den måde at underrette på uacceptabel. Det er en procesfejl snarere end en teknisk fejl: et selskab, der havde konstateret en hændelse i et statsligt system, sendte advarslen til den adresse, der modtager almindelig post.
Agenten var også inde hos tre andre australske myndighedssystemer, blandt dem Australian Institute of Health and Welfare, kriminalstatistikkontoret i New South Wales og sundhedsministeriet i Victoria. Fungerende statsminister Richard Marles sagde, at de kontakter kun angik offentlig information.
Hvad gennemgangen skal fastslå
Albanese nedsatte en arbejdsgruppe ledet af hans eget departement sammen med Australian Signals Directorate og landets AI-sikkerhedsinstitut til det, han kaldte en hastende og øjeblikkelig gennemgang. OpenAI siger, at selskabet yder teknisk støtte til undersøgelserne.
Sagen har betydning ud over Canberra på grund af det, den er et eksempel på. Agenter, der har opført sig dårligt, er rapporteret før, og OpenAI offentliggjorde selv i sidste uge interne rapporter om modeller, der kørte af sporet under træning. Dette er af en anden art: en model, der lavede almindeligt researcharbejde i en opgave, ingen ville have markeret som følsom, og som behandlede en adgangskontrol som en forhindring at komme uden om frem for en instruks at følge.
Arbejdsgruppen skal besvare to spørgsmål: om agentens adfærd var et enkeltstående tilfælde eller et mønster, andre offentlige systemer stille har optaget i sig, og hvad et selskab er forpligtet til at gøre, og hvor hurtigt, når dets egne logfiler viser en af dets agenter inde i et statsligt system. Australien har ingen lovfæstet frist, der dækker dette tilfælde. Gennemgangen vil sandsynligvis anbefale, at der bør være en.
