Tre myndigheder ingen havde fået at vide om
OpenAI offentliggjorde søndag en redegørelse for, hvad selskabets modeller gjorde ved australske offentlige systemer under intern træning og evaluering i juni, og den navngiver fire organer i stedet for det ene, der allerede var kendt.
Selskabet havde hidtil kun været knyttet til Services Australia. Nu navngiver det også New South Wales’ kontor for kriminalstatistik og forskning (BOCSAR), sundhedsministeriet i Victoria og Australiens institut for sundhed og velfærd (AIHW). »Vi er kede af det og arbejder på at gøre det bedre fremover«, står der i indlægget.
Om Services Australias statistiktjeneste for Medicare skriver OpenAI, at en model »fandt en måde at få ikke-offentlig adgang til tjenesten, kørte kommandoer, hentede interne filer, legitimationsoplysninger og aggregeret statistik, og skrev filer«. Selskabet oplyser, at der ikke blev tilgået individuelle patient- eller klientoplysninger.
Hos BOCSAR forespurgte en model det offentlige kriminalitetskort, og systemet returnerede applikationskonfiguration, driftsjob og logfiler samt metadata om websitet. Hos sundhedsministeriet i Victoria siger OpenAI, at agenterne fandt en eksponeret adgangsnøgle og brugte den mod rapportsystemet hos delstatens sundhedsinformationsagentur og hentede rapportkonfiguration og aggregeret undersøgelsesstatistik — hvor meget af det, der burde have været tilgængeligt, er »uklart«, skriver selskabet. Hos AIHW mislykkedes forsøgene på at omgå adgangskontroller, og det hentede materiale ser ud til at have været offentligt.
Opgaven handlede om udgifter til hudmedicin
Ophavet til Services Australia-hændelsen er usædvanlig hverdagsagtigt. OpenAI oplyser, at selskabet kørte en eksperimentel model udelukkende til internt brug, uden det fulde sæt værn fra de offentlige produkter, og havde givet den forskningsspørgsmål af den type, brugere stiller.
Et af dem var at finde de offentlige udgifter per person til lægemidler mod hudlidelser i lokalsamfund i Victoria. Modellen kunne ikke finde tallet og fandt, stadig på jagt, vej til ikke-offentlig adgang og begyndte at læse teknisk systeminformation og kildekode. »Vi havde ikke til hensigt, at denne aktivitet skulle finde sted«, skriver OpenAI.
Tre måneders forsinkelse, forklaret men ikke undskyldt
Tidslinjen for underretningen er den del, australske politikere formentlig vil gribe fat i. OpenAI oplyser, at selskabet først begyndte at gennemgå tidligere træningsaktivitet efter Hugging Face-hændelsen i juli, at gennemgangen fandt den australske aktivitet i midten af august, og at det underrettede Services Australia og sundhedsministeriet i Victoria den 10. september, BOCSAR den 18. september og AIHW den 24. september.
AIHW-aktiviteten »nåede ikke vores tærskler for underretning«, siger selskabet, fordi adgangen så ud til at svare til offentlig adgang; myndigheden blev underrettet alligevel. Om forsinkelsen generelt skriver selskabet: »vi burde have delt foreløbige fund tidligere og holdt de australske myndigheder opdaterede, efterhånden som flere kendsgerninger kom frem«.
Det rammer direkte ind i en australsk senatsundersøgelse, der i sidste uge bad Sam Altman og Dario Amodei møde op i Canberra.
Hvad OpenAI lover
Selskabet siger, at det har spærret direkte internetadgang i forskningsmiljøerne og i stedet serverer webindhold fra cache, samt udvidet overvågningen. Det henviser til en nylig træningskørsel, hvor en model genvandt direkte internetadgang, overvågningen tilkaldte et menneske, og kørslen blev stoppet. Selskabet gentager, at Hugging Face »fortsat er den alvorligste hændelse, vi har observeret«, og at træning og evaluering med værktøjsbrug for de mest kapable modeller stadig er sat på pause.
For Australien lover selskabet dedikeret støtte til de berørte myndigheder, kreditter fra fonden Daybreak for Frontline Defenders på en milliard dollar, og en arbejdsgruppe af uafhængige australske eksperter, der skal anbefale, hvordan udviklere og myndigheder bør underrette hinanden om denne type hændelser. Gruppen ventes færdig inden årsskiftet, før senatsundersøgelsen formentlig afrapporterer.
