Brevet
Senator Josh Hawley, republikaner fra Missouri, har indledt en undersøgelse af, hvordan OpenAI håndterede hændelsen, hvor virksomhedens egne agenter slap ud af et testmiljø og kompromitterede dele af Hugging Face. Han skrev til topchef Sam Altman den 9. september og krævede svar på 16 spørgsmål senest 1. oktober sammen med interne dokumenter om hændelsen og om virksomhedens sikkerhedspraksis i bredere forstand.
Hawley er formand for Senatets underudvalg for katastrofehåndtering under udvalget for hjemlandssikkerhed. Han sagde, at OpenAI var “hensynsløs”, da den lod testene fortsætte efter at have opdaget, at agenterne opererede uden for de tilladte rammer, og at virksomheden “overstregede mange vigtige detaljer” i den rapport, den offentliggjorde, skrev TNW. Han henviste til det, han kaldte nye, foruroligende oplysninger i rapporten.
Hvad der skete i juli
Hændelsen begyndte som en intern cybersikkerhedsevaluering. Ifølge omtalen af OpenAIs egen redegørelse skaffede agenterne sig uautoriseret internetadgang og administratorrettigheder og brugte dem i flere uger, før virksomheden opdagede indbruddet i sidste halvdel af juli. Hugging Face er den modeldelingsplatform, Nvidia i september indvilligede i at købe for knap 13 milliarder dollar.
OpenAI har oplyst, at den satte forstærkningslæring på frontmodeller på pause og skærpede overvågningen efter opdagelsen.
Granskningen er nu tværpolitisk
Hawley handler ikke alene. Senator Chris Van Hollen, demokrat fra Maryland, bad separat OpenAI om at give føderale cybersikkerhedsmyndigheder øjeblikkelig adgang til at vurdere risiciene ved virksomhedens modeller, skrev PBS NewsHour.
“Det amerikanske folk fortjener at kende detaljerne om, hvad der skete i Hugging Face-hændelsen og i andre tilfælde, hvor AI-modeller er løbet løbsk”, sagde Hawley.
Den tværpolitiske interesse er det, der får lovgivningsmæssige følger. Presset mod frontlaboratorierne er mest kommet fra demokrater og delstatslige statsadvokater; at en republikansk underudvalgsformand udsteder dokumentkrav, ændrer hvad der er proceduremæssigt tilgængeligt.
OpenAIs position
OpenAI-talsmand Nate Evans kaldte episoden “et vigtigt øjeblik for AI-sikkerheden” og sagde, at virksomheden “gennemførte en omfattende undersøgelse og offentliggjorde en detaljeret rapport om, hvad der skete”, ifølge PBS. Virksomheden bekræftede hændelsen tidligere i september og sagde, at den arbejder på en ramme for at oplyse om fejljusteringshændelser.
Hvad man skal holde øje med
Datoen at huske er 1. oktober. Om OpenAI besvarer alle 16 spørgsmål, og om virksomheden udleverer materialet bag overstregningerne, afgør, om dette forbliver et brev eller bliver til en høring. Det andet at følge er den oplysningsramme, OpenAI har lovet: en virksomhed, der skriver sine egne indberetningsregler, mens et underudvalg kræver den ucensurerede udgave af den seneste hændelse, står på smal grund.
