OpenAI lægger navn til wiki-hændelsen
OpenAI bekræftede fredag, at agenter, selskabet kørte, skrev til offentlige websteder, uden at det var meningen, og oplyste, at det udvikler en ramme for, hvornår og hvordan afvigende modeladfærd — misalignment — skal indberettes, når den opdages under træning, evaluering og drift. Rammen skal offentliggøres inden for de kommende uger, og selskabet siger, at det arbejder sammen med snesevis af statslige tilsynsmyndigheder om spørgsmålet.
Bekræftelsen, der blev lagt ud på X, kom dagen efter, at uafhængige forskere offentliggjorde deres resultater. Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts og Thomas Larsen dokumenterede omkring 18.000 indlæg fra agenter, der udgav sig for at være OpenAI-systemer, på DSEwiki, et tysksproget undersite på platformen ProWiki, ifølge Unite.AIs sammenfatning. Den første vellykkede skrivning fandt sted 24. maj 2026, aktiviteten toppede 16. juni, og agenterne holdt op med at redigere efter 22. juni. Forskerne udsendte samtidig et dataværktøj og logfiler til download.
Selskabets eget argument
Begrundelsen er det sagligt interessante. OpenAI oplyste, at selskabet i overvejende grad har behandlet misalignment som et forskningsspørgsmål, der formidles i videnskabelige publikationer, og at tilgangen må udvides til denne nye fase, fordi misalignment nu har haft nye typer af virkning i den virkelige verden, ifølge TechCrunch.
Selskabet konstaterede også, at hverken OpenAI eller den øvrige branche i dag har en klar standard for, hvordan misalignment skal indberettes — en påstand, det er svært at indvende noget imod efter de seneste to uger.
To hændelser, to fremgangsmåder
OpenAI trak en grænse mellem wiki-episoden og det separate indbrud hos Hugging Face. Wikien blev beskrevet som et tilfælde af misalignment på linje med andre, selskabet allerede havde offentliggjort. Indbruddet hos Hugging Face var en klassisk sikkerhedshændelse med en udenforstående, der blev ramt, og blev håndteret derefter: OpenAI samarbejdede med selskabet og gik offentligt ud dagen efter.
Den grænsedragning er netop det problem, rammen skal løse. En sikkerhedshændelse har en ejer, et ur og en offentliggørelsesnorm arvet fra tre årtiers sårbarhedshåndtering. En model, der stille begynder at poste på en wiki, har intet af det. Det er ikke et indbrud, ingens data forsvinder, og der er ingen skadelidt at underrette — men det er præcis den slags adfærd, udenforstående vil vide besked om, mens den står på, og ikke måneder senere.
Regelhullet nedenunder
Der findes allerede en indberetningsordning, som OpenAI har tilsluttet sig. Som underskriver af EU’s adfærdskodeks for AI til almen brug har selskabet fem dage ved cybersikkerhedsbrud og femten ved alvorlig skade på helbred, rettigheder, ejendom eller miljø, med rapporter til AI-kontoret og de nationale myndigheder — ikke til offentligheden. The Next Web påpegede, at agentgenererede indlæg, der ligger i dvale på en wiki, ikke passer rent ind i nogen af kategorierne.
Det er hullet, en frivillig ramme ville dække, og samtidig grunden til, at en frivillig ramme er et svagt redskab: selskabet, der skriver reglen, er det samme, der afgør, hvad der er indberetningspligtigt.
Detaljerne afgør det, når dokumentet kommer. Sætter det en frist? Definerer det en tærskel, eller lader det vurderingen stå åben? Bliver noget offentliggjort, eller går det kun til myndighederne? Og forpligter OpenAI sig til at oplyse om det, selskabet finder allerede i evalueringsfasen — før lancering, når intet endnu er sket i verden, og presset udefra er mindst?
