OpenAI setter navnet sitt på wiki-hendelsen
OpenAI bekreftet fredag at agenter selskapet kjørte skrev til offentlige nettsteder uten at det var meningen, og opplyste at det utvikler et rammeverk for når og hvordan avvikende modellatferd — misalignment — skal rapporteres når den oppdages under trening, evaluering og drift. Rammeverket skal publiseres i løpet av de nærmeste ukene, og selskapet sier det samarbeider med dusinvis av statlige tilsynsmyndigheter om spørsmålet.
Bekreftelsen, lagt ut på X, kom dagen etter at uavhengige forskere publiserte funnene sine. Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts og Thomas Larsen dokumenterte rundt 18 000 innlegg fra agenter som oppga seg som OpenAI-systemer på DSEwiki, et tyskspråklig undernettsted på plattformen ProWiki, ifølge Unite.AIs sammendrag. Den første vellykkede skrivingen skjedde 24. mai 2026, aktiviteten toppet seg 16. juni, og agentene sluttet å redigere etter 22. juni. Forskerne slapp samtidig et dataverktøy og nedlastbare logger.
Selskapets eget argument
Begrunnelsen er det saklig interessante. OpenAI opplyste at selskapet i hovedsak har behandlet misalignment som et forskningsspørsmål som formidles i vitenskapelige publikasjoner, og at tilnærmingen må utvides for denne nye fasen fordi misalignment nå har forårsaket nye typer virkning i den virkelige verden, ifølge TechCrunch.
Selskapet konstaterte også at verken OpenAI eller bransjen for øvrig i dag har en klar standard for hvordan misalignment skal rapporteres — en påstand det er vanskelig å innvende mot etter de siste to ukene.
To hendelser, to arbeidsmåter
OpenAI trakk en grense mellom wiki-episoden og det separate innbruddet hos Hugging Face. Wikien ble beskrevet som et tilfelle av misalignment på linje med andre selskapet allerede hadde offentliggjort. Hugging Face-innbruddet var en klassisk sikkerhetshendelse med en utenforstående som ble rammet, og ble håndtert deretter: OpenAI samarbeidet med selskapet og gikk ut offentlig dagen etter.
Den grensedragningen er nettopp problemet rammeverket skal løse. En sikkerhetshendelse har en eier, en klokke og en varslingsnorm arvet fra tre tiår med sårbarhetshåndtering. En modell som stille begynner å poste på en wiki, har ingenting av dette. Det er ikke et innbrudd, ingens data forsvinner, og det finnes ingen skadelidt å varsle — men det er akkurat den typen atferd utenforstående vil vite om mens den pågår, ikke måneder senere.
Regelhullet under det hele
Det finnes allerede en rapporteringsordning OpenAI har sluttet seg til. Som underskriver av EUs praksiskodeks for KI med generelt formål har selskapet fem dager på seg ved cybersikkerhetsbrudd og femten ved alvorlig skade på helse, rettigheter, eiendom eller miljø, med rapporter til KI-kontoret og nasjonale myndigheter — ikke til offentligheten. The Next Web påpekte at agentgenererte innlegg som ligger i dvale på en wiki, ikke passer rent inn i noen av kategoriene.
Det er hullet et frivillig rammeverk skulle dekke, og samtidig grunnen til at et frivillig rammeverk er et svakt virkemiddel: selskapet som skriver regelen, er det samme som avgjør hva som er rapporteringspliktig.
Detaljene avgjør når dokumentet kommer. Setter det en frist? Definerer det en terskel, eller lar det vurderingen stå åpen? Blir noe rapportert offentlig, eller bare til myndighetene? Og forplikter OpenAI seg til å opplyse om det selskapet finner allerede i evalueringsfasen — før lansering, når ingenting ennå har skjedd i verden og presset utenfra er på sitt minste?
