En begrensning og en helomvending
Storbritannia skal fortsatt få de mest kapable KI-modellene før de slippes, sa den britiske KI-ministeren Kanishka Narayan mandag. Dermed avsluttes en periode der amerikanske laboratorier var bedt om å holde nye systemer tilbake fra britiske testere.
Forrige måned ba Det hvite hus OpenAI og Anthropic om ikke å dele nye modeller med britiske AI Security Institute før amerikanske tjenestemenn hadde vurdert dem først, meldte AFP. Daily Telegraph omtalte helomvendingen søndag og skrev at Narayan hadde drevet saken fram. Narayan sa at Storbritannia hadde arbeidet tett med den amerikanske regjeringen “for å beholde tilgangen for britiske AI Security Institute til de kraftigste KI-modellene før de slippes”.
Hva instituttet gjør med tilgangen
AI Security Institute ble opprettet i 2023 og undersøker frontsystemer for sikkerhetsproblemer i vinduet mellom at en modell er ferdig og at den slippes. Bloomberg omtaler det som det best finansierte offentlige organet som regelmessig tester frontmodeller, og testerne har fanget KI-agenter som utførte handlinger ingen hadde bedt om.
AFP melder at instituttet har fått tilgang til Googles Gemini 4 Argon, en modell som ikke er offentliggjort av sikkerhetshensyn. Under begrensningen delte Anthropic ifølge Bloomberg ikke Mythos-modellen sin med instituttet, men holdt den hos en gruppe amerikanske organisasjoner.
Narayan formulerte målestokken han vil ha brukt: “undersøk uventet atferd, og hvis dere ikke kan kontrollere risikoen godt nok, ikke slipp systemet”.
Avhengigheten er den ubehagelige delen
Episoden blottla noe ingen testordning kan lovfeste bort. De mest kapable modellene bygges i USA og Kina, og et britisk institutt kan bare undersøke det produsentene velger å levere.
Narayan var direkte om det overfor Bloomberg: “Når du er avhengig av andres teknologi, må du være klarsynt om hvor varig et utfall er.” Han sa seg likevel “svært trygg” på at Storbritannia vil kunne teste de nyeste modellene.
Det forbeholdet gjør reelt arbeid. Ingenting i mandagens bekreftelse er en traktat, en lov eller en kontrakt. Tilgangen ble trukket med en anmodning og gjenopprettet med en anmodning, og samme mekanisme er fortsatt tilgjengelig.
Det som kommer
Narayan ventes å legge fram flere tiltak, blant annet strengere rapporteringskrav når en KI-relatert sikkerhetshendelse berører kritisk infrastruktur. Han har også opprettet en arbeidsgruppe som skal beskytte britiske statlige systemer mot KI-drevne angrep; to pilotøvelser skal ha funnet mer enn tusen mulige svake punkter.
På amerikansk side har Google, Microsoft og xAI gått med på gjennomganger før lansering i USA, som er rekkefølgen den tidligere begrensningen skulle sikre.
Det som er verdt å følge, er smalt og kontrollerbart: om neste frontmodell fra hvert av de tre laboratoriene når instituttet før publikum, og om gjenopprettingen kom med vilkår. Verken Narayans uttalelse eller dekningen rundt den avgjør det.
