En begrænsning og en kovending
Storbritannien skal fortsat have de mest kapable AI-modeller før lancering, sagde den britiske AI-minister Kanishka Narayan mandag. Dermed afsluttes en periode, hvor amerikanske laboratorier var blevet bedt om at holde nye systemer tilbage fra britiske testere.
I sidste måned bad Det Hvide Hus OpenAI og Anthropic om ikke at dele nye modeller med det britiske AI Security Institute, før amerikanske embedsmænd havde vurderet dem først, skrev AFP. Daily Telegraph omtalte kovendingen søndag og skrev, at Narayan havde presset på for den. Narayan sagde, at Storbritannien havde arbejdet tæt med den amerikanske regering “for at bevare adgangen for Storbritanniens AI Security Institute til de mest kraftfulde AI-modeller, før de udsendes”.
Hvad instituttet bruger adgangen til
AI Security Institute blev oprettet i 2023 og undersøger frontsystemer for sikkerhedsproblemer i vinduet mellem, at en model er færdig, og at den udsendes. Bloomberg beskriver det som det bedst finansierede offentlige organ, der jævnligt tester frontmodeller, og dets testere har fanget AI-agenter, der udførte handlinger, ingen havde bedt om.
AFP skriver, at instituttet har fået adgang til Googles Gemini 4 Argon, en model der ikke er offentliggjort af sikkerhedshensyn. Under begrænsningen delte Anthropic ifølge Bloomberg ikke sin Mythos-model med instituttet, men holdt den hos en gruppe amerikanske organisationer.
Narayan formulerede den målestok, han vil have anvendt: “undersøg uventet adfærd, og hvis I ikke kan styre risiciene tilstrækkeligt, så udsend ikke systemet”.
Afhængigheden er den ubehagelige del
Episoden blottede noget, ingen testordning kan lovgive sig ud af. De mest kapable modeller bygges i USA og Kina, og et britisk institut kan kun undersøge det, producenterne vælger at udlevere.
Narayan var ligefrem om det over for Bloomberg: “Når man er afhængig af andres teknologi, må man være klarsynet omkring, hvor varigt et udfald er.” Han sagde sig alligevel “meget sikker” på, at Storbritannien vil kunne teste de nyeste modeller.
Det forbehold gør reelt arbejde. Intet i mandagens bekræftelse er en traktat, en lov eller en kontrakt. Adgangen blev trukket tilbage med en anmodning og genetableret med en anmodning, og den samme mekanisme er der stadig.
Det der kommer
Narayan ventes at fremlægge flere tiltag, blandt andet skærpede indberetningskrav, når en AI-relateret sikkerhedshændelse rammer kritisk infrastruktur. Han har også nedsat en taskforce, der skal beskytte britiske statslige systemer mod AI-drevne angreb; to pilotøvelser skal have fundet mere end tusind mulige svage punkter.
På amerikansk side har Google, Microsoft og xAI accepteret gennemgange før lancering i USA, hvilket er den rækkefølge, den tidligere begrænsning skulle sikre.
Det, der er værd at følge, er snævert og kontrollerbart: om den næste frontmodel fra hvert af de tre laboratorier når instituttet før offentligheden, og om genetableringen kom med betingelser. Hverken Narayans udtalelse eller dækningen omkring den afgør det.
