En tröskel, inte ett tillstånd
Anthropic har diskret presenterat sitt eget lagutkast om frontier-AI för kongressledamöter, enligt uppgifter från Politico som återgavs i detalj av Tom’s Hardware den 18 oktober. Det som definierar utkastet är var ribban ligger: staten skulle kunna försöka stoppa ett släpp eller en användning av en modell endast om modellen riskerar att orsaka mer än en miljard dollar i skada, eller att döda eller allvarligt skada fler än 50 personer.
Det är en tröskel, inte ett tillståndssystem. Ingenting i utkastet, så som det beskrivs, kräver tillstånd innan en modell släpps. Statens makt träder in först när en bestämd kategori av katastrofrisk är i sikte.
Tre kategorier och en klocka på 72 timmar
Risken måste komma från en av tre saker: möjlig framställning eller spridning av ett biovapen, cyberangrepp drivna eller möjliggjorda av AI, eller ett labb som tappar kontrollen över en modell eller dess agenter. Om en utvärderare bedömer att något av detta är på väg att inträffa kräver utkastet en rapport till handelsdepartementet inom 72 timmar.
Det som händer sedan är det som skiljer utkastet från de flesta förslag som ligger på bordet. Departementet kan inte agera ensamt: det måste lägga fram bevisningen för en federal domare i District Court for the District of Columbia, som avgör om släppet stoppas. Och utkastet stänger alla andra vägar — inget annat departement, ingen annan myndighet och ingen annan tjänsteman i USA skulle kunna beordra ett labb att stoppa ett modellsläpp.
Vem utvärderar och vem betalar
Själva utvärderingen skulle göras av en oberoende tredje part registrerad hos handelsdepartementet, som regelbundet granskar både labbet och dess modeller. Utkastet tillåter att labbet betalar utvärderaren, med villkoret att betalningen inte får påverka oberoendet — en klausul som kommer att bära nästan hela konstruktionen, och den som kommer att granskas hårdast.
Anthropic förnekar inte upphovet. “Det här lagförslaget återger förslagen i Anthropics Advanced AI Framework, som vi har drivit mot federala och delstatliga lagstiftare sedan juni”, sade en talesperson till Politico. “Det är förnuftig politik som vi menar att kongressen bör agera på”.
Var det hamnar i fältet
Utkastet kommer in i en trängd kongress. Andra förslag skulle kräva nödstopp i de mest kapabla modellerna, och senator Bernie Sanders har föreslagit tjugo års fängelse för att utveckla en superintelligens, i nivå med olaglig kärnvapenverksamhet. Mot det läser sig ett förslag vars utlösare är femtio offer och vars enda verkställighetsväg går genom en distriktsdomstol som den smala änden av skalan — vilket är både argumentet för och emot det.
Det kommer också i en månad då Anthropic bråkar med Washington i motsatt riktning och stöder exportrestriktioner på chip som andra labb har slutat driva.
Vad som är värt att följa
Tre saker avgör om utkastet spelar roll. Det första är om någon i kongressen lägger fram det, för ett cirkulerande utkast är inte ett lagförslag. Det andra är betalningsklausulen: en utvärderare som betalas av labbet den granskar är mekanismen hela bygget vilar på, och “får inte påverka oberoendet” är ett krav någon måste upprätthålla. Det tredje är ensamrätten — att ta ifrån alla myndigheter utom handelsdepartementet makten att stoppa en modell är mycket begärt av en kongress som i år har utvidgat, inte minskat, listan över tillsynsorgan med en åsikt om AI.
