En tærskel, ikke en tilladelse
Anthropic har diskret fremlagt sit eget lovudkast om frontier-AI for medlemmer af Kongressen, ifølge oplysninger fra Politico, som blev gengivet i detaljer af Tom’s Hardware 18. oktober. Det, der definerer udkastet, er, hvor overliggeren ligger: staten kunne kun forsøge at stoppe lancering eller brug af en model, hvis modellen risikerer at påføre mere end en milliard dollar i skade, eller at dræbe eller alvorligt kvæste mere end 50 mennesker.
Det er en tærskel, ikke et tilladelsessystem. Intet i udkastet, som det er omtalt, kræver tilladelse, før en model udsendes. Statens magt træder først ind, når en bestemt kategori af katastroferisiko er i sigte.
Tre kategorier og et ur på 72 timer
Risikoen skal komme fra én af tre ting: mulig fremstilling eller spredning af et biologisk våben, cyberangreb drevet eller muliggjort af AI, eller et laboratorium, der mister kontrollen over en model eller dens agenter. Hvis en evaluator vurderer, at noget af dette er ved at ske, kræver udkastet en indberetning til handelsministeriet inden for 72 timer.
Det, der sker derefter, er det, der adskiller udkastet fra de fleste forslag på bordet. Ministeriet kan ikke handle alene: det skal fremlægge beviserne for en føderal dommer i District Court for the District of Columbia, som afgør, om lanceringen stoppes. Og udkastet lukker alle andre veje — ingen anden styrelse, myndighed eller embedsmand i USA kunne pålægge et laboratorium at standse en model.
Hvem evaluerer, og hvem betaler
Selve evalueringen skulle foretages af en uafhængig tredjepart registreret hos handelsministeriet, som jævnligt vurderer både laboratoriet og dets modeller. Udkastet tillader, at laboratoriet betaler evaluatoren, på betingelse af at betalingen ikke påvirker uafhængigheden — en klausul, der vil bære næsten hele konstruktionen, og den, der vil blive gransket hårdest.
Anthropic benægter ikke ophavet. “Dette lovforslag gengiver forslagene i Anthropics Advanced AI Framework, som vi har arbejdet for over for føderale og delstatslige lovgivere siden juni”, sagde en talsperson til Politico. “Det er fornuftig politik, som vi mener Kongressen bør handle på”.
Hvor det hører hjemme
Udkastet lander i en travl Kongres. Andre forslag ville kræve nødstop på de mest kapable modeller, og senator Bernie Sanders har foreslået tyve års fængsel for at udvikle en superintelligens, på linje med ulovligt kernevåbenarbejde. Over for det læser et forslag med halvtreds ofre som udløser og én distriktsdomstol som eneste håndhævelsesvej sig som den smalle ende af skalaen — hvilket er både argumentet for og imod.
Det kommer også i en måned, hvor Anthropic skændes med Washington i modsat retning og støtter eksportrestriktioner på chips, som andre laboratorier er holdt op med at presse på for.
Det der er værd at følge
Tre ting afgør, om udkastet betyder noget. Det første er, om nogen i Kongressen fremsætter det, for et udkast i omløb er ikke et lovforslag. Det andet er betalingsklausulen: en evaluator betalt af det laboratorium, den gransker, er den mekanisme, hele bygningen hviler på, og “må ikke påvirke uafhængigheden” er et krav, nogen skal håndhæve. Det tredje er eneretten — at fratage alle styrelser undtagen handelsministeriet magten til at stoppe en model er meget at bede om af en Kongres, der har brugt året på at udvide, ikke indsnævre, listen over tilsynsmyndigheder med en holdning til AI.
