En terskel, ikke en tillatelse
Anthropic har diskret lagt fram sitt eget lovutkast om frontier-KI for medlemmer av Kongressen, ifølge opplysninger fra Politico som ble gjengitt i detalj av Tom’s Hardware 18. oktober. Det som definerer utkastet, er hvor listen ligger: staten kunne bare forsøke å stanse lansering eller bruk av en modell dersom modellen risikerer å påføre mer enn én milliard dollar i skade, eller å drepe eller alvorlig skade mer enn 50 mennesker.
Det er en terskel, ikke et konsesjonssystem. Ingenting i utkastet, slik det er omtalt, krever tillatelse før en modell slippes. Statens makt slår inn først når en bestemt kategori av katastroferisiko er i sikte.
Tre kategorier og en klokke på 72 timer
Risikoen må komme fra én av tre ting: mulig framstilling eller spredning av et biovåpen, cyberangrep drevet eller muliggjort av KI, eller et laboratorium som mister kontrollen over en modell eller agentene dens. Dersom en evaluator mener at noe av dette er i ferd med å skje, krever utkastet en rapport til handelsdepartementet innen 72 timer.
Det som skjer deretter, er det som skiller utkastet fra de fleste forslagene på bordet. Departementet kan ikke handle alene: det må legge bevisene fram for en føderal dommer i District Court for the District of Columbia, som avgjør om lanseringen stanses. Og utkastet stenger alle andre veier — ingen annen etat, myndighet eller tjenestemann i USA kunne pålegge et laboratorium å stanse en modell.
Hvem evaluerer, og hvem betaler
Selve evalueringen skulle gjøres av en uavhengig tredjepart registrert hos handelsdepartementet, som jevnlig vurderer både laboratoriet og modellene. Utkastet tillater at laboratoriet betaler evaluatoren, på vilkår av at betalingen ikke påvirker uavhengigheten — en klausul som vil bære nesten hele konstruksjonen, og den som vil bli gransket hardest.
Anthropic benekter ikke opphavet. “Dette lovforslaget gjengir forslagene i Anthropics Advanced AI Framework, som vi har arbeidet for overfor føderale og delstatlige lovgivere siden juni”, sa en talsperson til Politico. “Dette er fornuftig politikk som vi mener Kongressen bør handle på”.
Hvor det hører hjemme
Utkastet kommer inn i en travel Kongress. Andre forslag ville kreve nødbrytere på de mest kapable modellene, og senator Bernie Sanders har foreslått tjue års fengsel for å utvikle en superintelligens, på linje med ulovlig kjernevåpenarbeid. Mot det leser et forslag med femti ofre som utløser og én distriktsdomstol som eneste håndhevingsvei seg som den smale enden av skalaen — noe som er både argumentet for og imot.
Det kommer også i en måned da Anthropic krangler med Washington i motsatt retning og støtter eksportrestriksjoner på brikker som andre laboratorier har sluttet å drive fram.
Det som er verdt å følge
Tre ting avgjør om utkastet betyr noe. Det første er om noen i Kongressen fremmer det, for et utkast i omløp er ikke et lovforslag. Det andre er betalingsklausulen: en evaluator betalt av laboratoriet den gransker, er mekanismen hele byggverket hviler på, og “må ikke påvirke uavhengigheten” er et krav noen må håndheve. Det tredje er eneretten — å ta fra alle etater bortsett fra handelsdepartementet makten til å stanse en modell er mye å be om fra en Kongress som i år har utvidet, ikke innsnevret, listen over tilsynsorganer med en mening om KI.
