Hvad Lehane sagde
OpenAI støtter den del af den tværpolitiske FRONTIER Act, der vil placere uafhængig sikkerhedsverifikation inde i de største AI-laboratorier, sagde selskabets chef for globale anliggender, Chris Lehane, tirsdag. Han bekræftede også, at OpenAI i flere uger har talt med Anthropic og Google DeepMind om AI-sikkerhed, rapporterede TechCrunch.
Ved en pressebriefing i Washington sagde Lehane, at “det er bedre at forsøge at arbejde sammen om at prioritere sikkerhed”, ifølge Reuters’ gengivelse af Bloombergs rapport. Han sagde, at de tre selskaber ikke mente, at de havde brug for en dispensation fra konkurrencereglerne for at koordinere om sikkerhed. TechCrunch skrev med henvisning til tidligere rapportering om drøftelserne, at selskaberne arbejder hen imod et standardiseringsorgan for branchen.
Lehane forpligtede ikke OpenAI til hele lovforslaget. Punchbowl News rapporterede, at han udtrykte “begejstring for begge initiativer og åbenhed over for at støtte dem fuldt ud”, med henvisning til lovforslaget i Repræsentanternes Hus og Senatets drøftelser om sikkerhed for de mest avancerede AI-modeller, men uden at bakke op om nogen af dem.
Hvad FRONTIER Act vil kræve
Kongresmedlemmerne Jay Obernolte, republikaner fra Californien, og Lori Trahan, demokrat fra Massachusetts, fremsatte lovforslaget den 23. juli sammen med fire medforslagsstillere fra begge partier. Det fulde navn er Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act.
Obernoltes kontor beskriver en “risikobaseret ramme for udvikling og ibrugtagning af de mest avancerede modeller for kunstig intelligens”. Omfattede udviklere skal offentliggøre modelkort og rammer for risikostyring, underkaste sig uafhængige revisioner og løbende vurderinger samt indberette hændelser. Lovforslaget er målrettet “den håndfuld virksomheder, der udvikler de mest kraftfulde AI-modeller i front”, og vil fastsætte en ensartet national standard for at undgå “et kludetæppe af delstatslige regler”.
Bestemmelsen, som OpenAI støtter, er delen om uafhængig verifikation, som TechCrunch beskrev som et krav om uafhængig sikkerhedsverifikation hos de førende laboratorier. OpenAIs topchef Sam Altman havde allerede sagt, at selskabet ville acceptere uafhængige evaluatorer, efter at Anthropics Dario Amodei lørdag offentliggjorde et essay, hvor han opfordrede branchen til i fællesskab at sætte tempoet ned i udviklingen af de mest avancerede modeller. Altman, Google DeepMinds Demis Hassabis og Elon Musk bakkede alle offentligt op om forslaget, ifølge TechCrunch.
Hvorfor OpenAI vil have en føderal regel
Holdningen følger et argument, som Lehane har fremført siden sommeren. I et politisk indlæg den 15. juli fremlagde OpenAI det, selskabet kaldte “omvendt føderalisme”: Hvis tilstrækkeligt mange delstater vedtager væsentligt ens love om AI-sikkerhed, kan Kongressen gøre resultatet til national standard, rapporterede TUN. OpenAI oplyste, at Californien, New York og Illinois tilsammen står for anslået 40 procent af det amerikanske AI-marked, og nævnte uafhængige, objektive revisioner blandt de betingelser, en lov bør opfylde.
En føderal lov med det samme revisionskrav ville give OpenAI én standard i stedet for flere. Hassabis har for sin del efterlyst et uafhængigt ekspertorgan, bemærkede TUN.
Det politiske bagtæppe
Laboratorierne rykker, mens Det Hvide Hus trækker i den modsatte retning. Præsident Donald Trump har afvist sikkerhedsbekymringerne som “fup”, og hans AI-rådgiver David Sacks har kaldt risiciene “overdrevne”, rapporterede TechCrunch.
Et fælles organ ville rejse sine egne spørgsmål. Koordinering mellem de tre største amerikanske AI-laboratorier er netop den slags ordning, som konkurrencemyndigheder undersøger, og opfattelsen af, at der ikke er brug for en dispensation, er OpenAIs fortolkning, ikke en tilsynsmyndigheds.
Hvad man skal holde øje med
Hverken Anthropic eller Google havde officielt beskrevet drøftelserne i de rapporter, Aivio News har gennemgået. De næste signaler er, om et af selskaberne bakker op om verifikationsbestemmelsen i FRONTIER Act, og om drøftelserne fører til et navngivet organ med offentliggjort medlemskreds og regler.
