”Kör på”
David Sacks, ordförande för presidentens rådgivande råd för vetenskap och teknik, sade att OpenAI och Anthropic är fria att bromsa sin egen utveckling, men att de inte bör göra ny reglering till priset för det. ”Dario har skrivit att vi måste ’hålla takten vid fronten’, och Sam har hållit med. Folk kanske blir förvånade över mitt svar: kör på”, skrev Sacks på X, rapporterade ANI.
Han svarade på Anthropics vd Dario Amodeis essä som uppmanar de ledande labben att hålla takten vid fronten, och som OpenAI:s Sam Altman sade att han stöder. Essän föreslår oberoende utvärderare inbäddade i labben, samordning mellan demokratier och på sikt global samordning.
Sacks menade att företagen har egna skäl att sakta ned. ”Framför allt: sluta låtsas att motivet att bromsa är rent altruistiskt. Ni har en enorm exponering för produktansvar om era produkter möjliggör en verkligt skadlig cyberattack”, skrev han. Att byta bort en del rå förmåga mot tillförlitlighet var ”en god affär”, sade han enligt The Tribune.
Invändningen gäller priset
Hans kritik riktade sig mot den del av förslaget som kräver regeringar. ”Det enklaste sättet att inte bygga superintelligens är att ni kommer överens om att inte bygga den”, skrev Sacks. Att göra ett önskat regelverk till villkor för att bromsa kunde, varnade han, se ut som ”utpressning”.
Skillnaden spelar roll eftersom ett enskilt labb när som helst kan bromsa sig självt, medan den samordning som Amodei beskriver inte kan ske utan stater. Sacks svar är att det första inte kräver någons tillstånd, och att administrationen inte ser det andra som sin uppgift.
Hans hållning ligger i linje med resten av administrationens helg. På söndagen sade president Donald Trump att ”negativa krafter” väckte oro kring AI och att han ville att USA skulle ligga före Kina, rapporterade Associated Press.
Meta och Hugging Face går olika vägar
Alexandr Wang, Metas AI-chef, berörde inte reglering, men sade att företaget flyttar resurser till alignment. ”MSL ökar snabbt den andel av våra insatser som går till alignment i takt med att våra modeller blir kraftfullare. Vi tror att alignment kan bli den avgörande flaskhalsen för skalning när vi närmar oss fronten”, skrev Wang på X enligt ANI. ”Människor behöver agenter de kan lita på att de pålitligt gör det de ber om.”
Hugging Face tog Amodei på orden. Vd:n Clem Delangue lanserade ett Open Alignment Initiative som leds av medgrundaren Thomas Wolf, med argumentet att alignment ”inte kommer att lösas bakom stängda dörrar hos en handfull frontlabb”. Han bad om att Hugging Face ska få ingå i det program med inbäddade utvärderare som Amodei åtagit sig att inrätta.
Detta är värt att följa
Sacks inlägg ger upphov till två prov. Det första är om OpenAI eller Anthropic presenterar en konkret gräns för sin egen utveckling utan att vänta på lagstiftning, vilket är just vad han säger att de är fria att göra. Det andra är om Anthropic tar in Hugging Face i sitt utvärderarprogram, vilket skulle vara det första tecknet på att förslaget öppnas för organisationer utanför frontlabben.
