Vad Nadella sa
Microsofts vd Satya Nadella sa i söndags att bolaget välkomnar det ”avsiktliga tempo som krävs för att få alignment rätt”, och att Microsoft på måndagen den 14 september skulle publicera en uppförandekod för sina egna MAI-modeller och låta allmänheten lämna synpunkter. Beskedet kom i ett inlägg på X som citerades av Unite.AI och A News.
”All strävan efter superintelligens måste bygga på grundprincipen att om den AI vi bygger inte hjälper mänskligheten och står under mänsklig kontroll, så är den inte värd att sträva efter”, skrev Nadella.
Han välkomnade också idén om ”inbäddade utvärderare”, oberoende säkerhetsgranskare som arbetar inne i labben. Det är en av de skyddsåtgärder som Anthropics vd Dario Amodei föreslog i sin essä där han uppmanar utvecklarna i frontlinjen att sakta ner.
En kod för Microsofts egna modeller
Nadella beskrev Microsofts hållning i tre delar: bred tillgång och valfrihet i varje lager av AI-stacken, företags kontroll över sina egna inlärningsloopar och modeller, samt uppförandekoden för bolagets egna MAI-modeller. ”För företag är det avgörande att de behåller full kontroll över sin unika och tysta kunskap”, skrev han enligt Free Press Journal.
Enligt Unite.AI blir det första gången Microsoft publicerar beteendestandarder för sina egna modeller i dokumentform. Microsoft har inte sagt hur länge remissen pågår eller hur synpunkter ska samlas in, och när den här artikeln publicerades, tidigt på måndagsmorgonen europeisk tid, hade dokumentet ännu inte dykt upp.
Inte en handfull bolag
Inlägget innehöll också en varning. Styrningen ”kan inte kontrolleras av en handfull aktörer utan måste ha bred representation över hela ekosystemet, länder och områden, inklusive akademin”, skrev Nadella, och tillade att en sund frontlinje behöver ”både slutna modeller och modeller med öppen källkod”.
Det sammanfaller med att The Information samma helg rapporterade att Anthropic, OpenAI och Google sedan juli har hållit arbetsgruppsmöten om ett branschlett standardiseringsorgan för avancerad AI. Enligt investingLives sammanfattning av rapporten föreslog Google DeepMinds vd Demis Hassabis den 14 juli ett amerikanskt organ efter förebild från FINRA, självregleringsorganet för amerikanska värdepappersmäklare, och OpenAI:s vd Sam Altman sa till de anställda att de stora labben måste bygga ett sådant organ själva om staten inte står bakom det. Microsoft nämndes inte bland deltagarna.
Var debatten står
Nadellas stöd kommer efter att Altman i lördags sa att även OpenAI ska ta in oberoende utvärderare med samma insyn som anställda. I Washington har mottagandet varit svalare: Vita husets AI-rådgivare David Sacks sa att labben redan i dag är fria att sänka tempot av affärsskäl, och talmannen i representanthuset Mike Johnson sa att kongressen inte kommer att gå före med lagstiftning om AI-säkerhet.
Microsofts hållning spelar roll även utanför de egna modellerna. Bolaget är en av OpenAI:s största investerare och är med MAI-modellerna också en egen utvecklare i frontlinjen. En kod som binder MAI säger därför något till marknaden om hur en av de största köparna och byggarna av AI tänker agera.
Att hålla ögonen på
Själva dokumentet. En uppförandekod kan vara en lista med principer eller en uppsättning åtaganden som går att pröva. Om Microsofts kod anger villkor för lansering, gränsvärden för utvärderingar eller externa granskare, och om remissen ger utomstående verkligt inflytande, visar hur långt stödet för ett lägre tempo sträcker sig.
