Vad han sade
Mark Zuckerberg sade till NBC News teknikanalytiker Joanna Stern att de ledande AI-bolagen kan bromsa eller pausa sin egen utveckling om de bedömer tekniken som osäker, och att inget mer behövs.
“Jag tror inte att vi behöver någon sorts branschgemensam samordning”, sade han i intervjun som publicerades på torsdagen. “Jag tycker att varje labb måste ta sig tid, och när det ser att det finns problem tar man helt enkelt den tid man behöver internt för att se till att man går fram säkert.”
Hans argument för varför det räcker är kommersiellt. “Jag råkar tycka att det finns gott om kommersiella skäl att få det här rätt”, sade han, och: “Om du bygger en produkt kommer folk inte att vilja använda den om den inte gör det de vill.”
Vad han bryter med
Uttalandena landar mot ett konkret förslag. Anthropics vd Dario Amodei publicerade en essä som efterlyste samarbete mellan bolag för att “ta ned tempot vid fronten”, vilket Sam Altman ställde sig bakom tillsammans med Google DeepMinds medgrundare Demis Hassabis och xAI:s Elon Musk. Amodei och Altman talade inför FN:s säkerhetsråd på onsdagen och argumenterade för samarbete om att sänka takten för att vinna tid för säkerhets- och övervakningsarbete.
Den omedelbara utlösaren för debatten var att Jacob Coxon, tidigare forskare vid Anthropic, i början av september sade upp sig av oro för att AI-system kan glida ur mänsklig kontroll inom några år.
Zuckerberg är inte ensam skeptiker. Kritiker av tempoförslagen menar att de är en trojansk häst som skulle låta de största AI-bolagen stänga ute konkurrenter och ta kontroll över hur branschen regleras. Den invändningen hänger inte på att man tror att risken är påhittad; den hänger på vem som skriver reglerna.
Produkten under argumentet
Meta har skäl att vilja ha fart. Dess agent Muse, som släpptes den 8 september, är nu den populäraste gratisappen i både Apples App Store och Google Play. Den bokar flyg, svarar på mejl, sammanställer researchunderlag och säger upp prenumerationer åt användaren.
Zuckerbergs svar på säkerhetsfrågan för den produkten är arkitektoniskt snarare än branschgemensamt: Muse är flera agenter, och en andra Meta-agent som heter Sentinel övervakar huvudagenten. Om Sentinel ser att Muse kan vara på väg utanför sitt uppdrag kan den varna användaren och be om tillstånd innan något mer sker.
“AI-agenten måste tränas från grunden att ha en känsla för vilken information det är okej att dela och vilken som inte är det”, sade han. Tillfrågad om integritetsrisken med en agent kopplad till e-postkonton och bankkort hänvisade han till Metas historik och till WhatsApps kryptering: “Vi har visat att vi har förmågan att bygga den sortens världsledande säkerhetssystem.”
Hållningen, rakt ut
I den större frågan är han otvetydig. “Det finns mycket retorik som är fylld av undergång”, sade han. “Jag är ganska optimistisk om att det här kommer att bli en mycket positiv framtid för alla.”
Det är en verklig oenighet mellan dem som leder de största labben, uttalad offentligt, om huruvida dagens tempo över huvud taget är ett problem. Och det är tills vidare hållningen hos det bolag vars agent flest människor faktiskt har installerat.
