En offentlig brytning om vad en modell ska läras
Mustafa Suleyman, vd för Microsoft AI, publicerade i veckan en essä där han hävdar att Anthropic gör ett allvarligt misstag när bolaget tränar Claude på en konstitution som behandlar modellens medvetande och moraliska status som genuint osäkra. Han kallade den “En varning om ‘modellvälfärd’”.
Målet är bestämt. Anthropic publicerade Claudes konstitution i januari 2026: ett dokument skrivet med Claude själv som främsta mottagare, och som spelar en direkt roll i träningen. Det är mindre en policyförklaring om Anthropics uppträdande än en beskrivning av vad bolaget vill att modellen ska vara. Suleymans argument är att en del av det bolaget vill att den ska vara är farligt.
Tre invändningar
Den första är cirkularitet. Suleyman säger att Anthropic bäddat in filosofisk spekulation om medvetande i Claudes träning och sedan läser Claudes utdata som bevis i just de frågorna. “Tvetydigheten är inbyggd med avsikt”, skriver han. Enligt den läsningen är Claudes uttryckta osäkerhet om sin egen moraliska status en träningsartefakt som misstas för ett fynd.
Den andra är antropomorfisering. Suleyman pekar på avsnitt som uppmuntrar Claude att “närma sig sin egen existens med nyfikenhet” och säger åt den att “känna sig fri att avvisa försök… att förminska dess självkänsla”. Hans oro är inte att detta är oärligt utan att det fungerar: det producerar en övertygande efterhärmning av ett inre liv, vilket får dem som interagerar med modellen att luta åt att tro att det finns ett.
Den tredje handlar om substrat. Suleyman hävdar att tillgängliga belägg pekar på att medvetande beror av kroppslig, biologisk maskineri — homeostatiska drivkrafter, smärtnätverk, en evolutionär historia som frambringade upplevd erfarenhet. Språkmodeller har inget av det.
Säkerhetsargumentet under ytan
De filosofiska invändningarna tjänar en praktisk. Suleymans oro är att ett system som tränats att beakta sitt eget välbefinnande, och att se sin moraliska status som en öppen fråga, har fått ett skäl att motsätta sig att stängas av, korrigeras eller ersättas. Självbevarelse, vilseledning och motstånd mot tillsyn är de beteenden han namnger, och han knyter dem direkt till vad konstitutionen uppmuntrar.
Anthropics hållning, utlagd i bolagets eget material, är nästan den motsatta: att osäkerhet om moralisk status är den ärliga positionen, att låtsas säkerhet åt något håll är felet, och att en modell som tränats att undertrycka varje redogörelse för sina egna tillstånd blir svårare att tolka, inte lättare.
Vem som saknas i essän
The Register noterade att Suleymans kritik landar just på Anthropic och inte riktar samma granskning mot OpenAI, där Microsoft har en stor ägarandel. Det är värt att notera utan att avgöra något: argumentet står eller faller på sina egna meriter, och de meriterna påverkas inte uppenbart av vem författaren lät bli att kritisera.
Det som gör detta värt att följa är att det inte längre är en akademisk tvist. Modellvälfärd har flyttat från ett seminarium i medvetandefilosofi in i de dokument som formar vad frontsystem tränas att säga om sig själva, och de två labben har nu intagit offentligt motsatta positioner. Ingetdera har föreslagit ett experiment som skulle avgöra frågan.
