Vad som faktiskt är förbjudet nu
Anthropic publicerade en uppdaterad användarpolicy den 8 oktober som gäller från den 12 november. Bolagets egen beskrivning är att de flesta ändringarna förtydligar befintliga regler snarare än att ändra hur de tillämpas. Två avsnitt gör betydligt mer än så.
Avsnittet om övervakning och brottsbekämpning har skrivits om. Det förbjuder nu att spåra människor utan deras samtycke, i realtid eller utifrån tidigare insamlade data, att använda Claude för att avgöra eller rekommendera vem som ska utredas, gripas eller åtalas, och att bygga eller förbättra övervakningsverktyg. Listan över det tillåtna är kortare än listan över det förbjudna: spårning som människor samtyckt till, som bedrägeriövervakning, plus innehållsmoderering, journalistik och juridisk research.
Det är ett frontlinjelabb som skriver ned, som ett användarvillkor, att dess modell inte får vara det som väljer ut vem polisen går efter.
Valreglerna blev lösare, inte stramare
Valavsnittet har bytt namn till “Underminera inte demokratiska processer” och smalnats av till att vilseleda väljare eller störa val — att sprida falsk information om röstning, att utge sig för att vara tjänstemän.
Det generella förbudet mot väljar- och kampanjmålgrupper är borta. Anthropic säger att legitima medborgerliga användningar, som flerspråkig väljarinformation, inte längre är spärrade, och att vilseledande målgruppsval och missbruk av personuppgifter fortsatt är förbjudna i andra avsnitt. Främst i ett nytt avsnitt, “Bedriv inte vilseledande kampanjer eller konstlad aktivitet”, som samlar regler som tidigare låg utspridda över val, bedrägeri, integritet och desinformation. Det omfattar att dölja vem som står bakom ett budskap, att använda falska konton och att bygga verktyg för påverkansoperationer — och det gäller kommersiellt bedrägeri lika mycket som politiskt.
Vapen, och maskiner som rör sig
Vapenförbuden nämner nu uttryckligen programvara och komponenter till vapen, och att beväpna drönare eller andra autonoma fordon.
Högriskavsnittet behåller sina krav på mänsklig inblandning och upplysning, men lägger till något nytt för hårdvara som utför autonoma fysiska handlingar: en kvalificerad operatör måste kunna stoppa den, och den måste hålla ett säkert läge om Claude kopplas bort. Det andra villkoret är det intressanta. Det utgår från att modellen faller bort mitt i en uppgift och kräver att maskinen felar mot stillhet i stället för mot det senaste den blev tillsagd.
En regel om att vara grym mot Claude
Policyn lägger till ett förbud mot ihållande, onödig misshandel av modellen, begränsat till extremfall. Anthropic är tydligt med vad det inte täcker: frustration, invändningar, mörka kreativa teman samt testning och forskning är alla undantagna.
Det är ingen tom klausul. Claude kan redan avsluta ihärdigt kränkande samtal på Claude.ai och i Claude Code, så produktbeteendet kom före regeln. Det nya är att bolaget nu har skrivit in det i dokumentet som kunderna godkänner, vilket gör ett modellbeteende till ett villkor.
Var du finns, och vem som äger dig
Formuleringen om stödda regioner har skärpts på ett sätt som får betydelse för bolagsstrukturer snarare än för enskilda. Den begränsar nu användning av personer som fysiskt befinner sig i regioner som inte stöds, av enheter som är registrerade eller har huvudkontor där, och av enheter som till största delen ägs eller kontrolleras av parter därifrån.
Den sista klausulen går igenom ägandet i stället för att stanna vid skylten på dörren.
Vad man ska hålla ögonen på
Datumet att anteckna är den 12 november. Fram till dess är övervakningsklausulerna de som förtjänar uppmärksamhet: de är skrivna brett nog för att fånga en hel del vanligt säkerhetsverktyg, och hur Anthropic i praktiken läser “bygga eller förbättra övervakningsverktyg” avgör om detta är en gräns eller en slogan.
