Hvad der faktisk er forbudt nu
Anthropic offentliggjorde en opdateret brugerpolitik 8. oktober, der gælder fra 12. november. Selskabets egen udlægning er, at de fleste ændringer præciserer eksisterende regler frem for at ændre håndhævelsen. To afsnit gør væsentligt mere end det.
Afsnittet om overvågning og retshåndhævelse er skrevet om. Det forbyder nu at spore mennesker uden deres samtykke, i realtid eller ud fra tidligere indsamlede data, at bruge Claude til at afgøre eller anbefale hvem der skal efterforskes, anholdes eller sigtes, og at bygge eller forbedre overvågningsværktøjer. Listen over det tilladte er kortere end listen over det forbudte: sporing, folk har samtykket til, som svindelovervågning, plus indholdsmoderation, journalistik og juridisk research.
Det er et frontlaboratorium, der skriver ned, som et brugervilkår, at dets model ikke må være det, der udvælger hvem politiet går efter.
Valgreglerne blev løsere, ikke strammere
Valgafsnittet har skiftet navn til “Undergrav ikke demokratiske processer” og er snævret ind til at vildlede vælgere eller forstyrre valg — at sprede falsk information om afstemning, at udgive sig for at være embedsmænd.
Det generelle forbud mod vælger- og kampagnemålretning er væk. Anthropic siger, at legitime samfundsmæssige anvendelser, som flersproget vælgerinformation, ikke længere er spærret, og at vildledende målretning og misbrug af persondata fortsat er forbudt i andre afsnit. Først og fremmest i et nyt afsnit, “Deltag ikke i vildledende kampagner eller kunstig aktivitet”, der samler regler, som før lå spredt over valg, svindel, privatliv og desinformation. Det dækker at skjule, hvem der står bag et budskab, at bruge falske konti og at bygge værktøjer til påvirkningsoperationer — og gælder kommerciel vildledning lige så meget som politisk.
Våben, og maskiner der bevæger sig
Våbenforbuddene nævner nu udtrykkeligt software og komponenter til våben, og at bevæbne droner eller andre autonome køretøjer.
Højrisikoafsnittet beholder sine krav om menneskelig inddragelse og oplysning, men tilføjer noget nyt for hardware, der udfører autonome fysiske handlinger: en kvalificeret operatør skal kunne standse den, og den skal holde en sikker tilstand, hvis Claude kobles fra. Den anden betingelse er den interessante. Den går ud fra, at modellen falder ud midt i en opgave, og kræver, at maskinen fejler mod stilstand frem for mod det sidste, den fik besked på.
En regel om at være grusom mod Claude
Politikken tilføjer et forbud mod vedvarende, unødvendig mishandling af modellen, begrænset til ekstreme tilfælde. Anthropic er klar om, hvad det ikke dækker: frustration, modsigelse, mørke kreative temaer samt test og forskning er alle undtaget.
Det er ikke en tom klausul. Claude kan allerede afslutte vedholdende krænkende samtaler på Claude.ai og i Claude Code, så produktadfærden kom før reglen. Det nye er, at selskabet nu har skrevet den ind i det dokument, kunderne accepterer, hvilket gør en modeladfærd til et vilkår.
Hvor du er, og hvem der ejer dig
Formuleringen om understøttede regioner er strammet på en måde, der betyder mere for selskabsstrukturer end for enkeltpersoner. Den begrænser nu brug af personer, der fysisk befinder sig i regioner, som ikke understøttes, af enheder registreret eller med hovedsæde der, og af enheder, der overvejende ejes eller kontrolleres af parter derfra.
Den sidste klausul går gennem ejerskabet i stedet for at stoppe ved skiltet på døren.
Hvad man skal holde øje med
Datoen at notere er 12. november. Indtil da er overvågningsklausulerne dem, der fortjener opmærksomhed: de er skrevet bredt nok til at fange en god del almindeligt sikkerhedsværktøj, og hvordan Anthropic i praksis læser “bygge eller forbedre overvågningsværktøjer” afgør, om dette er en grænse eller et slogan.
