Hva pågripelsesrapporten sier
Den 26. september skrev en bruker i Bonita Springs i Florida inn i Anthropics Claude at hun skulle skyte opp sheriffkontoret i Lee County. Dagen etter sa den samme kontoen, ifølge rapporten, at hun hadde skaffet seg et nytt våpen.
Anthropics plattform overvåker nøkkelfraser og potensielt truende innhold. Etterforskerne skrev at materialet på grunn av alvoret i uttalelsene ble eskalert til et menneskelig gjennomgangsteam, som deretter varslet politiet. Betjenter identifiserte kvinnen, dro hjem til henne og pågrep henne uten dramatikk; en etterretningsetterforsker ved sheriffkontoret overtok saken.
Hun er tiltalt for skriftlig voldstrussel etter Floridas lov, en alvorlig forbrytelse, og skal møte i retten i november. WINK News omtalte pågripelsen 30. september; saken fikk bredere omtale 5. oktober. Sheriff Carmine Marceno sa at hun senere fortalte etterforskerne at hun brukte chatboten som en dagbok.
Regelen som tillater det
Ingenting av dette krevde ransakingsordre. Anthropics publiserte brukervilkår forbyr å bruke produktene til å legge til rette for eller fremme vold eller trusler, og selskapets retningslinjer for myndighetsforespørsler sier at brukeropplysninger kan utleveres til politiet i begrensede nødssituasjoner der det er fare for død eller alvorlig fysisk skade. Det er den bestemmelsen selskapet ser ut til å ha handlet etter. WINK News ba Anthropic forklare hvordan sikkerhetstiltakene håndterer trusler og når selskapet deler opplysninger; noe svar er ikke gjengitt.
Marceno brukte saken til å snakke om anonymitet, og sa til WINK News at de som bruker KI-samtaler og KI-søk, aldri er virkelig anonyme. En pensjonert FBI-agent i samme innslag påpekte at domstolene fortsatt finner ut hvordan trusler som involverer KI, skal håndteres.
Mekanismen er ikke ny — store plattformer har meldt trusler til politiet i årevis, og amerikansk lov pålegger allerede leverandører å rapportere visse kategorier materiale. Det nye er flaten. En chatbot inviterer til en skriving folk ikke driver med i et offentlig innlegg: ufiltrert, rettet til ingen, nærmere en privat notatbok enn en tidslinje.
Det som ikke er avklart
To ting ved saken kommer tilbake. Det første er avstanden mellom hvor privat en chatbot føles og hvor privat den er. En førsteamanuensis ved Florida Gulf Coast University, sitert av WINK News, sa at folk vender seg til KI blant annet fordi en maskin ikke dømmer dem, og formulerte advarselen rett fram: KI er ikke bestevennen din.
Det andre er terskelen. Anthropics sikkerhetstiltak flagget frasene; et menneskelig team vurderte dem som troverdige; sheriffkontoret var enig. I hvert steg vurderte noen hensikt ut fra teksten alene, uten tonefall, uten sammenheng og uten personen foran seg. Floridas lov om skriftlige trusler gjelder meldinger sendt på en måte der en annen person kan se dem, og om en privat samtale med en modell oppfyller det, er akkurat den typen spørsmål ingen domstol har besvart.
Rettsmøtet i november er det første stedet det kan skje.
