Hvad anholdelsesrapporten siger
Den 26. september skrev en bruger i Bonita Springs i Florida ind i Anthropics Claude, at hun ville skyde løs på sheriffkontoret i Lee County. Dagen efter sagde den samme konto ifølge rapporten, at hun havde skaffet sig et nyt våben.
Anthropics platform overvåger nøglefraser og potentielt truende indhold. Efterforskerne skrev, at materialet på grund af alvoren i udtalelserne blev sendt videre til et menneskeligt gennemgangsteam, som derefter underrettede politiet. Betjente identificerede kvinden, kørte hjem til hende og anholdt hende uden dramatik; en efterretningsefterforsker ved sheriffkontoret overtog sagen.
Hun er tiltalt for skriftlig voldstrussel efter Floridas lov, en alvorlig forbrydelse, og skal i retten i november. WINK News omtalte anholdelsen den 30. september; sagen fik bredere omtale den 5. oktober. Sheriff Carmine Marceno sagde, at hun senere fortalte efterforskerne, at hun brugte chatbotten som en dagbog.
Reglen, der tillader det
Intet af dette krævede en ransagningskendelse. Anthropics offentliggjorte brugervilkår forbyder at bruge produkterne til at muliggøre eller fremme vold eller trusler, og selskabets politik for myndighedsanmodninger siger, at brugeroplysninger kan udleveres til politiet i begrænsede nødsituationer, hvor der er fare for dødsfald eller alvorlig fysisk skade. Det er den bestemmelse, selskabet tilsyneladende har handlet efter. WINK News bad Anthropic forklare, hvordan sikkerhedsforanstaltningerne håndterer trusler, og hvornår selskabet deler oplysninger; noget svar er ikke gengivet.
Marceno brugte sagen til at tale om anonymitet og sagde til WINK News, at den, der bruger AI-samtaler og AI-søgninger, aldrig er rigtigt anonym. En pensioneret FBI-agent i samme indslag bemærkede, at domstolene stadig er ved at finde ud af, hvordan trusler, der involverer AI, skal håndteres.
Mekanismen er ikke ny — store platforme har anmeldt trusler til politiet i årevis, og amerikansk lov kræver allerede, at udbydere indberetter visse kategorier af materiale. Det nye er fladen. En chatbot inviterer til en skrivning, folk ikke bedriver i et offentligt opslag: ufiltreret, rettet til ingen, tættere på en privat notesbog end på et feed.
Det, der ikke er afgjort
To ting ved sagen vender tilbage. Det første er afstanden mellem, hvor privat en chatbot føles, og hvor privat den er. En lektor ved Florida Gulf Coast University, citeret af WINK News, sagde, at folk vender sig mod AI blandt andet, fordi en maskine ikke dømmer dem, og formulerede advarslen ligeud: AI er ikke din bedste ven.
Det andet er tærsklen. Anthropics sikkerhedsforanstaltninger markerede fraserne; et menneskeligt team vurderede dem som troværdige; sheriffkontoret var enigt. I hvert skridt bedømte nogen hensigt ud fra teksten alene, uden tonefald, uden sammenhæng og uden personen foran sig. Floridas lov om skriftlige trusler gælder meddelelser sendt på en måde, hvor en anden person kan se dem, og om en privat samtale med en model opfylder det, er netop den slags spørgsmål, ingen domstol har besvaret.
Retsmødet i november er det første sted, det kan ske.
