Ce que dit le procès-verbal d’arrestation
Le 26 septembre, une utilisatrice de Bonita Springs, en Floride, a écrit dans Claude, le modèle d’Anthropic, qu’elle allait tirer sur les locaux du shérif du comté de Lee. Le lendemain, selon le procès-verbal, le même compte a indiqué qu’elle s’était procuré une nouvelle arme.
La plateforme d’Anthropic surveille certaines expressions et les contenus potentiellement menaçants. Les enquêteurs ont écrit qu’en raison de la gravité des propos, le matériel a été transmis à une équipe humaine de revue, qui l’a ensuite signalé aux forces de l’ordre. Des adjoints ont identifié la femme, se sont rendus à son domicile et l’ont interpellée sans incident ; un enquêteur du renseignement du bureau du shérif a repris l’affaire.
Elle est poursuivie pour menace écrite de violence selon la loi de Floride, un crime, et doit comparaître en novembre. WINK News a rapporté l’arrestation le 30 septembre ; l’affaire a été reprise plus largement le 5 octobre. Le shérif Carmine Marceno a indiqué qu’elle avait ensuite déclaré aux enquêteurs se servir du robot conversationnel comme d’un journal intime.
La règle qui l’autorise
Rien de tout cela n’a nécessité de mandat. La politique d’utilisation publiée par Anthropic interdit de se servir de ses produits pour faciliter ou promouvoir la violence ou l’intimidation, et sa politique sur les demandes des autorités prévoit que des informations d’utilisateur peuvent être communiquées aux forces de l’ordre dans des urgences limitées où existe un danger de mort ou de blessure physique grave. C’est apparemment la clause invoquée. WINK News a demandé à Anthropic comment ses garde-fous traitent les menaces et quand l’entreprise partage des informations ; aucune réponse n’est rapportée.
Marceno s’est servi de l’affaire pour parler d’anonymat, déclarant à WINK News que les utilisateurs de conversations et de recherches assistées par IA ne sont jamais vraiment anonymes. Un ancien agent du FBI cité dans le même reportage a relevé que les tribunaux cherchent encore comment traiter les menaces impliquant l’IA.
Le mécanisme n’est pas nouveau : les grandes plateformes signalent des menaces à la police depuis des années, et la loi américaine impose déjà aux fournisseurs de signaler certaines catégories de contenus. Ce qui est nouveau, c’est la surface. Un robot conversationnel appelle une écriture que l’on ne pratique pas dans une publication publique : sans filtre, adressée à personne, plus proche d’un carnet privé que d’un fil.
Ce qui n’est pas tranché
Deux points de cette affaire reviendront. Le premier est l’écart entre le sentiment d’intimité qu’offre un robot conversationnel et l’intimité réelle. Une enseignante de la Florida Gulf Coast University, citée par WINK News, a expliqué qu’on se tourne vers l’IA en partie parce qu’une machine ne juge pas, et a formulé l’avertissement sans détour : l’IA n’est pas votre meilleure amie.
Le second est le critère. Les garde-fous d’Anthropic ont signalé les phrases ; une équipe humaine les a jugées crédibles ; le bureau du shérif a suivi. À chaque étape, quelqu’un a jugé l’intention à partir du seul texte, sans ton, sans contexte et sans la personne en face. La loi floridienne sur les menaces écrites vise les communications envoyées d’une manière permettant à autrui de les voir, et savoir si une conversation privée avec un modèle satisfait ce critère est précisément le genre de question qu’aucun tribunal n’a tranchée.
L’audience de novembre est le premier endroit où elle pourrait l’être.
