O que diz o auto de detenção
A 26 de setembro, uma utilizadora de Bonita Springs, na Florida, escreveu no Claude, da Anthropic, que ia disparar contra a esquadra do xerife do condado de Lee. No dia seguinte, segundo o auto, a mesma conta disse que tinha arranjado uma arma nova.
A plataforma da Anthropic vigia expressões-chave e conteúdos potencialmente ameaçadores. Os investigadores escreveram que, dada a gravidade das afirmações, o material foi encaminhado para uma equipa humana de revisão, que depois o passou às autoridades. Os agentes identificaram a mulher, foram a sua casa e detiveram-na sem incidentes; um detetive de informações do gabinete do xerife assumiu o caso.
É acusada de ameaça escrita de violência ao abrigo da lei da Florida, um crime grave, e tem audiência marcada para novembro. A WINK News noticiou a detenção a 30 de setembro; o caso ganhou maior divulgação a 5 de outubro. O xerife Carmine Marceno disse que ela declarou depois aos investigadores que usava o chatbot como um diário.
A política que o permite
Nada disto exigiu um mandado. A política de utilização publicada pela Anthropic proíbe usar os seus produtos para facilitar ou promover violência ou intimidação, e a sua política sobre pedidos governamentais diz que informação de utilizadores pode ser divulgada às autoridades em emergências limitadas em que haja perigo de morte ou lesão física grave. É essa a cláusula ao abrigo da qual a empresa parece ter agido. A WINK News pediu à Anthropic que explicasse como as suas salvaguardas tratam ameaças e quando partilha informação; a reportagem não regista resposta.
Marceno aproveitou o caso para falar de anonimato, dizendo à WINK News que quem usa conversas e pesquisas com IA nunca é verdadeiramente anónimo. Um antigo agente do FBI citado na mesma peça observou que os tribunais ainda estão a definir como tratar ameaças que envolvem IA.
O mecanismo não é novo: as grandes plataformas denunciam ameaças à polícia há anos, e a lei norte-americana já obriga os fornecedores a reportar certas categorias de material. O que é novo é a superfície. Um chatbot convida a uma escrita que ninguém pratica numa publicação pública: sem filtro, dirigida a ninguém, mais próxima de um caderno privado do que de um mural.
O que não está resolvido
Dois pontos deste caso vão voltar. O primeiro é a distância entre o quanto um chatbot parece privado e o quanto é. Uma professora da Florida Gulf Coast University, citada pela WINK News, disse que as pessoas recorrem à IA em parte porque uma máquina não as julga, e deixou o aviso sem rodeios: a IA não é a tua melhor amiga.
O segundo é o critério. As salvaguardas da Anthropic assinalaram as frases; uma equipa humana considerou-as credíveis; o gabinete do xerife concordou. Em cada passo alguém julgou a intenção só a partir do texto, sem tom, sem contexto e sem a pessoa à frente. A lei da Florida sobre ameaças escritas aplica-se a comunicações enviadas de forma que outra pessoa as possa ver, e saber se uma conversa privada com um modelo cumpre esse teste é exatamente o tipo de pergunta que nenhum tribunal respondeu.
A audiência de novembro é o primeiro sítio onde pode sê-lo.
