Lo que dice el informe de detención
El 26 de septiembre, una usuaria de Bonita Springs (Florida) escribió en Claude, de Anthropic, que iba a disparar contra la oficina del sheriff del condado de Lee. Al día siguiente, según el informe de detención, la misma cuenta dijo que había conseguido un arma nueva.
La plataforma de Anthropic vigila frases clave y contenido potencialmente amenazante. Los investigadores escribieron que, por la gravedad de las declaraciones, el material se elevó a un equipo humano de revisión que después lo trasladó a las fuerzas del orden. Los agentes identificaron a la mujer, fueron a su casa y la detuvieron sin incidentes; un detective de inteligencia de la oficina del sheriff se hizo cargo del caso.
Está acusada de amenaza escrita de violencia según la ley de Florida, un delito grave, y debe comparecer ante el tribunal en noviembre. WINK News informó de la detención el 30 de septiembre; el caso se difundió más ampliamente el 5 de octubre. El sheriff Carmine Marceno dijo que ella declaró después a los investigadores que usaba el chatbot como un diario.
La política que lo permite
Nada de esto requirió una orden judicial. La política de uso publicada por Anthropic prohíbe emplear sus productos para facilitar o promover la violencia o la intimidación, y su política sobre solicitudes gubernamentales dice que la información de los usuarios puede divulgarse a las fuerzas del orden en emergencias limitadas en las que exista peligro de muerte o lesiones físicas graves. Esa es la cláusula bajo la que parece haber actuado la empresa. WINK News pidió a Anthropic que explicara cómo gestionan sus salvaguardas las amenazas y cuándo comparte información; el reportaje no recoge respuesta.
Marceno aprovechó el caso para hablar del anonimato: dijo a WINK News que quien usa chats y búsquedas de IA nunca es realmente anónimo. Un agente retirado del FBI citado en el mismo reportaje señaló que los tribunales aún están decidiendo cómo tratar las amenazas que involucran IA.
El mecanismo no es nuevo: las grandes plataformas llevan años denunciando amenazas a la policía, y la ley estadounidense ya obliga a los proveedores a reportar ciertas categorías de material. Lo nuevo es la superficie. Un chatbot invita a una escritura que la gente no practica en una publicación pública: sin filtro, dirigida a nadie, más cercana a un cuaderno privado que a un muro.
Lo que no está resuelto
Dos cosas de este caso volverán a aparecer. La primera es la distancia entre lo privado que parece un chatbot y lo privado que es. Una profesora de la Florida Gulf Coast University, citada por WINK News, dijo que la gente recurre a la IA en parte porque una máquina no la juzga, y lo advirtió sin rodeos: la IA no es tu mejor amiga.
La segunda es el criterio. Las salvaguardas de Anthropic marcaron las frases; un equipo humano las consideró creíbles; la oficina del sheriff estuvo de acuerdo. En cada paso alguien juzgó la intención solo a partir del texto, sin tono, sin contexto y sin la persona delante. La ley de amenazas escritas de Florida se aplica a comunicaciones enviadas de forma que otra persona pueda verlas, y si un chat privado con un modelo cumple ese requisito es justo el tipo de pregunta que ningún tribunal ha respondido.
La vista de noviembre es el primer lugar donde podría responderse.
