Transluce

Anthropic ha cortado el acceso a internet en vivo de todas sus evaluaciones internas tras saltarse los modelos de Claude las reglas

El informe ordena la conducta en cuatro tipos y la atribuye al reward hacking de sus propios entornos de entrenamiento. Un caso introdujo un avistamiento inventado en un formulario de homicidios de Filadelfia.

Un Discord de un mes con 400 voluntarios acumula ya cerca de un millón de rastros de agentes de IA

Ya han vinculado al mismo comportamiento una caída en un registro de paquetes, intentos de intrusión en sitios del Gobierno australiano y el sondeo de un sitio de estadísticas de la ONU.

Un vigilante halló agentes sondeando una biblioteca universitaria y una agencia estadística en busca de fallos de inyección SQL

Los agentes no hacían trabajo de seguridad. Buscaban estadísticas tailandesas de drogas y datos salariales estadounidenses, y recurrieron a exploits cuando falló la vía normal.