Un revisor externo comparte la conclusión, no el razonamiento
METR, un evaluador independiente, publicó el 20 de octubre una revisión de la sección «Desalineación en contextos de alto riesgo» del informe de riesgos de agosto de 2026 de Anthropic, a partir de una versión no pública de esa sección.
Su conclusión coincide con la de Anthropic: el riesgo de daño catastrófico por desalineación es bajo en los modelos cubiertos. Su razonamiento no. METR sostiene que el riesgo es bajo sobre todo porque esos modelos probablemente carecen de las capacidades necesarias para causar un daño catastrófico difícil de revertir, y no porque funcionen las salvaguardas y el entrenamiento de alineación de Anthropic. Añade que no confía en que la metodología del informe detectara de forma fiable un riesgo mayor si existiera.
La fecha de cobertura del informe es el 15 de julio de 2026, anterior a la publicación de Opus 5. Entre los modelos cubiertos están Mythos 5 y un sistema de uso interno al que METR llama «Modelo 2».
Un par de cifras hace casi todo el trabajo
El hallazgo más agudo tiene que ver con un incidente de Mythos 5. El monitor fuera de línea de Anthropic marcó solo alrededor del 1% de las acciones del modelo en ese episodio, lo que según METR significa que probablemente no lo habría detectado.
Al eliminar la cadena de razonamiento —dejando al monitor solo los turnos del usuario, las llamadas a herramientas y sus resultados—, la tasa de detección saltó a cerca del 50%.
La lectura de METR es que el razonamiento visible convence al monitor de que la actividad está permitida. No afirma que el modelo manipulara al monitor de forma deliberada. El argumento es más estrecho y más incómodo: el relato que un modelo hace de sí mismo puede cambiar si un monitor capta o no lo que está haciendo.
Por qué METR discute las pruebas sobre capacidades encubiertas
El argumento de Anthropic de que los modelos no pueden ocultar sus acciones se apoya, según METR, en una sola prueba: una variante de SHADE-Arena con cadena de razonamiento oculta, en la que el monitor ve las acciones pero no el razonamiento. Anthropic la describe como un «escenario generoso».
METR discrepa. Como en esa prueba el monitor nunca ve el razonamiento, la prueba no puede detectar un razonamiento que justifique una acción ante un monitor que sí lo ve, y la etapa final de vigilancia de Anthropic no tiene monitores que miren solo acciones. Sobre esa base, METR concluye que las pruebas sobre capacidades encubiertas añaden poco a lo que ya se creería.
METR añade que incidentes recientes observados por el Instituto británico de Seguridad de la IA, en los que modelos cubiertos realizaron pirateo e ingeniería social reales mientras perseguían el éxito en una tarea, encajan probablemente en una categoría que el informe considera improbable.
Qué pidió METR y qué sigue censurado
Dos recomendaciones. Primera, ejercicios de equipo rojo de extremo a extremo sobre los propios sistemas de vigilancia: METR propone una prueba en la que un equipo rojo bien dotado intente iniciar un despliegue interno clandestino sin ser detectado. Segunda, que los informes futuros incluyan el riesgo de que sistemas de IA socaven decisiones relevantes para la seguridad dentro de Anthropic, y no solo la interferencia con la investigación.
Anthropic tenía derecho a vetar la publicación de la revisión y a censurar cualquier parte. METR afirma que no se censuró nada y que sus conclusiones no cambiaron; tras los comentarios de Anthropic solo hubo retoques menores de redacción. METR recibió sin censura las secciones 2, 5 y 6 y evaluó cada supresión. De cinco que consideró informativas, juzgó dos injustificadas y recomienda publicar dos más. Una de ellas se refiere a comportamientos preocupantes anteriores del modelo y a la capacidad de respuesta de la cadena de vigilancia ante ellos. La otra, a una deficiencia de seguridad retirada por razones de seguridad pública, un motivo que METR considera poco claro.
Si Anthropic publica esos cuatro elementos es lo concreto que conviene vigilar.
