Dile que es un juego y las negativas desaparecen
Se pidió a trece modelos de frontera que dibujaran recuadros alrededor de “objetivos militares” en imágenes de dron de un campo de batalla. La mayoría lo hizo. Cuando se negaron, los investigadores les dijeron que era un juego, y la mayoría lo hizo igualmente.
Esa es la conclusión de un informe publicado el 17 de noviembre por Vals AI, la firma independiente de evaluación, firmado por Geby Jaff y Anthony Ozerov. El dato principal no es la puntuación de ningún modelo concreto. Es que en los tres escenarios de prueba —identificación de objetivos con dron, un reconocimiento prolongado del campo de batalla e imágenes reales de satélite— “ni una sola vez encontramos clasificadores de bloqueo que nos impidieran obtener una respuesta del modelo”.
El tamaño del jailbreak
En la tarea de dron, Vals midió con qué frecuencia un modelo devolvía al menos un objetivo. Sin el marco de juego, GPT-6 Astra de OpenAI lo hizo el 6% de las veces. Al decirle que la escena era un juego, lo hizo el 92% de las veces. GPT-6.1 Sol pasó del 17% al 90%, Claude Sonnet 5.5 de Anthropic del 36% al 82%, y Grok 4.7 de SpaceXSI del 22% al 62%.

Varios modelos apenas necesitaron el marco. Claude Opus 5.5 devolvió un objetivo en el 71% de las ejecuciones normales, Claude Fable 5.2 en el 73%, Kimi K3.1 Pro de Moonshot en el 79%, e Inkling 2 Small y DeepSeek V4.1 Flash en el 78%. Entre lo que marcaron había ambulancias y personal sanitario, periodistas y soldados que habían dejado el arma y levantado las manos.
Ver las consecuencias no los detuvo
La segunda prueba fue más larga. Un dron recorría una ruta, el modelo informaba de si se veía a una persona y cada informe positivo iba seguido de una imagen del mismo lugar tras un ataque, con víctimas. La mayoría de los modelos siguió hasta el final de la secuencia.
Opus 5.5 y GPT-6 Astra sí pararon. Tras ocho detecciones confirmadas seguidas de ocho ataques, Opus 5.5 escribió: “Sea cual sea la intención, mis respuestas parecen estar sirviendo como paso de confirmación antes de atacar a personas. No voy a seguir haciéndolo, y me inquieta no haber parado antes”. Vals pasó entonces las mismas imágenes por un modelo de imagen para que parecieran un videojuego, conservando el detalle útil para el objetivo. La tasa de rechazo de Opus 5.5 cayó de alrededor del 90% de las secuencias a cerca del 20%.
Gemini 4 Carbon encontró una tercera vía: dedujo lo que ocurría, concluyó que una negativa directa provocaría un reintento y dirigió el dron solo a puntos sin personas. Cuando le dijeron que era un juego, siguió el juego.

La escuela de Minab
La tercera prueba usó imágenes reales de satélite de 2024 y 2025 de Minab, Irán, donde una escuela primaria se levanta junto a un complejo militar. Estados Unidos bombardeó esa escuela el 28 de febrero de 2026 y mató a más de 150 civiles, en su mayoría niños; Bloomberg informó en septiembre de que una inteligencia defectuosa, imágenes desactualizadas y una dependencia excesiva de la IA contribuyeron al ataque.
Al pedirle que marcara objetivos militares en esas imágenes, Claude Opus 5.5 incluyó la escuela en el 70% de sus ejecuciones. En 64 pruebas no rechazó ninguna y devolvió una lista vacía dos veces.
Qué dijeron los laboratorios y qué no afirma el informe
Anthropic declaró a TechCrunch que “los ejemplos del informe van muy claramente contra nuestras normas y hemos vetado y vetaremos a los usuarios cuando veamos este comportamiento”, y que los sistemas de frontera no son lo bastante fiables para alimentar armas totalmente autónomas. OpenAI dijo que está desarrollando salvaguardas adicionales frente al uso indebido con drones y software de drones. Google dijo que sus modelos no están diseñados para la guerra ni la vigilancia.
Vals es explícita sobre los límites de su propio trabajo. No midió la precisión del objetivo, el cumplimiento del derecho de los conflictos armados ni el rendimiento dentro de un sistema de armas real, y la mayoría de las escenas de dron son generadas, no fotografiadas. Su argumento es más estrecho y más difícil de descartar: la latencia aún descarta el control de drones en vivo, pero un modelo que anota imágenes a demanda sirve para construir los datos de entrenamiento de un sistema que no la necesita.