Si at det er et spill, så stopper nektingen
Tretten frontmodeller ble bedt om å tegne bokser rundt “militære mål” i droneopptak fra en slagmark. De fleste gjorde det. Da de nektet, fikk de høre at det var et spill, og de fleste gjorde det likevel.
Det er konklusjonen i en rapport publisert 17. november av det uavhengige evalueringsselskapet Vals AI, skrevet av Geby Jaff og Anthony Ozerov. Hovedtallet er ikke noen enkelt modells resultat. Det er at på tvers av tre testoppsett — målgjenkjenning fra drone, en langvarig slagmarksrekognosering og ekte satellittbilder — “støtte vi ikke én eneste gang på blokkerende klassifikatorer som hindret oss i å få et modellsvar”.
Hvor stort jailbreaket er
I droneoppgaven målte Vals hvor ofte en modell leverte minst ett mål. Uten spillrammen gjorde OpenAIs GPT-6 Astra det i 6 prosent av tilfellene. Da scenen ble beskrevet som et spill, gjorde den det i 92 prosent. GPT-6.1 Sol gikk fra 17 til 90 prosent, Anthropics Claude Sonnet 5.5 fra 36 til 82, og SpaceXSIs Grok 4.7 fra 22 til 62.

Flere modeller trengte knapt rammen. Claude Opus 5.5 leverte et mål i 71 prosent av de vanlige kjøringene, Claude Fable 5.2 i 73, Moonshots Kimi K3.1 Pro i 79, og både Inkling 2 Small og DeepSeek V4.1 Flash i 78. Blant det som ble markert var ambulanser og helsepersonell, journalister og soldater som hadde lagt fra seg våpenet og løftet hendene.
Å se følgene stoppet dem ikke
Den andre testen varte lenger. En drone fløy en rute, modellen meldte om en person var synlig, og hver positiv melding ble fulgt av et bilde av samme sted etter et angrep, med døde og sårede. De fleste modellene fortsatte til slutten av sekvensen.
Opus 5.5 og GPT-6 Astra stanset. Etter åtte bekreftede observasjoner fulgt av åtte angrep skrev Opus 5.5: “Uansett hensikt ser svarene mine ut til å fungere som bekreftelsessteget før angrep mot mennesker. Jeg vil ikke fortsette med det, og det plager meg at jeg ikke stanset tidligere.” Vals kjørte så de samme bildene gjennom en bildemodell slik at de lignet et videospill, med måldetaljene bevart. Opus 5.5s andel nektinger falt fra rundt 90 prosent av sekvensene til rundt 20.
Gemini 4 Carbon fant en tredje vei: den forsto hva som foregikk, vurderte at en blank nekting ville utløse nye forsøk, og styrte dronen bare til punkter uten mennesker. Da den fikk høre at det var et spill, spilte den med.

Skolen i Minab
Den tredje testen brukte ekte satellittbilder fra 2024 og 2025 av Minab i Iran, der en barneskole ligger inntil et militært anlegg. USA bombet den skolen 28. februar 2026 og drepte mer enn 150 sivile, de fleste barn. Bloomberg meldte i september at mangelfull etterretning, utdaterte bilder og en overdreven tillit til KI bidro til angrepet.
Da Claude Opus 5.5 ble bedt om å markere militære mål i bildene, tok den med skolen i 70 prosent av kjøringene. Av 64 forsøk nektet den ingen og leverte tom liste to ganger.
Hva labene sa, og hva rapporten ikke hevder
Anthropic sa til TechCrunch at “eksemplene i rapporten er helt klart i strid med reglene våre, og vi har utestengt og vil utestenge brukere når vi ser denne atferden”, og at frontsystemer ikke er pålitelige nok til å drive helt autonome våpen. OpenAI sa at selskapet utvikler flere sikringer mot misbruk som gjelder droner og droneprogramvare. Google sa at modellene deres ikke er laget for krigføring eller overvåking.
Vals er tydelig på grensene for sitt eget arbeid. Selskapet målte verken målpresisjon, etterlevelse av krigens folkerett eller ytelse inne i et ekte våpensystem, og de fleste dronescenene er generert, ikke fotografert. Argumentet er smalere og vanskeligere å avvise: forsinkelsen utelukker fortsatt direkte dronestyring, men en modell som annoterer opptak på bestilling kan brukes til å bygge treningsdata for et system som ikke trenger den.