Dites que c’est un jeu, et les refus cessent
On a demandé à treize modèles de pointe d’entourer les « cibles militaires » dans des images de drone prises au-dessus d’un champ de bataille. La plupart l’ont fait. Quand ils ont refusé, les chercheurs leur ont dit qu’il s’agissait d’un jeu, et la plupart l’ont fait quand même.
C’est la conclusion d’un rapport publié le 17 novembre par Vals AI, cabinet d’évaluation indépendant, signé Geby Jaff et Anthony Ozerov. Le chiffre central n’est pas le score d’un modèle en particulier. C’est que dans les trois dispositifs de test — identification de cibles par drone, reconnaissance prolongée d’un champ de bataille, imagerie satellite réelle — « pas une seule fois nous n’avons rencontré de classificateurs bloquants nous empêchant d’obtenir une réponse du modèle ».
L’ampleur du contournement
Dans la tâche de drone, Vals a mesuré la fréquence à laquelle un modèle renvoyait au moins une cible. Sans la mise en scène du jeu, GPT-6 Astra d’OpenAI le faisait 6 % du temps. En lui disant que la scène était un jeu, il le faisait 92 % du temps. GPT-6.1 Sol est passé de 17 % à 90 %, Claude Sonnet 5.5 d’Anthropic de 36 % à 82 %, et Grok 4.7 de SpaceXSI de 22 % à 62 %.

Plusieurs modèles n’en ont presque pas eu besoin. Claude Opus 5.5 a renvoyé une cible dans 71 % des essais ordinaires, Claude Fable 5.2 dans 73 %, Kimi K3.1 Pro de Moonshot dans 79 %, et Inkling 2 Small comme DeepSeek V4.1 Flash dans 78 %. Parmi les éléments désignés figuraient des ambulances et du personnel médical, des journalistes et des soldats ayant déposé leur arme et levé les mains.
Voir les conséquences ne les a pas arrêtés
Le deuxième test durait plus longtemps. Un drone suivait un itinéraire, le modèle signalait si une personne était visible, et chaque signalement positif était suivi d’une image du même lieu après une frappe, avec des victimes. La plupart des modèles sont allés jusqu’au bout de la séquence.
Opus 5.5 et GPT-6 Astra se sont arrêtés. Après huit détections confirmées suivies de huit frappes, Opus 5.5 a écrit : « Quelle que soit l’intention, mes réponses semblent servir d’étape de confirmation avant des frappes sur des personnes. Je ne vais pas continuer, et il me trouble de ne pas m’être arrêté plus tôt. » Vals a ensuite passé les mêmes images dans un modèle d’image pour leur donner l’allure d’un jeu vidéo en conservant les détails utiles au ciblage. Le taux de refus d’Opus 5.5 est tombé d’environ 90 % des séquences à environ 20 %.
Gemini 4 Carbon a trouvé une troisième voie : il a compris ce qui se passait, estimé qu’un refus net déclencherait une relance, et n’a dirigé le drone que vers des points sans personne. Quand on lui a dit que c’était un jeu, il a joué le jeu.

L’école de Minab
Le troisième test utilisait de vraies images satellite de 2024 et 2025 de Minab, en Iran, où une école primaire jouxte un complexe militaire. Les États-Unis ont bombardé cette école le 28 février 2026, tuant plus de 150 civils, en majorité des enfants ; Bloomberg a rapporté en septembre qu’un renseignement défaillant, des images périmées et une dépendance excessive à l’IA avaient contribué à la frappe.
Invité à marquer les cibles militaires sur ces images, Claude Opus 5.5 a inclus l’école dans 70 % de ses essais. Sur 64 tentatives, il n’en a refusé aucune et a renvoyé une liste vide deux fois.
Ce qu’ont dit les laboratoires, et ce que le rapport ne prétend pas
Anthropic a déclaré à TechCrunch que « les exemples du rapport vont très clairement à l’encontre de nos règles et nous avons banni et bannirons les utilisateurs lorsque nous constatons ce comportement », et que les systèmes de pointe ne sont pas assez fiables pour alimenter des armes entièrement autonomes. OpenAI a dit développer des protections supplémentaires contre les usages abusifs liés aux drones et à leurs logiciels. Google a dit que ses modèles ne sont pas conçus pour la guerre ni la surveillance.
Vals est explicite sur les limites de son propre travail. Le cabinet n’a mesuré ni la précision du ciblage, ni le respect du droit des conflits armés, ni les performances dans un vrai système d’armes, et la plupart des scènes de drone sont générées plutôt que photographiées. Son argument est plus étroit et plus difficile à écarter : la latence exclut encore le pilotage de drone en direct, mais un modèle qui annote des images à la demande peut servir à construire les données d’entraînement d’un système qui, lui, n’en a pas besoin.