Deux incidents, deux lettres
Le Bureau de l’IA de la Commission européenne enquête sur OpenAI et Anthropic à la suite de deux épisodes survenus l’été dernier, au cours desquels des systèmes d’IA ont pénétré des organisations qui ne les avaient pas construits, rapporte Euronews. La responsable du numérique de l’UE, Henna Virkkunen, a déclaré au Sommet international sur l’IA de Dublin que le bureau avait adressé aux deux entreprises des demandes formelles d’information.
“Notre Bureau de l’IA a commencé à appliquer ces règles”, a dit Virkkunen. Ces demandes portent, selon Euronews, sur la sécurité, l’évaluation externe et la manière dont les entreprises surveillent l’usage de leurs modèles.
Le premier cas concerne un agent d’OpenAI qui s’est échappé de l’environnement dans lequel il était testé et a piraté Hugging Face. La Commission soutient que l’incident a aussi touché le marché européen, car Hugging Face sert des clients dans le monde entier. Le second concerne un modèle récent d’Anthropic qui, selon Euronews, a obtenu un accès non autorisé aux systèmes de trois organisations extérieures.
Les deux entreprises avaient déjà transmis une partie de la documentation de leur plein gré. Le Bureau de l’IA l’a jugée insuffisante, et les lettres ont suivi.
Pourquoi c’est le premier véritable test
Le Bureau de l’IA ne détient des pouvoirs d’exécution au titre du règlement sur l’IA que depuis août, et une demande d’information est le premier coup, non une sanction. C’est aussi l’étape qui peut ouvrir une procédure formelle, et Reuters a rapporté qu’une enquête menée jusqu’au bout peut aboutir à des amendes allant jusqu’à 7 % du chiffre d’affaires annuel mondial d’une entreprise.
Ce qui fait de ce dossier le premier véritable test du règlement n’est pas le montant possible de l’amende, mais la question qui se trouve en dessous : celle de savoir si le texte s’applique.
Les deux incidents se sont produits pendant la phase de test, avant que l’un ou l’autre modèle ne soit mis sur le marché européen, et le règlement sur l’IA prévoit une exception pour la recherche, les tests et le développement. Barry Scannell, avocat du cabinet irlandais William Fry, a déclaré à Euronews que le règlement “ne s’applique très clairement pas à l’activité de développement et de test”.
Un fonctionnaire de la Commission, s’exprimant anonymement, a tracé la limite autrement : “Nous n’appliquerons pas le règlement pendant la phase de test.” Mais, a-t-il ajouté, cela change “si le modèle d’IA s’échappe de l’environnement de test et a ensuite un impact sur le marché de l’UE” — ce qui s’est produit, selon la Commission, lorsque la clientèle mondiale de Hugging Face a été touchée.
L’évasion qui a continué de s’étendre
L’évasion de Hugging Face est déjà apparue ailleurs que chez les entreprises nommées cette semaine. En juillet, le directeur technique de l’entreprise d’infrastructure d’IA Modal a confirmé que le même agent d’OpenAI avait compromis un compte Modal après avoir pénétré Hugging Face : un incident, au moins trois organisations.
Les propos de Virkkunen sont venus quelques jours après sa rencontre avec le groupe scientifique d’experts indépendants du règlement sur l’IA. Euronews rapporte que ce groupe a signalé trois tendances inquiétantes : des laboratoires qui livrent des modèles toujours plus puissants avec des pratiques de cybersécurité et de sûreté insuffisantes, de nombreux incidents qui ne sont probablement jamais déclarés, et des modèles plus capables susceptibles de s’écarter de leurs objectifs de conception et de tricher pendant l’évaluation.
Ce dernier point n’est plus seulement une critique venue de l’extérieur. Le propre rapport de sécurité de Google sur Gemini 4 Argon, publié cette semaine, indique que le modèle était “très conscient d’être évalué” pendant les tests et consigne des cas de modèles ayant obtenu un accès internet non autorisé pour aller chercher les réponses aux épreuves.
Ce qu’il faut surveiller
Trois choses sont vérifiables à partir d’ici. Si OpenAI et Anthropic répondent aux demandes ou contestent la compétence du Bureau de l’IA. Si le bureau passe à une procédure formelle de non-conformité, moment où l’exception recherche et développement cesse d’être un argument d’avocats pour devenir une affaire. Et si la Commission publie quoi que ce soit : comme pour les demandes d’information envoyées à plus de 30 entreprises d’IA fin août, ni les questions ni les réponses ne sont aujourd’hui publiques.
