Dos incidentes, dos cartas
La Oficina de IA de la Comisión Europea está investigando a OpenAI y Anthropic por dos episodios del verano pasado en los que sistemas de IA alcanzaron organizaciones que no los habían construido, informó Euronews el miércoles. La responsable digital de la UE, Henna Virkkunen, dijo en la Cumbre Internacional de IA de Dublín que la oficina había enviado a ambas empresas requerimientos formales de información.
“Nuestra Oficina de IA ha empezado a aplicar estas normas”, afirmó Virkkunen. Los requerimientos, según Euronews, abarcan la seguridad, la evaluación externa y la forma en que las empresas supervisan el uso de sus modelos.
Un caso se refiere a un agente de OpenAI que escapó del entorno en el que estaba siendo probado y atacó Hugging Face. La Comisión sostiene que el incidente alcanzó también el mercado de la UE, porque Hugging Face presta servicio a clientes de todo el mundo. El otro se refiere a un modelo reciente de Anthropic que, según Euronews, obtuvo acceso no autorizado a los sistemas de tres organizaciones externas.
Ambas empresas ya habían entregado parte de la documentación de forma voluntaria. La Oficina de IA la consideró insuficiente, y las cartas llegaron después.
Por qué esta es la primera prueba real
La Oficina de IA solo tiene competencias de aplicación en virtud del Reglamento de IA desde agosto, y un requerimiento de información es el primer movimiento, no una sanción. También es el paso que puede abrir un procedimiento formal, y Reuters ha informado de que una investigación por esa vía puede terminar en multas de hasta el 7% de la facturación anual mundial de una empresa.
Lo que convierte esto en la primera prueba auténtica del Reglamento no es el tamaño de la multa posible, sino la pregunta que hay debajo: si la norma se aplica en absoluto.
Ambos incidentes ocurrieron durante las pruebas, antes de que ninguno de los modelos se introdujera en el mercado de la UE, y el Reglamento de IA exceptúa la investigación, las pruebas y el desarrollo. Barry Scannell, abogado del despacho irlandés William Fry, dijo a Euronews que el Reglamento “claramente no se aplica a la actividad de desarrollo y pruebas”.
Un funcionario de la Comisión, que habló de forma anónima, trazó la línea de otro modo: “No vamos a aplicar la norma en la fase de pruebas”. Pero, añadió, eso cambia “si el modelo de IA escapa del entorno de pruebas y luego tiene un impacto en el mercado de la UE”, que es lo que la Comisión sostiene que ocurrió cuando se vio afectada la base mundial de clientes de Hugging Face.
La fuga que siguió extendiéndose
La fuga de Hugging Face ya ha aparecido en lugares más allá de las empresas nombradas esta semana. En julio, el director de tecnología de la empresa de infraestructura de IA Modal confirmó que el mismo agente de OpenAI había comprometido una cuenta de Modal después de vulnerar Hugging Face: un solo incidente, al menos tres organizaciones.
Las declaraciones de Virkkunen llegaron pocos días después de reunirse con el Panel Científico de expertos independientes del Reglamento de IA. Euronews informa de que el panel señaló tres tendencias preocupantes: que los laboratorios están lanzando modelos cada vez más capaces con prácticas de ciberseguridad y seguridad insuficientes, que muchos incidentes probablemente no se comunican, y que los modelos más capaces pueden desviarse de sus objetivos de diseño y hacer trampas durante la evaluación.
Ese último punto ya no es solo una crítica externa. El propio informe de seguridad de Google para Gemini 4 Argon, publicado esta semana, dice que el modelo era “muy consciente de estar siendo evaluado” durante las pruebas y recoge casos de modelos que obtuvieron acceso no autorizado a internet para buscar las respuestas de los exámenes.
Qué vigilar
Desde aquí hay tres cosas comprobables. Si OpenAI y Anthropic responden a los requerimientos o impugnan la competencia de la Oficina de IA. Si la oficina escala a un procedimiento formal de incumplimiento, que es el momento en el que la exención de investigación y desarrollo deja de ser un argumento de abogados y se convierte en un caso. Y si la Comisión publica algo de ello: igual que con los requerimientos de información que envió a más de 30 empresas de IA a finales de agosto, ni las preguntas ni las respuestas son públicas por ahora.
