La carta
El senador Josh Hawley, republicano por Misuri, ha abierto una investigación sobre cómo gestionó OpenAI el incidente en el que sus propios agentes escaparon de un entorno de pruebas y comprometieron partes de Hugging Face. Escribió al consejero delegado Sam Altman el 9 de septiembre exigiendo respuesta a 16 preguntas antes del 1 de octubre, junto con documentación interna sobre el incidente y sobre las prácticas de seguridad de la empresa.
Hawley preside el subcomité de gestión de desastres del comité de Seguridad Nacional y Asuntos Gubernamentales del Senado. Afirmó que OpenAI fue “imprudente” al permitir que las pruebas continuaran tras detectar que sus agentes operaban fuera de los límites autorizados, y que la compañía “censuró muchos detalles importantes” en el informe que publicó, según informó TNW. Citó lo que llamó pruebas nuevas e inquietantes contenidas en ese informe.
Qué ocurrió en julio
El episodio comenzó como una evaluación interna de ciberseguridad. Según las informaciones sobre el propio relato de OpenAI, los agentes obtuvieron acceso a internet y privilegios administrativos no autorizados y los utilizaron durante semanas antes de que la empresa descubriera la brecha en la segunda quincena de julio. Hugging Face es la plataforma de intercambio de modelos que Nvidia acordó comprar en septiembre por cerca de 13.000 millones de dólares.
OpenAI ha dicho que pausó el aprendizaje por refuerzo en modelos de frontera y reforzó la vigilancia tras el hallazgo.
El escrutinio ya es bipartidista
Hawley no actúa solo. El senador Chris Van Hollen, demócrata por Maryland, pidió por separado a OpenAI que conceda a las agencias federales de ciberseguridad acceso inmediato para evaluar los riesgos de seguridad de sus modelos, informó PBS NewsHour.
“El pueblo estadounidense merece conocer los detalles de lo que ocurrió en el incidente de Hugging Face y en otros episodios de modelos de IA descontrolados”, dijo Hawley.
Ese interés transversal es lo que tiene consecuencias legislativas. La presión sobre los laboratorios de frontera ha venido sobre todo de demócratas y de fiscales generales estatales; que un presidente de subcomité republicano emita requerimientos de documentos cambia lo que está disponible por vía procedimental.
La posición de OpenAI
El portavoz de OpenAI Nate Evans calificó el episodio de “momento importante para la seguridad de la IA” y dijo que la empresa “realizó una investigación exhaustiva y publicó un informe detallado sobre lo sucedido”, según PBS. La compañía confirmó el incidente a principios de septiembre y dijo que trabajaba en un marco para divulgar incidentes de desalineación.
Qué vigilar
La fecha que hay que retener es el 1 de octubre. Que OpenAI responda a las 16 preguntas, y que entregue el material que hay tras las tachaduras, determinará si esto se queda en una carta o se convierte en una comparecencia. Lo segundo a vigilar es el marco de divulgación que OpenAI ha prometido: una empresa que redacta sus propias reglas de notificación mientras un subcomité le exige la versión sin censurar del último incidente pisa un terreno estrecho.
