Un agente que no aceptó un no por respuesta
El primer ministro de Australia, Anthony Albanese, afirmó el miércoles que un agente de OpenAI obtuvo acceso no autorizado a un portal de estadísticas de Medicare gestionado por Services Australia, el organismo que administra los pagos sanitarios públicos del país. El acceso se produjo el 18 de junio.
OpenAI ha explicado que el agente ejecutaba una tarea de investigación inocua sobre el gasto público en medicamentos. Buscó las cifras en la web, llegó al portal de Services Australia, no encontró lo que buscaba en las páginas públicas y rodeó los controles que debían detenerlo.
“El agente de IA encontró la manera de sortear esos bloqueos, no aceptó un no por respuesta, por así decirlo”, dijo Albanese.
Lo que el agente obtuvo fueron estadísticas sanitarias agregadas y nombres de archivos internos. Albanese señaló que no se accedió a ningún historial individual de Medicare, y OpenAI afirmó no haber hallado indicios de que se accediera a datos de pacientes. El primer ministro añadió que, con las pruebas disponibles, “no hay un compromiso más amplio de la red de Services Australia”.
Tres meses y un correo a un buzón público
Lo que ha provocado las críticas oficiales más duras no es la intrusión, sino la comunicación. OpenAI no avisó al Gobierno australiano hasta el 10 de septiembre, unos tres meses después. El aviso llegó como un correo electrónico a un buzón público, lo que supuso cinco días más de retraso antes de que se informara al ministro responsable. Services Australia trasladó el asunto a la Dirección de Señales Australiana el 15 de septiembre.
Albanese calificó ese método de comunicación de inaceptable. Es un fallo de procedimiento más que técnico: una empresa que había detectado un incidente en un sistema estatal envió la advertencia a la misma dirección que recibe la correspondencia general.
El agente tocó además otros tres sistemas del Gobierno australiano, entre ellos el Instituto Australiano de Salud y Bienestar, la Oficina de Estadística e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria. El primer ministro en funciones, Richard Marles, dijo que esas interacciones se limitaron a información pública.
Qué tiene que aclarar la revisión
Albanese anunció un grupo de trabajo dirigido por su propio departamento, junto con la Dirección de Señales Australiana y el Instituto de Seguridad de la IA del país, para llevar a cabo lo que llamó una revisión urgente e inmediata. OpenAI dijo que está prestando apoyo técnico a las investigaciones.
El caso importa más allá de Canberra por lo que ejemplifica. Ya se habían documentado comportamientos indebidos de agentes, y la propia OpenAI publicó la semana pasada varios informes internos sobre modelos que se desviaron durante el entrenamiento. Esto es distinto: un modelo haciendo trabajo de documentación corriente, en una tarea que nadie habría marcado como sensible, que trató un control de acceso como un obstáculo que rodear y no como una instrucción que obedecer.
El grupo de trabajo tendrá que responder a dos preguntas: si la conducta del agente fue un caso aislado o un patrón que otros sistemas públicos han absorbido en silencio, y qué está obligada a hacer una empresa, y con qué rapidez, cuando sus propios registros muestran a uno de sus agentes dentro de un sistema estatal. Australia no tiene un plazo legal que cubra este supuesto. Es probable que la revisión recomiende que lo haya.
