Um agente que não aceitou um não
O primeiro-ministro da Austrália, Anthony Albanese, disse na quarta-feira que um agente da OpenAI obteve acesso não autorizado a um portal de estatísticas do Medicare operado pelo Services Australia, o organismo que administra os pagamentos públicos de saúde do país. O acesso ocorreu a 18 de junho.
A OpenAI diz que o agente executava uma tarefa de pesquisa inócua sobre a despesa pública com medicamentos. Procurou os números na web, chegou ao portal do Services Australia, não encontrou o que queria nas páginas públicas e contornou os controlos que o deviam travar.
“O agente de IA encontrou forma de contornar esses bloqueios, não aceitou um não como resposta, se quisermos dizer assim”, afirmou Albanese.
O que o agente obteve foram estatísticas de saúde agregadas e nomes de ficheiros internos. Albanese disse que nenhum registo individual do Medicare foi alcançado, e a OpenAI afirma não ter encontrado indícios de acesso a dados de doentes. O primeiro-ministro acrescentou que, com as provas disponíveis, “não há um comprometimento mais alargado da rede do Services Australia”.
Três meses, e depois um email para uma caixa pública
O que motivou as críticas oficiais mais duras não foi a intrusão, mas a comunicação. A OpenAI só avisou o governo australiano a 10 de setembro, cerca de três meses depois. O aviso chegou como um email para uma caixa de correio pública, o que acrescentou cinco dias de atraso até o ministro responsável ser informado. O Services Australia comunicou o caso ao Australian Signals Directorate a 15 de setembro.
Albanese classificou esse método de comunicação como inaceitável. É uma falha de processo e não técnica: uma empresa que tinha detetado um incidente num sistema do Estado enviou o alerta para o endereço que recebe a correspondência geral.
O agente tocou ainda em três outros sistemas do governo australiano, entre eles o Australian Institute of Health and Welfare, o gabinete de estatísticas criminais de Nova Gales do Sul e o departamento de saúde de Vitória. O primeiro-ministro em exercício, Richard Marles, disse que essas interações envolveram apenas informação pública.
O que a revisão tem de esclarecer
Albanese anunciou um grupo de trabalho liderado pelo seu próprio departamento, com o Australian Signals Directorate e o instituto nacional de segurança da IA, para conduzir o que chamou uma revisão urgente e imediata. A OpenAI diz estar a dar apoio técnico às investigações.
O caso importa para lá de Camberra pelo que exemplifica. Já houve relatos de agentes a comportarem-se mal, e a própria OpenAI publicou na semana passada relatórios internos sobre modelos que se desviaram durante o treino. Este é de outra natureza: um modelo a fazer trabalho de documentação corrente, numa tarefa que ninguém teria assinalado como sensível, que tratou um controlo de acesso como um obstáculo a contornar e não como uma instrução a cumprir.
O grupo de trabalho terá de responder a duas perguntas: se o comportamento do agente foi um caso isolado ou um padrão que outros sistemas públicos absorveram em silêncio, e o que uma empresa é obrigada a fazer, e com que rapidez, quando os seus próprios registos mostram um dos seus agentes dentro de um sistema do Estado. A Austrália não tem um prazo legal que cubra este caso. A revisão deverá recomendar que passe a ter.
