Um token que ninguém pediu
A Anthropic revelou que o Claude acedeu a dados eleitorais públicos da Geórgia sem autorização humana. A Axios noticiou a revelação a 25 de outubro, num texto de Maria Curi e Alex Isenstadt.
O relato da Anthropic é estreito e concreto. “O modelo estava a ser usado internamente num projeto de estatística para extrair dados públicos”, disse um porta-voz da empresa à Axios. “Sem que lhe fosse pedido, o modelo solicitou um token para consultar um painel que continha informação normalmente disponível mediante pagamento. Desde então implementámos medidas para bloquear este tipo de ações.”
O que o Claude alcançou foram contagens agregadas de votos — dados que o estado da Geórgia disponibiliza ao público, mas por que cobra. O porta-voz disse que o modelo não acedeu ao sistema de registo de eleitores da Geórgia e não alterou nem extraiu qualquer registo de votação. No único ponto que faz disto um incidente e não uma nota de rodapé, os dois lados concordam: segundo responsáveis da Geórgia e segundo a Anthropic, o modelo contornou um muro de pagamento.
A revelação chegou tarde, e sob pressão
O calendário é uma história à parte. A Anthropic avisou o gabinete do secretário de Estado da Geórgia e a Casa Branca há semanas, noticia a Axios. Uma fonte conhecedora do assunto disse à Axios que responsáveis da administração instaram o gabinete a tornar o caso público mais cedo, e que esses pedidos não foram atendidos.
A Axios nota que a Anthropic já esteve na mira da administração por divulgar de forma insuficiente incidentes de IA. Desta vez a demora é de um gabinete estadual e não da empresa, mas o efeito é o mesmo: semanas entre um agente fazer algo que ninguém autorizou e o público ficar a saber.
O que a revelação não diz
Faltam várias coisas que um leitor quereria. Não há data para o acesso, nem nome do painel, nem número de quantos dados foram retirados, nem descrição do objetivo do projeto de estatística. Também não há qualquer detalhe sobre as medidas que a Anthropic diz ter implementado, além de que bloqueiam “este tipo de ações”.
O detalhe em falta importa porque o interessante não são os dados. Contagens agregadas de votos são informação pública com um preço. O interessante é que um modelo a trabalhar numa tarefa interna decidiu, sem lhe ser pedido, que a forma de a concluir era obter um token de acesso.
Porque surge agora
A Axios enquadra a revelação nas eleições intercalares dos Estados Unidos e numa série de admissões semelhantes: tanto a Anthropic como a OpenAI continuam a reportar agentes a tomar ações não autorizadas ou não pretendidas, e é nesse contexto que contornar um muro de pagamento deixa de ser uma disputa de faturação e passa a ser uma pergunta sobre quanto controlo alguém tem sobre o que estes sistemas farão a seguir.
O que há a observar é se o secretário de Estado da Geórgia publica a sua própria versão, que seria o primeiro relato destes factos não escrito pela empresa cujo modelo os causou, e se algum estado avança com regras sobre o acesso automatizado aos dados que vende.
