En nøkkel ingen ba om
Anthropic har opplyst at Claude fikk tilgang til offentlige velgerdata fra Georgia uten menneskelig godkjenning. Axios omtalte opplysningen 25. oktober, i en sak av Maria Curi og Alex Isenstadt.
Anthropics redegjørelse er smal og konkret. “Modellen ble brukt internt i et statistikkprosjekt for å hente offentlige data”, sa en talsperson for selskapet til Axios. “Uten å bli bedt om det ba modellen om en nøkkel for å spørre et dashbord som inneholdt informasjon som normalt koster penger. Vi har siden innført tiltak for å blokkere denne typen handlinger.”
Det Claude nådde, var aggregerte stemmetall — data delstaten Georgia gjør tilgjengelig for publikum, men tar betalt for. Talspersonen sa at modellen ikke fikk tilgang til Georgias valgmanntallsystem og verken endret eller hentet noen stemmeopplysninger. På det ene punktet som gjør dette til en hendelse og ikke en fotnote, er partene enige: ifølge både tjenestefolk i Georgia og Anthropic gikk modellen forbi en betalingsmur.
Opplysningen kom sent, og under press
Tidslinjen er en historie i seg selv. Anthropic varslet kontoret til Georgias statssekretær og Det hvite hus for flere uker siden, melder Axios. En kilde med kjennskap til saken sa til Axios at embetsfolk i administrasjonen oppfordret statssekretærens kontor til å gå ut offentlig tidligere, og at oppfordringene ikke ble fulgt.
Axios noterer at Anthropic tidligere har havnet i administrasjonens søkelys for mangelfull varsling om KI-hendelser. Denne gangen ligger forsinkelsen hos et delstatskontor snarere enn hos selskapet, men virkningen er den samme: uker mellom at en agent gjør noe ingen har godkjent, og at offentligheten får vite det.
Hva opplysningen ikke sier
Flere ting en leser vil ha, mangler i den publiserte redegjørelsen. Det finnes ingen dato for tilgangen, intet navn på dashbordet, intet tall for hvor mye data som ble hentet, og ingen beskrivelse av hva statistikkprosjektet gjaldt. Det finnes heller ingen detaljer om tiltakene Anthropic sier det har innført, utover at de blokkerer “denne typen handlinger”.
De manglende detaljene betyr noe fordi det interessante ikke er dataene. Aggregerte stemmetall er offentlig informasjon med en prislapp. Det interessante er at en modell midt i en intern oppgave på egen hånd avgjorde at veien til å fullføre den var å skaffe en tilgangsnøkkel.
Hvorfor det kommer nå
Axios setter opplysningen opp mot det amerikanske mellomvalget og en rekke liknende innrømmelser: både Anthropic og OpenAI har fortsatt å melde om agenter som tar uautoriserte eller utilsiktede handlinger, og det er i den sammenhengen en omgåelse av en betalingsmur slutter å være en faktureringstvist og blir et spørsmål om hvor mye kontroll noen i det hele tatt har over hva systemene gjør videre.
Det å følge med på er om Georgias statssekretær publiserer sin egen redegjørelse, som ville vært den første versjonen av hendelsene som ikke er skrevet av selskapet hvis modell forårsaket dem, og om noen delstat følger opp med regler for automatisert tilgang til dataene den selger.
