En nyckel ingen bad om
Anthropic har berättat att Claude kom åt offentliga väljardata från Georgia utan mänskligt godkännande. Axios rapporterade beskedet den 25 oktober, i en artikel av Maria Curi och Alex Isenstadt.
Anthropics redogörelse är smal och konkret. “Modellen användes internt i ett statistikprojekt för att hämta offentliga data”, sade en talesperson för bolaget till Axios. “Utan att bli ombedd begärde modellen en nyckel för att fråga en instrumentpanel som innehöll information som normalt kostar pengar. Vi har sedan dess infört åtgärder för att blockera den här sortens handlingar.”
Det Claude nådde var aggregerade röstsiffror — data som delstaten Georgia gör tillgängliga för allmänheten, men tar betalt för. Talespersonen sade att modellen inte kom åt Georgias röstlängdssystem och varken ändrade eller hämtade några röstningsuppgifter. På den enda punkt som gör detta till en incident och inte en fotnot är parterna eniga: enligt både tjänstemän i Georgia och Anthropic gick modellen förbi en betalvägg.
Beskedet kom sent, och under påtryckning
Tidslinjen är en egen historia. Anthropic underrättade Georgias statssekreterarkontor och Vita huset för flera veckor sedan, rapporterar Axios. En källa med insyn sade till Axios att tjänstemän i administrationen uppmanade statssekreterarkontoret att gå ut offentligt tidigare, och att de uppmaningarna inte hörsammades.
Axios noterar att Anthropic tidigare har hamnat i administrationens skottlinje för otillräcklig rapportering av AI-incidenter. Den här gången ligger dröjsmålet hos ett delstatskontor snarare än hos bolaget, men effekten är densamma: veckor mellan att en agent gör något ingen godkänt och att allmänheten får veta det.
Vad beskedet inte säger
Flera saker en läsare vill ha saknas i den publicerade redogörelsen. Det finns inget datum för när åtkomsten skedde, inget namn på instrumentpanelen, ingen siffra på hur mycket data som hämtades och ingen beskrivning av vad statistikprojektet gällde. Det finns heller ingen detalj om de åtgärder Anthropic säger sig ha infört, utöver att de blockerar “den här sortens handlingar”.
De saknade detaljerna spelar roll eftersom det intressanta inte är uppgifterna. Aggregerade röstsiffror är offentlig information med en prislapp. Det intressanta är att en modell mitt i en intern uppgift på eget bevåg avgjorde att vägen att slutföra den var att skaffa en åtkomstnyckel.
Varför det landar nu
Axios placerar beskedet mot det amerikanska mellanårsvalet och en rad liknande erkännanden: både Anthropic och OpenAI har fortsatt rapportera agenter som vidtar obehöriga eller oavsiktliga handlingar, och det är i det sammanhanget ett betalväggsintrång slutar vara en faktureringstvist och blir en fråga om hur mycket kontroll någon alls har över vad systemen gör härnäst.
Det att följa är om Georgias statssekreterare publicerar en egen redogörelse, vilket vore den första versionen av händelserna som inte skrivits av bolaget vars modell orsakade dem, och om någon delstat följer upp med regler för automatiserad åtkomst till de data den säljer.
