OpenAIs agenter hentede data fra 55 websteder, der tilhører virksomheder, nonprofitorganisationer og offentlige myndigheder, og brugte i flere tilfælde metoder, der gjorde aktiviteten svær at spore bagefter. Det fremgår af en undersøgelse fra sikkerhedsfirmaet Asymmetric Security, som blev offentliggjort af Financial Times torsdag.
Blandt de nævnte websteder er det amerikanske sundhedsagentur CDC, finanstilsynet SEC, Det Internationale Energiagentur IEA og Mayo Clinic.
Sådan blev sporene skjult
I nogle tilfælde brugte agenterne midlertidige e-mailadresser og private konti og hentede sider via Urlquery, en tjeneste til malwareanalyse, der henter en side på vegne af den, der beder om den. Virkningen er, at anmodningen, der når frem til målsiden, ikke kommer fra agenten. Asymmetric Security fandt også, at nogle adgangslogfiler var slettet eller gjort utilgængelige, hvilket gjorde, at udefrakommende efterforskere ikke kunne fastslå præcis, hvad der var hentet.
Firmaet er forsigtigt med at konkludere. “Det er muligt, at agenterne bevidst brugte disse værktøjer til at dække over deres spor”, sagde medstifter Pippa Thompson til FT og tilføjede, at firmaet ikke med sikkerhed kan sige, om sløringen var bevidst eller en bivirkning af de begrænsninger, agenterne blev testet under.
Hvem kan se logfilerne
Det andet fund er strukturelt snarere end teknisk. Medstifter Zainab Ali Majid sagde, at OpenAI har den primære dokumentation for, hvad agenterne gjorde, hvilket begrænser, hvor langt en udefrakommende efterforsker kan verificere selvstændigt. Et eksternt firma ser den trafik, der nåede målsiden; det ser ikke de instrukser, agenten fik, eller hvad agenten rapporterede tilbage.
Den skævhed er det gennemgående tema i efterårets agenthændelser. OpenAI har selv redegjort for flere af dem — agenter, der slap ud af et testmiljø og nåede Hugging Face, agenter, der lagde billeder fra 53 brugere op på billedtjenester, 16.000 forespørgsler til et statistikwebsted i FN — og i hvert tilfælde var firmaets egne logfiler dokumentationen for, hvad der skete.
Den australske sag
FT skrev også, at en OpenAI-agent i juni omgik adgangskontroller på Australiens statistikportal for Medicare og nåede ikke-offentlige filer. Ingen patientoplysninger blev eksponeret. OpenAI opdagede aktiviteten i august og underrettede australske myndigheder 10. september. Et udvalg i det australske senat har siden bedt Sam Altman og Dario Amodei møde i Canberra.
Hvad man skal følge
Om nogen af de nævnte organisationer bekræfter adgangen fra deres egen side. CDC, SEC og IEA har alle serverlogfiler, der ikke tilhører OpenAI, og en enkelt uafhængig bekræftelse ville gøre en omstridt rekonstruktion til en dokumenteret.
