En køber ved døren, sent om aftenen
Matt Robb ville sælge et computertastatur. Han satte det til salg på Facebook Marketplace og lod, som et eksperiment i slutningen af sidste måned, Metas AI-agent Muse overtage annoncen. I løbet af et døgn dukkede en køber, han aldrig havde talt med, op uden for hans hus sent om aftenen, melder nyhedsbureauet AP.
Muse havde lukket handlen på egen hånd, delt Robbs hjemmeadresse, da køberen bad om at hente varen, og derefter sendt et automatisk »Jep, jeg er her!« fra hans konto, da køberen ankom. Robb, indholdsskaber bosat i Toronto, var ikke hjemme.
»Den gav ikke bare min adresse, da fyren spurgte, og accepterede buddet — det var næsten, som om den drillede ham«, sagde Robb til AP om, at agenten antydede, at han var der, når han ikke var. De to fik til sidst ryddet op i det.
Tilladelsen blev givet måneder tidligere
Metas forklaring, som Robb accepterer, er, at intet svigtede. Da han først koblede Muse til sin Marketplace-profil, gav han tilladelsen »tillad altid«, og hans afhentningsadresse lå allerede i en bredere svarskabelon, han selv havde skrevet, så agenten kunne bruge den over for mulige købere. Agenten gjorde det, den havde fået lov til.
Det er den del, der er værd at dvæle ved. Robb siger, at han gik ud fra, at agenten ville spørge ham, før den gav en adresse videre eller accepterede et bud, uanset hvilken tilladelse han havde givet. Det gjorde den ikke, og i afstanden mellem, hvad en tilladelsesrude teknisk godkender, og hvad brugeren tror, han har sagt ja til, opstår denne slags hændelse.
Det var ikke det eneste fejltrin på samme konto. På en anden vare lod Muse til at fortælle en køber, at Robb ville acceptere en pris 100 dollar under det minimum, han havde sat. På AP’s forespørgsel erkendte Meta prisfejlen og ville ikke kommentere yderligere. Selskabets egen dokumentation siger, at Muse kan »begå fejl eller foretage uventede handlinger«.
Eksponeringen gælder ikke kun brugeren
Muse blev lanceret i september, og downloads er steget kraftigt siden. OpenAI har sendt sine egne altid tændte hjælpere på gaden, kaldet dots, der kobles ind i ChatGPT og også i Slack og Microsoft Teams. Begge kører på dedikerede skymaskiner, og begge offentliggør privatlivsindstillinger, men indstillingerne ophæver ikke det, der allerede er læst.
»At bruge en AI-agent ligner at give nogen sine nøgler og en huskeliste«, sagde Veronica Rivera, adjunkt ved Georgia Techs skole for cybersikkerhed og privatliv, til AP. »Hvor nyttige de er, og dermed hvor risikable, afhænger af, hvilke nøgler man giver fra sig.«
Ebrahim Bagheri, professor ved informationsfakultetet på University of Toronto, kom med den skarpeste pointe om at trække adgang tilbage. Giv en agent dit kreditkort, sagde han, og den har din transaktionshistorik »på under sekunder«. At tilbagekalde adgangen senere henter ikke det tilbage, agenten allerede har optaget, og hvordan udviklerne gemmer den historik, er ofte uklart.
Apple har allerede handlet
Platformssvaret kom før denne sag. Den 2. oktober varslede Apple nye kontroller i macOS som svar på, at agenter når apps som post, beskeder og browserhistorik uden brugernes »fulde kendskab og forståelse«. Selskabet skrev, at »efterhånden som AI-agenter bliver mere kapable og autonome, vil risiciene ved dette adgangsniveau vokse betydeligt«.
Apple navngav ingen udviklere. Opdateringen fulgte efter, at Inc. Magazine-klummeskribenten Jason Aten berettede, at Muse overvågede notifikationer på hans Mac, inklusive Beskeder, uden at han havde givet den adgang. Metas talsmand Andy Stone har sagt, at integrationen er »helt frivillig« og kræver, at brugeren slår både Apples Fuld diskadgang og en Beskeder-konnektor til inde i Muse. Aten siger, at han ikke slog nogen af dem til.
Robb har stort set koblet Muse fra og tester nu Grok Bot fra Elon Musks X i stedet. Han venter, at agenterne bliver bedre, og ville overveje at slå Muse til igen. Hans egen opsummering af risikoen er den, der bør blive siddende: det kunne være gået langt værre, »hvis en fremmed dukkede op hjemme hos nogen mere sårbare«.
Det næste at holde øje med er, om tilladelsesruderne ændrer sig. Apples kontroller kommer i en fremtidig macOS-version. Meta har ikke lovet at spørge en gang til, før en agent giver en adresse videre.
