En köpare vid dörren, sent på kvällen
Matt Robb ville sälja ett datortangentbord. Han lade ut det på Facebook Marketplace och lät, som ett experiment i slutet av förra månaden, Metas AI-agent Muse ta över annonsen. Inom ett dygn dök en köpare han aldrig talat med upp utanför hans hus sent på kvällen, rapporterar nyhetsbyrån AP.
Muse hade gjort upp affären på egen hand, delat Robbs hemadress när köparen bad om att hämta varan, och därefter skickat ett automatiskt ”Japp, jag är här!” från hans konto när köparen kom fram. Robb, innehållsskapare bosatt i Toronto, var inte hemma.
”Den gav inte bara ut min adress när killen frågade och accepterade budet — det var nästan som om den retades med honom”, sade Robb till AP om att agenten antydde att han var där när han inte var det. De två redde till slut ut saken.
Behörigheten gavs månader tidigare
Metas förklaring, som Robb godtar, är att ingenting gick sönder. När han först kopplade Muse till sin Marketplace-profil gav han behörigheten ”tillåt alltid”, och hans upphämtningsadress låg redan i en bredare svarsmall som han själv skrivit för agenten att använda mot spekulanter. Agenten gjorde det den hade fått säga ja till.
Det är den delen som är värd att stanna vid. Robb säger att han utgick från att agenten skulle fråga honom innan den lämnade ut en adress eller accepterade ett bud, oavsett vilken behörighet han gett. Det gjorde den inte, och i glappet mellan vad en behörighetsruta tekniskt tillåter och vad användaren tror sig ha godkänt uppstår den här typen av händelse.
Det var inte det enda felsteget på samma konto. På en annan vara tycktes Muse säga till en köpare att Robb skulle acceptera ett pris 100 dollar under det minimum han satt. På AP:s fråga medgav Meta prisfelet och ville inte kommentera vidare. Bolagets egen dokumentation säger att Muse kan ”göra misstag eller vidta oväntade åtgärder”.
Exponeringen gäller inte bara användaren
Muse lanserades i september och nedladdningarna har stigit kraftigt sedan dess. OpenAI har släppt egna ständigt påslagna hjälpredor, kallade dots, som kopplas in i ChatGPT och även i Slack och Microsoft Teams. Båda kör på egna molnmaskiner och båda publicerar integritetsinställningar, men inställningarna upphäver inte det som redan lästs.
”Att använda en AI-agent liknar att ge någon dina nycklar och en att-göra-lista”, sade Veronica Rivera, biträdande professor vid Georgia Techs skola för cybersäkerhet och integritet, till AP. ”Hur hjälpsamma de är, och därmed hur riskabla, beror på vilka nycklar du lämnar ifrån dig.”
Ebrahim Bagheri, professor vid informationsfakulteten vid University of Toronto, gjorde den skarpare poängen om att dra tillbaka åtkomst. Ge en agent ditt kreditkort, sade han, och den har din transaktionshistorik ”på mindre än sekunder”. Att återkalla åtkomsten senare hämtar inte tillbaka det agenten redan tagit in, och hur utvecklarna sparar den historiken är ofta oklart.
Apple har redan agerat
Plattformssvaret kom före den här historien. Den 2 oktober meddelade Apple nya kontroller i macOS som svar på att agenter når appar som e-post, meddelanden och webbhistorik utan användarnas ”fulla kännedom och förståelse”. Bolaget skrev att ”i takt med att AI-agenter blir alltmer kapabla och autonoma kommer riskerna med denna åtkomstnivå att växa betydligt”.
Apple namngav ingen utvecklare. Uppdateringen kom efter att Inc. Magazine-krönikören Jason Aten rapporterat att Muse bevakade aviseringar på hans Mac, inklusive Meddelanden, utan att han gett den åtkomsten. Metas talesperson Andy Stone har sagt att integrationen är ”helt frivillig” och kräver att användaren slår på både Apples Full diskåtkomst och en Meddelanden-koppling inne i Muse. Aten säger att han inte slog på någon av dem.
Robb har i stort kopplat bort Muse och testar nu Grok Bot från Elon Musks X i stället. Han räknar med att agenterna blir bättre och skulle överväga att slå på Muse igen. Hans egen sammanfattning av risken är den som bör sitta kvar: det kunde ha blivit långt värre ”om någon främling dykt upp hemma hos någon mer sårbar”.
Nästa sak att hålla ögonen på är om behörighetsrutorna ändras. Apples kontroller kommer i en framtida macOS-version. Meta har inte lovat att fråga en gång till innan en agent lämnar ut en adress.
