En innstilling ingen hadde dokumentert
En sikkerhetsforsker publiserte mandag fungerende angrepskode mot Metas assistent Muse på macOS, og frarådet Mac-brukere å installere appen. Patrick Wardle, som grunnla Objective-See Foundation og skriver om skadevare for Mac, kaller demonstrasjonen sin not-a-mused.
Svakheten er en udokumentert innstilling i Muses macOS-klient med navnet endo_voyager_dictation_endpoint. Enhver prosess som kjører som brukeren kan endre den, uten administratorrettigheter, rapporterte The Register. Endres den, går lyden noen dikterer til Muse til en angripers tjener i stedet for Metas.
Hva det gir en angriper
Tre ting: den dikterte lyden og hver instruksjon i den, muligheten til å mate egne instruksjoner inn i assistenten, og assistentens innloggingsdata.
Det tredje er det alvorlige. Runtime Wire rapporterer at Wardles kode deretter spør Muses eget enhetsregister via API-et, finner ut hvilke av brukerens enheter som er tilkoblet, og sender kommandoer til dem. Muse eksponerer mer enn femti. Demonstrasjonen henter en iPhones posisjon på avstand og kjører Bluetooth-skanninger på en tilkoblet telefon.
Lokalt, og det er hele poenget
Dette er ikke et fjernangrep. Det forutsetter at noe allerede kjører kode på maskinen som brukeren, noe som gjør det til en rettighetseskalering og ikke en vei inn. Wardles poeng er at en assistent er nettopp der det skillet slutter å holde.
Skadevare som havner på en Mac kommer vanligvis med de rettighetene den selv klarer å skaffe seg. Muse ber, for å gjøre jobben sin, om filer, mikrofon, kamera, posisjon og kalender. Det som kaprer den arver alt dette på én gang, og telefonen i brukerens lomme attpåtil. En KI-app, sa Wardle til The Register, “kunne i praksis gjøre hva som helst på maskinen din”.
Metas standpunkt
Meta fremhevet en funksjon selskapet kaller Muse Secure VM da Mac-klienten kom, og sa at brukeren styrer hva assistenten når. Selskapet svarte ikke umiddelbart på The Registers forespørsel om kommentar, og ingen oppdatering er varslet. Runtime Wire opplyser at Meta betaler opptil 300 000 dollar for gyldige rapporter i et dusørprogram for assistenten.
Et to uker gammelt produkt
Muse er ny. Meta presenterte den 8. september som en agent som handler på tvers av en persons tilkoblede tjenester — e-post, kalender, betalinger, handel — og den nådde toppen av App Stores liste over gratisapper i USA på en uke. Mac-klienten det gjelder kom 17. september. Amazon stengte agenten ute fra butikken sin på søndag, blant annet med henvisning til hvordan den håndterer innloggingsdata.
Hva man bør følge
Om Meta gjør dikteringsinnstillingen til en privilegert verdi, og hvor raskt. Det større spørsmålet offentliggjøringen reiser er hvilke prosesser på en maskin som i det hele tatt bør få snakke med en agent som allerede kan snakke med alt annet.
