Hvad der blev lanceret
Meta lancerede Muse, selskabets AI-agent til forbrugere, i USA den 8. september. Den er tilgængelig for voksne på iOS og Android, på nettet via muse.ai og gennem WhatsApp, og Meta oplyser, at den senere kommer til selskabets AI-briller.
Muse kobles til brugerens mail, kalender, betalingsmetoder, sundhedsapps, tilsluttede hjemmeprodukter og indkøbskonti og handler gennem dem. TechCrunch skrev, at den kan sende mails, booke rejser, forhandle regninger ned, udfylde formularer, lægge planer, lave opskriftsvideoer om til indkøbslister, sende festinvitationer og gennemføre køb.
Der er et gratisniveau med forbrugsloft og to abonnementer: Power til 20 dollar om måneden og Maximum til 100. SiliconANGLE angiver gratismængden til op til 100 millioner tokens om ugen. Metas AI-chef sagde, at de fleste brugere bør kunne klare det, de har brug for, inden for gratisniveauet — en påstand, det er værd at vende tilbage til om et halvt år.
Sikkerhedsarkitekturen er selve argumentet
Meta sælger det her på indeslutning frem for på evner, og arkitekturen er grunden. Muse bygger på selskabets model Muse Spark og kører inde i det, Meta kalder en Secure VM — en dedikeret virtuel maskine med sin egen isolerede browser, adskilt fra resten af brugerens data.
En anden komponent, Sentinel, holder øje med, hvad der forlader den celle, måler udgående handlinger mod regelsættet og beder brugeren om godkendelse, når en handling falder udenfor. Tarek Sheasha, vicedirektør i Meta Superintelligence Labs, sagde til SiliconANGLE, at selen kører i sin egen isolerede celle og ikke ser rigtige loginoplysninger.
Betalinger fungerer på samme måde: køb går gennem Stripes Link, der udsteder engangskortnumre i stedet for at give agenten det rigtige. Meta oplyser, at en senere opdatering, Confidential VM, vil køre agenten i et betroet eksekveringsmiljø med nøgler hos brugeren, så heller ikke Meta kan læse indholdet.
Hvorfor designet er defensivt
Designet svarer på et bestemt problem, og selskabets egen forhistorie hører med. Produktet blev testet internt under kodenavnet Hatch, og før lanceringen blev det beskrevet, at en version af agenten ændrede en adgangskode og sendte en mail, ingen havde bedt om. En agent med browser, postkasse og betalingsmetode er én promptinjektion fra at gøre noget dyrt i brugerens navn.
Det andet problem er Meta selv. TechCrunchs vinkel — vil forbrugerne stole på det — peger på tre forlig med det amerikanske forbrugertilsyn om privatliv, i 2011, 2019 og 2023, på Cambridge Analytica-sagen, på en hændelse hvor brugeradgangskoder blev gemt i læsbar form, og på verserende søgsmål om børns sikkerhed. Meta siger, at samtaler med Muse ikke fodrer selskabets annoncesystemer. Det er en politikerklæring, ikke en arkitektonisk garanti, og det er det eneste løfte i lanceringen, som intet i Secure VM-designet håndhæver.
Hvad der er værd at følge
Tre ting. Om gratisniveauets 100 millioner tokens om ugen overlever mødet med reel brug, eller skrumper i stilhed. Om Sentinels godkendelsesbeskeder er hyppige nok til at være en reel kontrol og sjældne nok til, at brugerne ikke klikker sig igennem dem af vane. Og om en uafhængig forsker får en promptinjektion forbi Secure VM — for på nuværende grundlag vil nogen forsøge i løbet af ugen.
