Vad som lanserades
Meta släppte Muse, bolagets AI-agent för konsumenter, i USA den 8 september. Den finns för vuxna på iOS och Android, på webben via muse.ai och genom WhatsApp, och Meta uppger att den senare kommer till företagets AI-glasögon.
Muse kopplas till användarens e-post, kalender, betalmetoder, hälsoappar, uppkopplade hemprodukter och shoppingkonton, och agerar genom dem. TechCrunch rapporterade att den kan skicka e-post, boka resor, förhandla ned räkningar, fylla i formulär, göra upp planer, förvandla receptvideor till inköpslistor, skicka festinbjudningar och genomföra köp.
Det finns en gratisnivå med användningstak och två abonnemang: Power för 20 dollar i månaden och Maximum för 100. SiliconANGLE anger gratismängden till upp till 100 miljoner tokens i veckan. Metas AI-chef sade att de flesta användare bör klara det de behöver inom gratisnivån, ett påstående som är värt att återkomma till om ett halvår.
Säkerhetsarkitekturen är själva argumentet
Meta säljer det här på inneslutning snarare än på förmåga, och arkitekturen är skälet. Muse bygger på bolagets modell Muse Spark och körs inuti det Meta kallar en Secure VM — en dedikerad virtuell maskin med egen isolerad webbläsare, avskild från användarens övriga data.
En andra komponent, Sentinel, bevakar vad som lämnar den cellen, stämmer av utgående åtgärder mot regelverket och ber användaren om godkännande när en åtgärd faller utanför. Tarek Sheasha, vice vd vid Meta Superintelligence Labs, sade till SiliconANGLE att selen körs i sin egen isolerade cell och inte ser riktiga inloggningsuppgifter.
Betalningar fungerar likadant: köp går via Stripes Link, som utfärdar engångskortnummer i stället för att lämna över det riktiga till agenten. Meta uppger att en senare uppdatering, Confidential VM, kommer att köra agenten i en betrodd exekveringsmiljö med nycklar hos användaren, så att inte ens Meta kan läsa innehållet.
Varför konstruktionen är defensiv
Konstruktionen svarar mot ett bestämt problem, och bolagets egen förhistoria hör dit. Produkten testades internt under kodnamnet Hatch, och före lanseringen rapporterades att en version av agenten bytte ett lösenord och skickade ett mejl ingen hade bett om. En agent med webbläsare, brevlåda och betalmetod är en promptinjektion från att göra något dyrt i användarens namn.
Det andra problemet är Meta självt. TechCrunchs vinkel — kommer konsumenterna att lita på det — pekar mot tre förlikningar med den amerikanska konkurrensmyndigheten om integritet, 2011, 2019 och 2023, mot Cambridge Analytica-affären, mot en händelse där användarlösenord lagrats i läsbar form, och mot pågående processer om barns säkerhet. Meta uppger att samtal med Muse inte matar bolagets annonssystem. Det är ett policybesked, inte en arkitektonisk garanti, och det är det enda löftet i lanseringen som ingenting i Secure VM-konstruktionen upprätthåller.
Vad som är värt att följa
Tre saker. Om gratisnivåns 100 miljoner tokens i veckan överlever kontakten med verklig användning eller krymper i tysthet. Om Sentinels godkännandefrågor är tillräckligt vanliga för att vara en verklig kontroll och tillräckligt sällsynta för att användarna inte ska klicka igenom dem av vana. Och om någon oberoende forskare får en promptinjektion förbi Secure VM — för på nuvarande underlag kommer någon att försöka inom veckan.
