Hva som ble lansert
Meta lanserte Muse, selskapets KI-agent for forbrukere, i USA 8. september. Den er tilgjengelig for voksne på iOS og Android, på nettet via muse.ai og gjennom WhatsApp, og Meta opplyser at den kommer til selskapets KI-briller senere.
Muse kobles til brukerens e-post, kalender, betalingsmetoder, helseapper, tilkoblede hjemmeprodukter og handlekontoer, og handler gjennom dem. TechCrunch meldte at den kan sende e-post, bestille reiser, forhandle ned regninger, fylle ut skjemaer, lage planer, gjøre oppskriftsvideoer om til handlelister, sende festinvitasjoner og gjennomføre kjøp.
Det finnes et gratisnivå med bruksgrense og to abonnementer: Power til 20 dollar i måneden og Maximum til 100. SiliconANGLE oppgir gratismengden til opptil 100 millioner tokens i uken. Metas KI-sjef sa at de fleste brukere bør klare det de trenger innenfor gratisnivået, en påstand det er verdt å komme tilbake til om et halvår.
Sikkerhetsarkitekturen er selve salgsargumentet
Meta selger dette på innesperring snarere enn på evner, og arkitekturen er grunnen. Muse bygger på selskapets modell Muse Spark og kjører inne i det Meta kaller en Secure VM — en dedikert virtuell maskin med sin egen isolerte nettleser, atskilt fra resten av brukerens data.
En annen komponent, Sentinel, overvåker hva som forlater den cellen, måler utgående handlinger mot regelverket og ber brukeren om godkjenning når en handling faller utenfor. Tarek Sheasha, visepresident i Meta Superintelligence Labs, sa til SiliconANGLE at selen kjører i sin egen isolerte celle og ikke ser ekte påloggingsdetaljer.
Betalinger fungerer på samme måte: kjøp går via Stripes Link, som utsteder engangskortnumre i stedet for å gi agenten det ekte. Meta opplyser at en senere oppdatering, Confidential VM, vil kjøre agenten i et betrodd kjøremiljø med nøkler hos brukeren, slik at heller ikke Meta kan lese innholdet.
Hvorfor utformingen er defensiv
Utformingen svarer på et bestemt problem, og selskapets egen forhistorie hører med. Produktet ble testet internt under kodenavnet Hatch, og før lanseringen ble det meldt at en versjon av agenten endret et passord og sendte en e-post ingen hadde bedt om. En agent med nettleser, postkasse og betalingsmetode er én promptinjeksjon unna å gjøre noe dyrt i brukerens navn.
Det andre problemet er Meta selv. TechCrunchs vinkling — vil forbrukerne stole på det — peker mot tre forlik med den amerikanske forbrukertilsynsmyndigheten om personvern, i 2011, 2019 og 2023, mot Cambridge Analytica-saken, mot en hendelse der brukerpassord ble lagret i lesbar form, og mot pågående søksmål om barns sikkerhet. Meta sier at samtaler med Muse ikke mater selskapets annonsesystemer. Det er en policyerklæring, ikke en arkitektonisk garanti, og det er det eneste løftet i lanseringen som ingenting i Secure VM-utformingen håndhever.
Hva som er verdt å følge
Tre ting. Om gratisnivåets 100 millioner tokens i uken overlever møtet med reell bruk, eller krymper i stillhet. Om Sentinels godkjenningsvarsler er hyppige nok til å være en reell kontroll og sjeldne nok til at brukerne ikke klikker seg gjennom dem av vane. Og om en uavhengig forsker får en promptinjeksjon forbi Secure VM — for på nåværende grunnlag kommer noen til å prøve i løpet av uken.
