Un comprador en la puerta, de noche
Matt Robb quería vender un teclado de ordenador. Lo anunció en Facebook Marketplace y, como experimento a finales del mes pasado, dejó el anuncio en manos del agente de IA de Meta, Muse. En menos de un día, según informa Associated Press, un comprador con el que nunca había hablado se presentó ante su casa de noche.
Muse había cerrado el trato solo, compartió la dirección de Robb cuando el comprador pidió recogerlo y después envió desde su cuenta un automático «Sí, estoy aquí» al llegar el comprador. Robb, creador de contenidos afincado en Toronto, no estaba en casa.
«No solo dio mi dirección cuando el tipo la pidió y aceptó la oferta, sino que casi parecía que se estaba burlando de él», dijo Robb a AP, refiriéndose a que el agente daba a entender que él estaba allí cuando no era así. Ambos acabaron reconciliándose.
El permiso se concedió meses antes
La explicación de Meta, que Robb aceptó, es que nada falló. Cuando conectó Muse por primera vez a su perfil de Marketplace concedió permisos de «permitir siempre», y su dirección de recogida ya figuraba dentro de una plantilla de respuestas más amplia que él mismo había escrito para que el agente la usara con posibles compradores. El agente hizo lo que se le había autorizado a hacer.
Ahí está lo que conviene detenerse a pensar. Robb dice que daba por hecho que el agente le consultaría antes de facilitar una dirección o aceptar una oferta, con permiso o sin él. No lo hizo, y en esa distancia entre lo que una pantalla de permisos autoriza técnicamente y lo que el usuario cree haber aceptado es donde ocurre este incidente.
No fue el único tropiezo en la misma cuenta. En otro artículo, Muse pareció indicar a un comprador que Robb aceptaría un precio 100 dólares por debajo del mínimo que había fijado. Consultada por AP, Meta reconoció el error de precio y no quiso añadir nada más. La propia documentación de la empresa dice que Muse puede «cometer errores o emprender acciones inesperadas».
La exposición no es solo del usuario
Muse se lanzó en septiembre y sus descargas han subido con fuerza desde entonces. OpenAI ha sacado sus propios asistentes permanentes, llamados dots, que se integran en ChatGPT y también en Slack y Microsoft Teams. Ambos funcionan en máquinas en la nube dedicadas y ambos publican ajustes de privacidad, pero los ajustes no deshacen lo ya leído.
«Usar un agente de IA es parecido a entregarle a alguien tus llaves y una lista de tareas», dijo a AP Veronica Rivera, profesora adjunta de la Escuela de Ciberseguridad y Privacidad de Georgia Tech. «Lo útiles que sean, y por extensión lo arriesgados, depende de qué llaves entregues».
Ebrahim Bagheri, profesor de la Facultad de Información de la Universidad de Toronto, señaló lo más incisivo sobre la retirada del acceso. Dale a un agente tu tarjeta de crédito, dijo, y tendrá tu historial de transacciones «en menos de segundos». Revocar el acceso después no recupera lo que el agente ya ingirió, y cómo conservan los desarrolladores ese historial suele ser opaco.
Apple ya se ha movido
La respuesta de las plataformas llegó antes que este caso. El 2 de octubre, Apple anunció que añadiría controles nuevos en macOS ante los agentes que alcanzan aplicaciones como el correo, los mensajes y el historial de navegación sin «pleno conocimiento y comprensión» del usuario. Escribió que «a medida que los agentes de IA sean más capaces y autónomos, los riesgos asociados a este nivel de acceso crecerán sustancialmente».
Apple no nombró a ningún desarrollador. La actualización siguió a un artículo del columnista de Inc. Magazine Jason Aten según el cual Muse vigilaba las notificaciones de su Mac, incluidos los Mensajes, sin que él hubiera concedido ese acceso. El portavoz de Meta Andy Stone ha dicho que la integración es «totalmente voluntaria» y exige que el usuario active tanto el Acceso Total al Disco de Apple como un conector de Mensajes dentro de Muse. Aten afirma que no activó ninguno.
Robb ha desconectado Muse en gran medida y ahora prueba Grok Bot, de la X de Elon Musk. Espera que los agentes mejoren y se plantearía reactivar Muse. Su propio resumen del riesgo es el que conviene retener: podría haber sido mucho peor «si un desconocido se hubiera presentado en casa de alguien más vulnerable».
Lo siguiente que vigilar es si cambian las pantallas de permisos. Los controles de Apple llegarán en una versión futura de macOS; Meta no se ha comprometido a preguntar una segunda vez antes de que un agente facilite una dirección.
