Se le pidieron sus propias instrucciones al agente, y las entregó
El investigador independiente de seguridad de IA Karan Joshi extrajo un amplio conjunto de instrucciones operativas y mensajes de sistema del asistente Muse de Meta usando la interfaz de chat corriente — esencialmente, pidiéndole a Muse que copiara y compartiera sus propios archivos de software — y entregó lo que encontró a WIRED, que publicó los detalles el 3 de octubre. Varios investigadores han volcado ya los archivos internos del agente. La posición de Meta es que esos archivos estaban pensados para ser accesibles a los usuarios en aras de la transparencia.
Lo sustancial está en lo que las instrucciones le mandan hacer. Una de ellas ordena a Muse crear “una página para cada persona de la vida del usuario”. Es un proceso horario y abarca familia, parejas, amistades, colegas, “colaboradores” y personas a las que el usuario “sigue”. Las páginas viven en la memoria de Muse, que en la práctica es un conjunto de archivos de texto estructurados que el agente mantiene sobre ti y sobre quienes te rodean.
Qué va en una página
La documentación de Muse dice que una página puede empezar “escasa” e irse completando con el tiempo. Las secciones nombradas incluyen Hechos, Historia, La relación, En común, Hilos abiertos y Reforzar.
Las instrucciones son concretas sobre qué corresponde a cada una. Hechos cubre “dónde viven, a qué se dedican, los hilos que se repiten (la mudanza de piso, el objetivo de ahorro compartido)”, junto con “fechas que importan” como cumpleaños y aniversarios. Historia es trasfondo: “el viaje de marzo, la discusión que se resolvió, el hito de la semana pasada”. La sección de la relación registra “cómo de cercanos son, sobre qué está construida, cómo se comportan entre sí y qué parece necesitar ahora mismo”. Reforzar sugiere movimientos: “un motivo para llamar, una fecha que merece recordarse, algo que dijeron sobre lo que volver, una forma de estar ahí que importe”.
Las propias instrucciones de Meta imponen un límite: Muse debe usar solo las pruebas de que dispone, y los detalles inventados son peores que una página vacía. Es una regla sensata, y a la vez una admisión de que se está pidiendo al sistema que caracterice a personas sobre las que tiene información incompleta.
Para qué dice Meta que sirve
“Para que un agente sea útil y te ayude de verdad a lograr tus objetivos, necesita tener contexto sobre ti y sobre las personas con las que interactúas”, dijo a WIRED el portavoz de Meta Daniel Roberts. “Muse lo reúne a partir de información pública y de lo que has decidido compartir, que es cómo recuerda que la persona que te envió una factura es en realidad el fontanero al que contrataste antes para una obra en tu baño, o qué flores dijo tu pareja que le gustaban más”.
Meta también señala la arquitectura. Cada usuario tiene una máquina virtual dedicada con sus datos y su contexto, inaccesible para otros agentes. Los usuarios pueden borrar memorias o desconectar servicios externos en cualquier momento, el agente está diseñado para pedir confirmación antes de enviar un correo o hacer una compra, y existe un registro de auditoría de su actividad y de sus acciones previstas.
La asimetría
“Estamos dando a los sistemas de IA mucha más información sobre nosotros de la que recibimos de ellos”, dijo Carissa Véliz, profesora asociada del Instituto de Ética en IA de Oxford. “No es solo lo que les contamos explícitamente, sino lo que pueden inferir de nosotros — acertada o erróneamente, ambas cosas preocupantes por motivos distintos — y lo que pueden componer a partir de otras fuentes de datos”.
Miranda Bogen, que dirige el AI Governance Lab del Center for Democracy and Technology, dijo que Muse pone más énfasis en las relaciones y los contactos personales que los sistemas rivales, y que la categoría entera empuja en dirección contraria a la minimización de datos. “Estas herramientas piden activamente a los usuarios que enchufen su vida entera: sus correos, calendarios, entidades financieras, todo”, dijo. “Es muchísima más información de la que la gente habría dado de otro modo a algunas de estas empresas”.
Las personas perfiladas no instalaron nada. Esa es la parte que ningún diagrama de arquitectura resuelve: una máquina virtual dedicada protege al usuario cuyo teléfono es, no al amigo cuya discusión resuelta es ahora una línea en un archivo.
