Pediram ao agente as suas próprias instruções, e ele entregou-as
O investigador independente de segurança em IA Karan Joshi extraiu um vasto conjunto de instruções operacionais e de comandos de sistema do assistente Muse da Meta usando a interface de conversa normal — pedindo, no essencial, ao Muse que copiasse e partilhasse os seus próprios ficheiros de software — e entregou o que encontrou à WIRED, que publicou os detalhes a 3 de outubro. Vários investigadores já despejaram os ficheiros internos do agente. A posição da Meta é que esses ficheiros se destinavam a ser acessíveis aos utilizadores em nome da transparência.
O que importa está no que as instruções mandam o agente fazer. Uma delas ordena ao Muse que crie “uma página para cada pessoa da vida do utilizador”. É um processo de hora a hora e abrange família, companheiros, amigos, colegas, “colaboradores” e pessoas que o utilizador “segue”. As páginas vivem na memória do Muse, que na prática é um conjunto de ficheiros de texto estruturados que o agente mantém sobre si e sobre quem o rodeia.
O que vai numa página
A documentação do Muse diz que uma página pode começar “escassa” e ir-se preenchendo com o tempo. As secções nomeadas incluem Factos, Historial, A relação, Em comum, Fios abertos e Reforço.
As instruções são específicas sobre o que pertence a cada uma. Factos cobre “onde vivem, o que fazem, os fios que se repetem (a mudança de casa, o objetivo de poupança partilhado)”, além das “datas que importam”, como aniversários. Historial é contexto — “a viagem em março, a discussão que ficou resolvida, o marco da semana passada”. A secção da relação regista “quão próximos são, em que assenta, como agem um com o outro e do que parece precisar neste momento”. Reforço sugere gestos: “um motivo para ligar, uma data que vale a pena lembrar, algo que disseram a que voltar, uma forma de estar presente que conte”.
As próprias instruções da Meta impõem um limite: o Muse deve usar apenas as evidências de que dispõe, e detalhes inventados são piores do que uma página vazia. É uma regra sensata e, ao mesmo tempo, a admissão de que se está a pedir ao sistema que caracterize pessoas sobre as quais tem informação incompleta.
Para que diz a Meta que serve
“Para que um agente seja útil e o ajude de facto a atingir os seus objetivos, precisa de ter contexto sobre si e sobre aqueles com quem interage”, disse à WIRED o porta-voz da Meta, Daniel Roberts. “O Muse reúne isso a partir de informação pública e do que escolheu partilhar, que é como se lembra de que a pessoa que lhe enviou uma fatura é afinal o canalizador que contratou para a obra na sua casa de banho, ou de que flores o seu cônjuge disse gostar mais”.
A Meta aponta também para a arquitetura. Cada utilizador tem uma máquina virtual dedicada com os seus dados e o seu contexto, inacessível a outros agentes. Os utilizadores podem apagar memórias ou desligar serviços externos a qualquer momento, o agente foi concebido para pedir confirmação antes de enviar um email ou fazer uma compra, e existe um registo de auditoria da sua atividade e das ações previstas.
A assimetria
“Estamos a dar aos sistemas de IA muito mais informação sobre nós do que aquela que recebemos deles”, disse Carissa Véliz, professora associada do Institute for Ethics in AI de Oxford. “Não é apenas o que lhes dizemos explicitamente, mas o que podem inferir de nós — correta ou incorretamente, ambas preocupantes por razões diferentes — e o que conseguem juntar a partir de outras fontes de dados”.
Miranda Bogen, que dirige o AI Governance Lab do Center for Democracy and Technology, disse que o Muse dá mais ênfase a relações e contactos pessoais do que os sistemas rivais, e que a categoria inteira puxa no sentido contrário ao da minimização de dados. “Estas ferramentas pedem ativamente aos utilizadores que liguem a vida inteira — emails, calendários, instituições financeiras, tudo”, disse. “É muitíssimo mais informação do que as pessoas teriam dado de outro modo a algumas destas empresas”.
As pessoas assim perfiladas não instalaram nada. É a parte que nenhum diagrama de arquitetura resolve: uma máquina virtual dedicada protege o utilizador de quem é o telemóvel, não o amigo cuja discussão resolvida é agora uma linha num ficheiro.
