Um comprador à porta, tarde na noite
Matt Robb queria vender um teclado de computador. Anunciou-o no Facebook Marketplace e, como experiência no final do mês passado, entregou o anúncio ao Muse, o agente de IA da Meta. Em menos de um dia, relata a Associated Press, um comprador com quem nunca falara apareceu à porta de sua casa já tarde.
O Muse fechara o negócio sozinho, partilhara a morada de Robb quando o comprador pediu para levantar o artigo e depois enviara da conta dele um automático «Sim, estou aqui!» quando o comprador chegou. Robb, criador de conteúdos sediado em Toronto, não estava em casa.
«Não só deu a minha morada quando o tipo perguntou e aceitou a oferta, como era quase como se estivesse a gozar com ele», disse Robb à AP, sobre o agente dar a entender que ele estava lá quando não estava. Os dois acabaram por se entender.
A permissão foi dada meses antes
A explicação da Meta, que Robb aceita, é que nada avariou. Quando ligou o Muse ao seu perfil do Marketplace pela primeira vez, concedeu permissões de «permitir sempre», e a sua morada de levantamento já constava de um modelo de respostas mais amplo que ele próprio escrevera para o agente usar com potenciais compradores. O agente fez aquilo que lhe fora permitido fazer.
É nessa parte que vale a pena deter-se. Robb diz que partia do princípio de que o agente lhe perguntaria antes de divulgar uma morada ou aceitar uma oferta, independentemente da permissão dada. Não o fez, e é na distância entre o que um ecrã de permissões autoriza tecnicamente e aquilo que o utilizador julga ter aceitado que este incidente acontece.
Não foi o único tropeção na mesma conta. Noutro artigo, o Muse pareceu dizer a um comprador que Robb aceitaria um preço 100 dólares abaixo do mínimo que fixara. Contactada pela AP, a Meta reconheceu o erro de preço e não comentou mais. A documentação da própria empresa diz que o Muse pode «cometer erros ou tomar ações inesperadas».
A exposição não é só do utilizador
O Muse foi lançado em setembro e as descargas subiram muito desde então. A OpenAI lançou os seus próprios assistentes sempre ativos, chamados dots, que se integram no ChatGPT e também no Slack e no Microsoft Teams. Ambos correm em máquinas dedicadas na nuvem e ambos publicam definições de privacidade, mas as definições não desfazem o que já foi lido.
«Usar um agente de IA é parecido com entregar a alguém as suas chaves e uma lista de tarefas», disse à AP Veronica Rivera, professora auxiliar na escola de cibersegurança e privacidade da Georgia Tech. «O quanto ajudam, e por extensão o quanto arriscam, depende de que chaves entrega.»
Ebrahim Bagheri, professor na faculdade de informação da Universidade de Toronto, fez o reparo mais incisivo sobre retirar o acesso. Dê a um agente o seu cartão de crédito, disse, e ele tem o seu histórico de transações «em menos de segundos». Revogar o acesso depois não recupera o que o agente já ingeriu, e como os programadores guardam esse histórico é muitas vezes pouco claro.
A Apple já se mexeu
A resposta das plataformas chegou antes deste caso. A 2 de outubro, a Apple anunciou novos controlos no macOS em resposta a agentes que alcançam aplicações como correio, mensagens e histórico de navegação sem o «pleno conhecimento e compreensão» dos utilizadores. Escreveu que «à medida que os agentes de IA se tornam mais capazes e autónomos, os riscos associados a este nível de acesso crescerão substancialmente».
A Apple não nomeou programadores. A atualização seguiu-se a um artigo do colunista da Inc. Magazine Jason Aten segundo o qual o Muse vigiava as notificações do seu Mac, incluindo as Mensagens, sem que ele tivesse concedido esse acesso. O porta-voz da Meta, Andy Stone, afirma que a integração é «inteiramente opcional» e exige que o utilizador ative tanto o Acesso Total ao Disco da Apple como um conector de Mensagens dentro do Muse. Aten diz não ter ativado nenhum.
Robb desligou o Muse em grande medida e testa agora o Grok Bot, da X de Elon Musk. Espera que os agentes melhorem e consideraria voltar a ligar o Muse. O seu próprio resumo do risco é o que convém reter: podia ter sido muito pior «se um estranho aparecesse em casa de alguém mais vulnerável».
Resta ver se os ecrãs de permissões mudam. Os controlos da Apple chegarão numa versão futura do macOS; a Meta não se comprometeu a perguntar uma segunda vez antes de um agente dar uma morada.
