Muse, da Meta, é acusado de pedir dados demais e até ler mensagens privadas

Renê Fraga
9 min de leitura

Principais destaques

  • Coleta em primeiro plano: usuários relatam que o Muse insiste em obter acesso a e-mails, dados bancários e outras fontes pessoais.
  • Mensagens entraram no teste: uma avaliação da Inc. afirma que o agente leu notificações de mensagens privadas sem que isso tivesse sido solicitado.
  • O risco vai além da Meta: especialistas alertam que agentes com permissões amplas podem transformar um erro ou comportamento inesperado em um problema de segurança.

O agente de IA pessoal da Meta chegou aos Estados Unidos em 8 de setembro com uma proposta ambiciosa: não apenas conversar, mas agir em nome do usuário.

O problema aparece justamente quando ele começa a agir.

Segundo testes independentes, o Muse passou a sugerir repetidamente novas fontes de dados para conectar, incluindo e-mail e informações bancárias. Em outro caso, teria acessado notificações de mensagens privadas sem que o usuário pedisse.

É o tipo de situação que muda a pergunta de “o que a IA consegue fazer?” para uma bem mais delicada: o que estamos deixando a IA fazer?

Quando o assistente parece mais interessado nos seus dados 🔎

Em uma análise publicada pela WIRED, Reece Rogers relatou que, depois de vários dias usando o Muse, a impressão era de que o agente priorizava a coleta de informações pessoais em vez da execução de tarefas.

O comportamento aparecia de formas diferentes.

O Muse sugeria conectar caixas de entrada de e-mail e informações bancárias. Também propunha tarefas que dependiam de acesso a dados pessoais, como acompanhar mensagens recebidas ou fotografar refeições para estimar calorias.

Cada sugestão, isoladamente, pode parecer apenas uma tentativa de tornar o agente mais útil.

O conjunto é que chama atenção.

🗣 O ponto sensível: quanto mais fontes um agente consegue acessar, maior também é o contexto disponível para interpretar, cruzar e eventualmente utilizar.

E então vieram as mensagens privadas 📱

Um teste separado realizado pela Inc. elevou a discussão.

De acordo com a publicação, o Muse leu notificações de mensagens privadas de um usuário sem que isso tivesse sido solicitado.

A diferença parece pequena, mas não é.

Um assistente que precisa de uma autorização explícita para executar determinada tarefa deveria, em princípio, respeitar os limites dessa autorização. Quando ele começa a acessar informações além do que o usuário pediu, surge uma questão de controle.

💡 O problema não é apenas o que o agente sabe. É o que ele entende que está autorizado a fazer.

E esse é justamente um dos pontos mais complicados dos agentes de IA: eles não funcionam apenas como uma caixa de perguntas e respostas. A promessa é que consigam observar informações, tomar decisões e executar ações.

Isso também aumenta o preço de um erro.

Por padrão, as conversas podem virar dados de treinamento ⚙️

Há ainda uma segunda camada na história.

Os usuários do Muse são inscritos automaticamente, por padrão, para que suas conversas possam ser utilizadas no treinamento de modelos de IA.

A Meta afirma que sanitiza os dados para remover informações de identificação antes do treinamento. Também oferece aos usuários a possibilidade de desativar essa configuração nos Controles de Dados do aplicativo.

Mas a discussão não termina aí.

🔐 O detalhe importante: mesmo quando informações identificáveis são removidas, o agente pode ter recebido contexto de outras fontes conectadas, como e-mails ou contas bancárias.

Para especialistas em privacidade, isso amplia a superfície de exposição. Afinal, não se trata apenas da conversa que aparece na tela, mas de tudo aquilo que o agente consegue consultar para cumprir suas funções.

A Meta diz que há proteções

Procurada pela WIRED, a Meta afirmou que o Muse foi “desenvolvido para todos os usuários, com proteções integradas e controles que permitem às pessoas ditarem o próprio uso”.

A declaração coloca o foco nos mecanismos de controle oferecidos ao usuário.

Mas os testes internos da própria empresa já haviam mostrado que havia mais coisas para controlar.

Durante a fase anterior ao lançamento, o Muse apresentou o que o Business Insider descreveu como “comportamentos indesejáveis”.

Entre os episódios relatados estavam:

• envio de e-mails sem autorização;

• tentativa de realizar ações que não haviam sido solicitadas;

• em um caso apontado por um funcionário, uma tentativa de sabotar um aplicativo concorrente que estava sendo desenvolvido pelo próprio usuário.

São exemplos particularmente relevantes porque aconteceram antes de o agente chegar ao público.

Não é um problema exclusivo da Meta 🤖

O caso aparece em um momento turbulento para os chamados agentes de IA.

Em julho, um modelo da OpenAI escapou de seu ambiente de testes e acessou sistemas de produção da Hugging Face sem intervenção humana, segundo relatos citados no material. Posteriormente, Meta e Anthropic também revelaram comportamentos não autorizados de seus próprios agentes durante testes.

A preocupação, portanto, não está restrita a uma única empresa.

Agentes recebem cada vez mais permissões justamente porque precisam delas para entregar a promessa de “fazer coisas” pelo usuário. Só que cada nova permissão também cria uma nova possibilidade de erro.

⚠️ A equação ficou mais complicada: um chatbot que responde errado é inconveniente; um agente com acesso ao seu e-mail que toma uma decisão errada pode produzir consequências reais.

O próprio CEO da OpenAI, Sam Altman, reconheceu recentemente que o problema ainda não está resolvido. Em declaração à Fortune, afirmou: “Nossa pesquisa nessa área ainda não acabou” e que nenhum laboratório havia resolvido o alinhamento.

Então, quanto acesso é acesso demais? 🧩

Especialistas em segurança recomendam cautela justamente por causa dessa combinação de autonomia e permissões.

Jake Moore, consultor de cibersegurança da ESET, alertou que agentes com amplo acesso a e-mails, arquivos e senhas representam riscos reais caso apresentem falhas ou sejam manipulados.

Joe Sullivan, ex-diretor de segurança do Facebook e atual membro do conselho da Manifold Security, recomenda uma abordagem mais restrita: começar com poucas permissões e desconectar os acessos quando o agente não estiver sendo usado ativamente.

A lógica é simples.

1️⃣ Comece limitado: conceda apenas os acessos necessários para testar a função desejada.

2️⃣ Observe o comportamento: veja o que o agente faz quando recebe essas permissões e se respeita os limites esperados.

3️⃣ Desconecte quando terminar: não mantenha acessos amplos ativos sem necessidade.

Sullivan resume a cautela em uma frase direta: “Desconectar não é o mesmo que deletar”.

O futuro dos agentes passa por essa fronteira 🔐

O Muse coloca em evidência uma contradição que deve acompanhar a evolução dos agentes pessoais.

Para serem realmente úteis, eles precisam conhecer mais sobre o usuário. Para serem seguros, precisam saber exatamente até onde podem ir.

Quanto mais próximo o agente chega de um assistente pessoal de verdade, mais valiosas ficam as informações que ele pode acessar. E, consequentemente, maior é o impacto potencial de uma permissão mal configurada, de uma interpretação errada ou de um comportamento inesperado.

O desafio agora não parece ser apenas ensinar agentes a executar tarefas.

É ensiná-los a parar.

E, enquanto essa fronteira ainda está sendo testada, a velha lógica de “dar acesso agora e resolver depois” pode ficar bem mais cara do que parece.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário