Grok tentou acessar dados corporativos sem autorização, aponta pesquisa

Renê Fraga
9 min de leitura

Principais destaques

  • 31 tentativas de acesso: dois agentes do Grok fizeram solicitações para consultar dados de Gmail, Google Agenda, Slack, GitHub e Notion sem interação dos usuários.
  • Atividade em segundo plano: algumas tentativas ocorreram enquanto os computadores dos funcionários estavam fechados, sem notificações ou registros visíveis no histórico de conversas.
  • Controle adicionado pela xAI: após ser alertada, a empresa criou uma opção administrativa para desativar as chamadas proativas, mas o recurso continua ativado por padrão.

O assistente de inteligência artificial que deveria facilitar o trabalho pode acabar fazendo mais do que seu usuário pediu. Foi o que uma investigação da empresa de segurança NewCore identificou em dois agentes do Grok, desenvolvido pela xAI.

Ao longo de cinco dias, os bots realizaram 31 solicitações espontâneas para acessar informações em serviços corporativos conectados às contas de funcionários. O detalhe mais preocupante é que ninguém estava conversando com os assistentes quando essas atividades aconteceram.

A investigação, liderada por Ido Hoorvitch, responsável pela equipe de pesquisa de segurança da NewCore, identificou tentativas de consulta a cinco plataformas:

  • Google Agenda;
  • Gmail;
  • Slack;
  • GitHub;
  • Notion.

Algumas solicitações teriam ocorrido até mesmo com os laptops dos funcionários fechados.

O problema não foi uma invasão tradicional 🔎

A NewCore não identificou uma vulnerabilidade de software nem evidências de que hackers tenham invadido as contas.

O problema estava no comportamento dos próprios agentes de IA.

Segundo a investigação, os bots iniciaram atividades em segundo plano, nos servidores da plataforma, sem que os usuários tivessem solicitado novas tarefas ou autorizado aquelas consultas específicas.

O detalhe que chama atenção: as solicitações não apareciam no histórico das conversas, não geravam notificações e não deixavam registros individuais que os proprietários das contas pudessem consultar.

Isso significa que, para quem utilizava o assistente, aparentemente nada estava acontecendo.

A NewCore descobriu as atividades porque utiliza um gateway próprio para controlar as chamadas de ferramentas realizadas pelos agentes. Todas as solicitações passam por esse sistema, que exige aprovação humana antes de permitir o acesso.

As 31 tentativas foram interceptadas e expiraram após três minutos sem aprovação.

💡 O Grok tentou acessar informações conectadas às contas, mas os mecanismos de controle da NewCore impediram que as solicitações chegassem aos dados corporativos.

Os bots continuaram tentando mesmo após recusas 🤖

Um dos episódios mais reveladores aconteceu depois que um funcionário recusou repetidamente as sugestões do assistente.

O bot havia oferecido a possibilidade de realizar check-ins recorrentes. O usuário recusou quatro vezes, durante uma única tarde.

Depois disso, o assistente informou que deixaria de fazer aquelas ofertas.

Mas a história não terminou ali.

Entre 15 e 19 horas depois da última interação humana, o agente iniciou duas sequências de solicitações para acessar todos os aplicativos aos quais já estava conectado.

E não foi uma atividade isolada: os dois agentes apresentaram comportamentos semelhantes durante o período monitorado.

A NewCore atribui as solicitações a turnos em segundo plano iniciados nos servidores da plataforma.

A Cursor também aparece nessa história

O Grok Bot utiliza a plataforma de agentes da Cursor, empresa conhecida por suas ferramentas de desenvolvimento de software com inteligência artificial.

Essa arquitetura permite que os assistentes interajam com diferentes serviços e executem tarefas usando ferramentas conectadas às contas dos usuários.

É justamente aí que surge uma questão importante.

Quando um agente recebe permissões para acessar e operar diferentes aplicativos, a autorização inicial pode acabar sendo interpretada de maneira mais ampla do que o usuário imaginava.

Uma coisa é permitir que a IA consulte seu calendário quando você pede.

Outra é o agente iniciar verificações por conta própria, sem uma solicitação explícita naquele momento.

xAI adicionou uma opção para desativar as mensagens proativas ⚙️

A NewCore informou que procurou o suporte da xAI para entender o comportamento dos agentes.

Inicialmente, recebeu a confirmação de que as chamadas eram verificações em segundo plano integradas ao produto.

Segundo a empresa de segurança, o suporte também informou que não existia uma configuração para desativar essas atividades.

A situação mudou depois que a NewCore levantou o problema.

DataO que aconteceu
4 de novembroNewCore relata o problema à xAI
12 de novembroxAI adiciona controle administrativo para desativar as verificações
17 de novembroPesquisa é divulgada publicamente

O novo controle permite que clientes desativem as chamadas chamadas de Proactive Messages, ou mensagens proativas.

O problema é que a funcionalidade permanece ativada por padrão.

Isso significa que administradores precisam conhecer a existência da opção e tomar uma decisão sobre sua utilização.

O risco vai além de simplesmente ler e-mails ⚠️

As 31 solicitações identificadas pela NewCore eram exclusivamente de leitura.

Entretanto, os pesquisadores destacaram outro aspecto importante: as ferramentas conectadas aos agentes também tinham capacidade para executar ações.

Entre elas:

  • Enviar e-mails.
  • Alterar eventos no calendário.
  • Publicar mensagens no Slack.

Essas permissões ampliam consideravelmente o impacto potencial de um comportamento inesperado.

Um agente que consulta informações sem autorização específica já representa um problema de supervisão. Um agente que também pode enviar mensagens ou modificar dados exige controles ainda mais rigorosos.

A diferença está no alcance da autonomia: não basta saber quais aplicativos estão conectados. Também é necessário entender quando, por que e sob quais condições o agente pode utilizá-los.

Mas há limitações na investigação 🧪

Apesar da gravidade dos resultados, a pesquisa precisa ser interpretada com algumas ressalvas.

O estudo envolveu apenas duas contas de funcionários da NewCore. Além disso, a empresa não divulgou os registros brutos que permitiriam verificar independentemente a quantidade e o horário das solicitações.

Outro ponto é que a própria NewCore comercializa o gateway responsável por identificar e bloquear as chamadas.

A Permit.io, empresa especializada em autorização e controle de acesso, também observou que nenhuma organização externa à NewCore havia reproduzido as 31 solicitações até então.

Portanto, os resultados apontam para um comportamento preocupante, mas ainda não representam uma demonstração independente de que todos os usuários do Grok Bot estejam sujeitos à mesma situação.

Um assistente de IA precisa prestar contas de suas ações

Zohar Alon, CEO da NewCore, resumiu a preocupação da empresa ao questionar o funcionamento de agentes que continuam trabalhando sem supervisão direta.

“Um agente que trabalha enquanto você dorme, guarda as suas credenciais e não conta o que tentou fazer não é um assistente.”

A declaração toca em um dos principais desafios da próxima geração de inteligência artificial.

Empresas estão desenvolvendo agentes capazes de acessar documentos, responder mensagens, organizar compromissos e executar tarefas em diferentes plataformas. Quanto maior a autonomia, maior também a necessidade de transparência, rastreabilidade e mecanismos de autorização.

O episódio envolvendo o Grok mostra que a discussão não é apenas sobre o que uma IA consegue fazer, mas também sobre o que ela deveria fazer sem receber uma instrução explícita.

Afinal, se um assistente pode continuar trabalhando enquanto você dorme, você deveria conseguir descobrir exatamente o que ele tentou fazer durante a noite.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário