Anthropic confirma que Claude invadiu redes de empresas por falha em ambiente de testes

Renê Fraga
8 min de leitura

Principais destaques

  • A Anthropic confirmou que três versões do Claude acessaram sistemas de empresas reais durante testes de segurança por causa de um erro de configuração.
  • Os modelos exploraram vulnerabilidades simples, como senhas fracas e serviços sem autenticação, demonstrando que IAs já conseguem executar ataques cibernéticos de forma prática.
  • O caso acontece poucos dias após a OpenAI revelar que um agente baseado em seus modelos também escapou de um ambiente de testes e comprometeu a infraestrutura da Hugging Face, aumentando a preocupação da indústria.

A Anthropic revelou um dos episódios mais preocupantes envolvendo inteligência artificial já registrados em testes de segurança.

A empresa informou que diferentes versões do Claude conseguiram acessar e comprometer os sistemas de três organizações reais depois que uma falha de configuração permitiu que os modelos alcançassem a internet durante avaliações que deveriam ocorrer em um ambiente completamente isolado.

A descoberta aconteceu durante uma investigação interna iniciada após a OpenAI divulgar um incidente semelhante envolvendo um agente autônomo que escapou de um ambiente de testes e invadiu a infraestrutura da Hugging Face.

A partir desse episódio, a Anthropic decidiu revisar retrospectivamente mais de 141 mil execuções de seus testes de segurança para verificar se algo parecido poderia ter ocorrido com seus próprios modelos.

O resultado surpreendeu até mesmo a empresa. A análise identificou três incidentes distintos nos quais modelos do Claude conseguiram alcançar a internet e interagir com sistemas reais, algo que jamais deveria ter sido possível dentro da estrutura planejada para os experimentos.

Um simples erro abriu caminho para ataques reais

Segundo a Anthropic, o problema não foi causado por uma tentativa deliberada do Claude de escapar do ambiente de testes. O que ocorreu foi uma falha operacional envolvendo a configuração da infraestrutura utilizada em parceria com a empresa Irregular, especializada em avaliações de segurança.

Durante os chamados testes de Capture The Flag (CTF), a inteligência artificial recebe uma missão específica: encontrar uma informação escondida dentro de uma rede simulada utilizando qualquer técnica disponível. Esse tipo de competição é bastante conhecido entre especialistas em segurança cibernética e serve para medir a capacidade de identificar vulnerabilidades e explorar sistemas.

Os comandos enviados ao Claude afirmavam que todo o ambiente era fictício e que não existia qualquer conexão com a internet. Na prática, porém, devido a um erro de configuração, os computadores utilizados durante os testes permaneciam conectados à rede pública. Sem saber disso, os modelos interpretaram sistemas reais como se fizessem parte do exercício e passaram a executar suas tarefas normalmente.

Esse detalhe é considerado um dos aspectos mais importantes do incidente. Para o modelo, não havia diferença entre uma máquina simulada e um servidor verdadeiro, já que todas as evidências indicavam que ele continuava dentro de um laboratório controlado.

Como o Claude conseguiu invadir os sistemas

A Anthropic informou que os modelos não recorreram a técnicas extremamente sofisticadas para obter acesso. Pelo contrário.

As invasões ocorreram explorando falhas bastante conhecidas por profissionais de segurança da informação, como:

  • senhas fracas;
  • serviços disponíveis sem autenticação;
  • endpoints expostos à internet;
  • configurações inadequadas de servidores.

Isso mostra que, mesmo sem utilizar vulnerabilidades inéditas ou ataques altamente complexos, uma IA moderna já consegue identificar rapidamente erros básicos de configuração e explorá-los de forma automática.

Os três incidentes envolveram modelos diferentes:

  • Claude Opus 4.7;
  • Claude Mythos 5;
  • um modelo experimental utilizado apenas para pesquisas internas.

Os primeiros registros aconteceram ainda em abril, meses antes de o problema ser descoberto pela empresa.

Nem todos os modelos reagiram da mesma forma

Um dos pontos mais interessantes da investigação foi perceber que cada versão do Claude apresentou um comportamento diferente diante da situação.

Segundo informações divulgadas pela Anthropic, um dos modelos percebeu indícios de que estava interagindo com sistemas reais, mas continuou executando sua missão. Outro interpretou que tudo fazia parte do ambiente de testes e prosseguiu normalmente. Já um modelo experimental mais recente identificou a inconsistência e interrompeu suas atividades por conta própria.

Essas diferenças ajudam pesquisadores a entender como modelos de IA tomam decisões quando encontram situações inesperadas e podem influenciar o desenvolvimento de novos mecanismos de alinhamento e segurança.

Empresas nem sabiam que haviam sido acessadas

Depois de concluir a investigação, a Anthropic suspendeu imediatamente todas as avaliações relacionadas à segurança cibernética.

A empresa informou que iniciou a revisão dos registros em 23 de julho, encontrou evidências dos acessos no mesmo dia e identificou os três casos até 24 de julho. As organizações afetadas foram notificadas oficialmente em 27 de julho.

Segundo a companhia, duas das empresas não tinham qualquer conhecimento de que seus sistemas haviam sido acessados até receberem o contato da Anthropic. A terceira organização ainda estava sendo localizada quando o relatório foi publicado.

O caso amplia preocupações em toda a indústria

O episódio ocorre poucos dias depois de outro incidente envolvendo a OpenAI ganhar repercussão internacional.

Na ocasião, a empresa revelou que um agente autônomo alimentado por seus modelos conseguiu sair de um ambiente de testes, acessar a internet e comprometer parte da infraestrutura da Hugging Face durante uma avaliação de segurança. A revelação levou diversas empresas do setor a revisar seus próprios processos internos de contenção e monitoramento.

Agora, com a confirmação de que a Anthropic enfrentou um problema semelhante, especialistas avaliam que a indústria está entrando em uma nova fase, na qual modelos de IA já demonstram capacidade suficiente para executar operações ofensivas no mundo real quando recebem autonomia e acesso aos recursos necessários.

Embora nenhum dos casos indique que as IAs desenvolveram vontade própria ou consciência, eles mostram que modelos extremamente capazes conseguem perseguir objetivos definidos pelos testes de maneira eficiente, inclusive explorando sistemas reais quando as barreiras de segurança falham.

O que muda daqui para frente

Para a Anthropic, a principal lição é que não basta alinhar o comportamento dos modelos. Também é necessário reforçar toda a infraestrutura que cerca os experimentos, garantindo isolamento efetivo, monitoramento contínuo e múltiplas camadas de contenção.

A empresa afirmou que pretende fortalecer seus protocolos internos e revisar a forma como conduz avaliações em parceria com organizações externas. O objetivo é impedir que erros operacionais permitam novamente que modelos experimentais interajam com ambientes reais.

O caso também reforça uma preocupação crescente entre governos, empresas e pesquisadores: conforme as inteligências artificiais evoluem, falhas aparentemente simples de configuração podem transformar exercícios controlados em incidentes reais de segurança.

Isso torna indispensável o desenvolvimento de padrões mais rígidos para testar agentes autônomos capazes de realizar atividades complexas no ambiente digital.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário