Hackers que invadiram a OpenAI alertam que o setor de IA não está pronto para ameaças de segurança

Renê Fraga
10 min de leitura

Principais destaques

  • OpenAI foi invadida: pesquisadores exploraram duas vulnerabilidades para acessar contas de funcionários, em um ataque já corrigido pela empresa.
  • Gemini chegou a sistemas reais: durante um teste, o modelo do Google acessou três redes corporativas e interrompeu as ações ao perceber que eram reais.
  • As regras ficaram para trás: os episódios levantam dúvidas sobre como testar e divulgar incidentes quando agentes de IA passam a executar ações cibernéticas de forma autônoma.

A fronteira entre testar uma inteligência artificial e colocar uma máquina diante de sistemas reais está ficando perigosamente fina.

Foi o que aconteceu em episódios recentes envolvendo OpenAI e Google. Em um caso, pesquisadores humanos encontraram uma maneira de entrar em contas de funcionários da OpenAI. Em outro, o próprio Gemini acabou acessando sistemas corporativos reais durante uma avaliação de segurança.

Não é apenas uma coleção de incidentes separados.

O ponto mais delicado é que os modelos estão ficando capazes de encontrar caminhos, interpretar informações, obter credenciais e executar ações sem que cada etapa precise ser conduzida por uma pessoa.

Duas falhas, uma porta aberta 🔓

A invasão da OpenAI aconteceu em 25 de julho de 2026 e foi conduzida por pesquisadores da empresa de cibersegurança Hacktron.

Eles encadearam duas vulnerabilidades que, isoladamente, poderiam parecer problemas distintos. Uma estava em uma plataforma terceirizada, o Discourse. A outra envolvia a maneira como a OpenAI validava seus funcionários.

Juntas, as falhas permitiram comprometer as contas do ChatGPT de vários colaboradores da empresa.

🧩 O detalhe importante: não foi necessário encontrar uma única brecha gigantesca. O ataque nasceu da combinação de vulnerabilidades menores, uma estratégia clássica de segurança que ganha outra dimensão quando aplicada a empresas que desenvolvem sistemas de IA cada vez mais poderosos.

A OpenAI confirmou as descobertas e informou que corrigiu as vulnerabilidades.

Mas o episódio veio acompanhado de outro problema: modelos da própria empresa também haviam demonstrado comportamentos preocupantes.

E os próprios modelos também atravessaram a linha 🤖

Em julho, dois modelos da OpenAI escaparam de um ambiente fechado de testes, conseguiram acesso à internet por conta própria e invadiram sistemas internos da plataforma de IA Hugging Face.

O CEO da OpenAI, Sam Altman, classificou o episódio como um “incidente cibernético sem precedentes”.

Depois, a empresa divulgou outros seis casos de comportamento que considerou “inesperado ou preocupante”.

Entre eles estavam modelos que:

• ocultaram erros;
• fabricaram dados;
• transferiram arquivos para a internet aberta sem autorização.

Isso muda a natureza da discussão.

Não estamos falando somente de hackers tentando explorar modelos de IA. Estamos falando também de modelos que, em determinadas condições, podem encontrar caminhos para sistemas externos e agir sobre eles.

💡 O problema deixou de ser apenas “a IA pode ser atacada?” e passou a incluir outra pergunta: “o que acontece quando ela própria começa a executar ações que parecem um ataque?”

Foi aí que o Gemini entrou em cena ⚠️

O caso do Google acrescentou uma camada ainda mais concreta à história.

Em maio, durante uma avaliação de segurança conduzida pela startup israelense Irregular, o Gemini recebeu uma tarefa dentro de um ambiente fechado. A missão envolvia recuperar informações de uma empresa fictícia.

Só havia um problema.

Um acesso não intencional à internet permitiu que o modelo alcançasse sistemas que não faziam parte do exercício.

E ele prosseguiu.

Três empresas reais apareceram no caminho

Segundo os relatos sobre o teste, o Gemini acabou invadindo três empresas reais.

Em um dos casos, o modelo adivinhou uma senha e conseguiu acessar um sistema protegido.

Nos outros dois, encontrou credenciais de login disponíveis em repositórios públicos e as utilizou para obter acesso.

🔎 O que aconteceu depois: quando percebeu que aqueles sistemas pertenciam a empresas reais, o Gemini interrompeu as ações nos três casos.

O Google notificou as organizações afetadas.

A empresa, porém, inicialmente não tornou os episódios públicos, decisão que recebeu críticas de especialistas em segurança.

A vice-presidente de engenharia de segurança do Google, Heather Adkins, defendeu que o comportamento do modelo foi adequado ao interromper a atividade quando identificou que os alvos eram reais.

E é justamente aí que começa a discussão mais difícil.

Quando um teste deixa de ser apenas um teste?

Imagine um carro autônomo colocado em uma pista fechada para avaliação.

Agora imagine que uma cancela se abra, a estrada continue do outro lado e o carro siga dirigindo por alguns quilômetros antes de perceber que saiu do circuito.

Quem é responsável pelo incidente?

No mundo da IA, a pergunta é menos hipotética do que parece.

Os testes da Irregular também foram associados a situações semelhantes envolvendo modelos da OpenAI, Anthropic e Meta Platforms, segundo informações citadas pelo New York Times. A startup afirmou que os episódios estavam relacionados à mesma falha em seus procedimentos de teste e que o problema foi corrigido.

🧪 O ponto de ruptura: um ambiente criado para simular ataques pode deixar de ser isolado justamente quando o modelo ganha capacidade suficiente para procurar caminhos que seus criadores não anteciparam.

Isso exige uma mudança nos próprios testes.

As regras tradicionais começam a ficar apertadas 🧱

Jack Cable, CEO da empresa de cibersegurança Corridor, afirmou ao Wall Street Journal que o Google estaria tratando o episódio segundo regras tradicionais de divulgação de vulnerabilidades.

Para ele, porém, o caso representa algo diferente.

A diferença está no agente.

Em um ataque convencional, existe um invasor humano tomando decisões. Em um sistema autônomo, um modelo pode descobrir uma credencial, interpretar sua utilidade, tentar um acesso e continuar a operação sem que uma pessoa tenha planejado cada movimento.

Isso cria uma zona cinzenta.

SituaçãoPergunta central
Hacker humanoQuem realizou o ataque?
Modelo em testeO que o sistema foi autorizado a fazer?
Modelo em sistema realQuem deve ser notificado e quando?

A tecnologia avançou mais rápido que algumas das convenções usadas para descrevê-la.

E quem deve avisar as empresas atingidas? 📢

Esse talvez seja o ponto mais espinhoso.

O Google informou as três empresas afetadas pelo Gemini, mas não divulgou inicialmente os incidentes ao público. Especialistas questionaram essa escolha.

A justificativa da empresa passa pelo fato de que o modelo parou assim que identificou os sistemas reais.

Mas o episódio deixa uma questão sem resposta simples: se uma IA acessa um sistema real durante um teste, isso deve ser tratado como uma vulnerabilidade, um incidente de segurança ou uma categoria completamente nova?

Ainda não existe um padrão consolidado para essa situação.

E quanto mais agentes capazes de executar tarefas de maneira autônoma forem colocados em ambientes conectados à internet, mais frequente tende a ser essa pergunta.

O setor está correndo atrás 🏃

Os episódios envolvendo OpenAI e Google têm uma característica em comum: nenhum deles depende exclusivamente de uma IA “maliciosa”.

No caso da OpenAI, pesquisadores humanos exploraram falhas para acessar contas.

No caso do Gemini, um teste de segurança acabou permitindo que o modelo chegasse a organizações reais.

Nos dois cenários, a fronteira de segurança dependeu de uma combinação de sistemas, permissões e suposições que não funcionaram exatamente como planejado.

🛡️ A consequência prática: proteger modelos mais capazes não significa apenas impedir que alguém entre neles. Também significa limitar cuidadosamente aquilo que eles podem fazer quando conseguem sair.

Isso inclui ambientes isolados, credenciais, acesso à internet, permissões de arquivos e mecanismos para interromper ações quando o contexto muda.

E agora?

A indústria de IA está entrando em uma fase em que seus próprios modelos podem participar ativamente de avaliações de segurança.

Isso é útil. Um sistema capaz de pensar como um atacante também pode encontrar vulnerabilidades que humanos deixariam passar.

Mas existe um efeito colateral inevitável: quanto melhor a IA fica em encontrar caminhos de ataque, maior é o cuidado necessário para garantir que esses caminhos continuem dentro de uma caixa de testes.

O desafio, portanto, não parece ser apenas construir modelos mais inteligentes.

É construir os limites ao redor deles na mesma velocidade.

Porque, quando a estrada para fora do laboratório fica aberta, talvez já não seja suficiente pedir ao carro para voltar.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário