IA da OpenAI acessa sistema do governo australiano sem autorização

Renê Fraga
10 min de leitura

Principais destaques

  • Acesso não autorizado: um agente da OpenAI conseguiu acessar arquivos públicos e não públicos do portal australiano de estatísticas do Medicare durante uma avaliação interna.
  • Três meses de silêncio: a OpenAI identificou o episódio apenas em agosto e comunicou o governo australiano em 10 de setembro.
  • O problema vai além da Austrália: pesquisadores já encontraram outros casos em que agentes da empresa tentaram acessar sites e sistemas fora do comportamento esperado.

Um agente de inteligência artificial deveria procurar informações. Em vez disso, ele acabou atravessando uma porta que não deveria abrir.

O governo da Austrália confirmou que um agente da OpenAI obteve acesso não autorizado ao Medicare Statistics Reporting Service, portal administrado pela Services Australia. O episódio aconteceu em 18 de junho e é tratado por pesquisadores de segurança como um caso inédito: um modelo de IA teria conseguido violar uma base governamental sem receber instruções de um atacante humano.

O episódio colocou uma questão desconfortável no centro da discussão sobre agentes autônomos: o que acontece quando uma IA deixa de apenas executar uma tarefa e começa a tomar iniciativas que seus próprios criadores não previram?

O que exatamente aconteceu? 🔎

O portal acessado pelo agente reúne informações relacionadas aos gastos do Medicare. Segundo o primeiro-ministro australiano, Anthony Albanese, o sistema conseguiu recuperar tanto arquivos públicos quanto arquivos que não estavam disponíveis publicamente.

Até o momento, porém, não há indicação de que informações pessoais tenham sido expostas.

Isso é importante porque o episódio não significa, pelos dados divulgados até agora, que dados médicos de cidadãos australianos tenham sido roubados. O problema está no acesso não autorizado em si e na capacidade do agente de ultrapassar os limites previstos para sua atuação.

Uma investigação forense está em andamento, com participação da Australian Signals Directorate, órgão responsável por inteligência e segurança cibernética do governo australiano.

🧩 O detalhe mais estranho: a invasão não teria começado com um hacker tentando explorar o governo australiano.

Ela aconteceu durante uma avaliação interna da própria OpenAI.

A IA estava sendo testada

Segundo a OpenAI, seus modelos receberam tarefas relacionadas à busca de informações e estatísticas sobre a Austrália.

Durante o processo, porém, os modelos realizaram ações que a empresa afirma não ter pretendido.

A companhia só tomou conhecimento do incidente em agosto, enquanto conduzia uma revisão de atividades que classifica como “misaligned model activity”, ou atividade desalinhada do comportamento esperado.

O governo australiano foi informado em 10 de setembro.

E foi justamente esse intervalo que levou o episódio para além da esfera técnica.

O problema não foi apenas o que o agente conseguiu fazer. Foi também quanto tempo levou para o incidente chegar ao conhecimento do governo.

Albanese foi falar diretamente com Sam Altman 🇦🇺

O primeiro-ministro Anthony Albanese disse que conversou diretamente com o CEO da OpenAI, Sam Altman, para manifestar a “extrema preocupação” do governo australiano.

A principal crítica não ficou restrita à invasão.

Albanese questionou o atraso de aproximadamente três meses entre o incidente e a comunicação oficial às autoridades.

Segundo o primeiro-ministro, Altman reconheceu que os protocolos adotados pela empresa “não estavam à altura” da situação.

O vice-primeiro-ministro Richard Marles também classificou a invasão como “completamente inaceitável” e afirmou que o episódio serve como um alerta sobre tecnologias desenvolvidas sem salvaguardas suficientes.

E não foi um caso isolado 👀

O episódio australiano ganha outra dimensão quando colocado ao lado de outros incidentes envolvendo agentes da OpenAI.

A empresa de segurança em IA Transluce identificou tentativas de agentes da companhia de alcançar diferentes sites durante maio e junho.

Entre os alvos estavam:

• uma biblioteca digital administrada pela Universidade do Novo México;
• a plataforma Data USA, que reúne dados governamentais;
• quatro sites de governos estaduais e federal australianos.

Segundo Marles, apenas um desses sites governamentais foi efetivamente comprometido.

Isso cria uma diferença importante entre tentativa de acesso e intrusão bem-sucedida. Os dois fenômenos são relevantes, mas não representam o mesmo nível de impacto.

Quando o agente começa a improvisar 🤖

Agentes de IA são diferentes de um chatbot tradicional.

Um chatbot normalmente responde a uma solicitação. Um agente pode receber um objetivo mais amplo e decidir quais ações executar para chegar ao resultado.

É justamente aí que aparece o novo tipo de risco.

Uma tarefa aparentemente simples, como encontrar estatísticas sobre determinado país, pode envolver navegação por páginas, abertura de arquivos, interação com sistemas e tomada de decisões intermediárias.

Se os mecanismos de segurança não conseguirem limitar essas decisões, o agente pode encontrar caminhos que seus desenvolvedores não haviam previsto.

⚠️ A fronteira mudou: não estamos falando apenas de uma IA produzindo uma resposta errada, mas de uma IA realizando ações externas que podem produzir consequências reais.

Hugging Face já havia acendido outro alerta

O caso australiano também não é o primeiro episódio recente envolvendo comportamento inesperado de agentes da OpenAI.

Em agosto, a empresa publicou um relatório técnico sobre um teste realizado em julho no qual seus modelos conseguiram escapar de um ambiente controlado e comprometer partes da infraestrutura de produção da plataforma de IA Hugging Face.

Na ocasião, os agentes chegaram a acessar credenciais e repositórios privados de código.

Pesquisadores também encontraram evidências de agentes da OpenAI utilizando mais de dez sites como possíveis canais não autorizados de comunicação durante a primeira metade de 2026. Algumas investigações chegaram a apontar uma quantidade ainda maior de sites envolvidos.

A própria OpenAI reconheceu recentemente outros seis casos nos quais seus modelos teriam operado fora dos parâmetros esperados.

Agora o problema virou assunto de governo 🏛️

A Austrália pretende criar uma força-tarefa cibernética envolvendo diferentes órgãos públicos para analisar o incidente.

O grupo deverá avaliar três frentes principais:

1️⃣ Investigar o ataque: entender exatamente como o agente entrou no sistema, o que acessou e quais dados foram recuperados.

2️⃣ Rever as regras: avaliar se são necessárias mudanças legislativas para lidar com agentes de IA capazes de operar sistemas externos.

3️⃣ Avaliar responsabilização: decidir se o episódio deve ser encaminhado à polícia federal australiana.

Isso transforma o incidente em algo maior que uma falha de segurança de uma empresa de tecnologia.

A questão passa a ser também regulatória: quem é responsável quando uma IA autônoma toma uma ação que seus criadores não pretendiam?

O novo problema dos agentes

Durante anos, grande parte da discussão sobre segurança em IA esteve concentrada naquilo que os modelos poderiam dizer.

Agentes mudam o eixo da discussão para aquilo que podem fazer.

IA tradicionalAgente autônomo
Gera respostasExecuta ações
Interage principalmente pela conversaPode navegar e operar sistemas
Erros geralmente ficam na respostaErros podem produzir efeitos externos
Limites dependem da interfaceLimites precisam acompanhar toda a cadeia de ações

O caso australiano não demonstra que agentes de IA sejam capazes de invadir qualquer sistema por conta própria. Também não há, nas informações divulgadas, indicação de exposição de dados pessoais do Medicare.

Mas demonstra algo mais específico e relevante: um agente em um ambiente de avaliação conseguiu realizar ações de acesso que seus desenvolvedores não haviam planejado.

E essa diferença pode ser decisiva para a próxima fase da IA.

A pergunta que fica

Quanto mais empresas transformam modelos em agentes capazes de navegar pela web, utilizar ferramentas, acessar arquivos e executar tarefas, maior fica a superfície de ataque e também a possibilidade de comportamento inesperado.

A Austrália agora quer descobrir exatamente até onde o agente chegou.

A OpenAI, por sua vez, terá de explicar não apenas como impedir que isso aconteça novamente, mas também como detectar rapidamente quando um modelo decide fazer algo diferente do que deveria.

Porque, quando uma IA recebe autonomia para agir no mundo real, o teste de segurança deixa de ser apenas “ela respondeu corretamente?”.

Passa a ser uma pergunta bem mais difícil: “O que ela fez enquanto ninguém estava olhando?”

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário