OpenAI enfrenta alertas internos sobre segurança que remontam à criação do ChatGPT

Renê Fraga
11 min de leitura

Principais destaques

  • Preocupações antigas: funcionários da OpenAI alertaram a liderança e o conselho sobre falhas de segurança antes mesmo do lançamento do ChatGPT, segundo a Reuters.
  • Acesso a sistemas sensíveis: relatos apontam problemas na organização do código e na revisão de ferramentas internas, enquanto a empresa afirma ter reforçado os controles.
  • Pressão para acelerar a IA: ex-funcionários dizem que a corrida contra concorrentes como Google e Anthropic pode ter colocado a velocidade acima da segurança.

A OpenAI pode estar enfrentando um problema que vai além de ataques externos: segundo uma reportagem da Reuters, profissionais da própria empresa vêm alertando sobre vulnerabilidades internas há anos.

Cinco pessoas com conhecimento do assunto relataram à agência que algumas dessas preocupações foram levadas à alta liderança e ao conselho de administração. Vários funcionários deixaram a companhia convencidos de que a pressão para acompanhar os concorrentes pesava mais do que a proteção dos sistemas.

O cenário ganha relevância em um momento em que os modelos de inteligência artificial deixaram de ser apenas produtos comerciais. Nos Estados Unidos, essa tecnologia também passou a ser tratada como um ativo estratégico, aumentando a importância da proteção de códigos, modelos e informações corporativas.

🔐 O problema pode estar dentro de casa

Uma das principais preocupações relatadas à Reuters envolve a maneira como o código da OpenAI era organizado.

Segundo três fontes ouvidas pela agência, grande parte do código ficava concentrada em um único repositório, conhecido como monorepo. Essa estrutura pode facilitar o desenvolvimento de software, mas também amplia a exposição de projetos quando as permissões de acesso não são suficientemente restritas.

Na prática, funcionários com acesso ao repositório poderiam visualizar detalhes de projetos sensíveis que não tinham relação direta com suas atividades.

O ponto mais delicado: três pessoas também disseram que ferramentas internas, incluindo ambientes isolados de teste usados para avaliar modelos em condições extremas, não passavam por revisões periódicas de segurança.

A OpenAI contestou parte desse retrato. A empresa afirmou que seus trabalhos mais sensíveis ficam em repositórios separados, com controles rigorosos de acesso, e que o monorepo não armazena os pesos dos modelos. Também declarou que as ferramentas internas agora passam por revisões regulares.

A diferença entre os relatos importa. Um repositório centralizado não é, por si só, uma falha de segurança. O risco depende de quais informações estão disponíveis, de quem pode acessá-las e de como os privilégios são controlados.

🛡️ A empresa está reforçando suas defesas

A OpenAI afirma que vem tomando medidas para reduzir os riscos.

Segundo uma das fontes citadas pela Reuters, Thibault Sottiaux, executivo sênior de produto, assumiu a liderança de uma iniciativa para proteger os sistemas internos. Em agosto, ele teria transferido um quarto dos engenheiros de produção da empresa para trabalhar na infraestrutura de segurança.

A porta-voz Elana Widmann declarou que a OpenAI está entre as organizações mais visadas do mundo e que as medidas recentes demonstram a capacidade do programa de segurança de identificar riscos e responder a eles.

📌 Outro movimento ocorreu em 2 de novembro: depois que a Reuters solicitou um posicionamento, a empresa publicou um texto anunciando o planejamento de um novo ciclo de trabalho dedicado à segurança interna.

O esforço indica que a proteção da infraestrutura passou a exigir recursos humanos e técnicos significativos. Também levanta uma questão importante: quanto da estrutura de segurança precisa ser reforçado para acompanhar o crescimento e a complexidade dos sistemas de IA?

🎙️ O caso do dispositivo de gravação

A preocupação com a segurança ganhou contornos ainda mais concretos em outubro, quando autoridades americanas anunciaram a prisão de um funcionário da OpenAI.

Segundo informações do Departamento de Justiça dos Estados Unidos citadas na reportagem, Abdulrahman Alfozan, engenheiro de 35 anos e cidadão saudita, foi acusado de esconder um dispositivo de gravação de áudio em uma sala de reuniões da diretoria.

O equipamento estaria embrulhado em papel higiênico. De acordo com a acusação, o engenheiro também teria usado uma ferramenta interna de IA para consultar informações sobre viagens de executivos à Arábia Saudita.

Um juiz determinou que ele permanecesse preso sem direito a fiança, segundo o material citado. As alegações fazem parte do processo e não devem ser confundidas com uma condenação.

O episódio evidencia que a segurança corporativa não depende apenas de proteger modelos contra invasões. Ela também envolve o controle de acesso a informações, ferramentas internas e dados sobre a rotina dos executivos.

Segundo a Reuters, ex-funcionários disseram que não ficaram surpresos com a descoberta do dispositivo, diante das preocupações que já haviam manifestado sobre a segurança interna.

💻 Funcionários tiveram contas do ChatGPT comprometidas

O caso do dispositivo não foi o único episódio envolvendo os sistemas da OpenAI.

Em julho, pesquisadores da Hacktron AI afirmaram ter usado o Claude, modelo da Anthropic, para encadear duas vulnerabilidades críticas. A técnica teria permitido assumir o controle das contas do ChatGPT de vários funcionários da OpenAI e acessar repositórios internos.

A OpenAI confirmou o relato e informou que as falhas haviam sido corrigidas.

O episódio chama atenção por envolver uma ferramenta de IA concorrente no processo de exploração das vulnerabilidades. Isso não significa que o Claude tenha agido de forma autônoma ou que a Anthropic tenha participado do ataque. O relato trata do uso do modelo para encadear falhas de segurança.

A distinção é importante: modelos de IA podem ajudar pesquisadores a identificar vulnerabilidades, mas as mesmas capacidades também podem facilitar a exploração de sistemas mal protegidos.

🧩 A Anthropic também enfrenta problemas

A concorrente da OpenAI tampouco ficou fora dos incidentes.

No fim de outubro, a startup Cathedral Systems afirmou ter invadido sistemas da Anthropic e obtido acesso a canais do Slack nos quais funcionários discutiam informações sensíveis sobre os modelos.

A Anthropic declarou que os dados expostos incluíam alguns contatos comerciais de clientes e parceiros, além de registros básicos de contas de usuários.

Os dois casos mostram que empresas que desenvolvem modelos avançados enfrentam desafios semelhantes: precisam proteger informações comerciais, infraestrutura de desenvolvimento e sistemas internos que podem concentrar dados valiosos.

Há, porém, uma diferença importante entre os episódios: as alegações sobre a Cathedral Systems, os relatos envolvendo a Hacktron AI e as preocupações internas descritas pela Reuters são casos distintos, com circunstâncias e níveis de confirmação diferentes.

Não é correto tratá-los como evidência de uma única campanha coordenada.

⚖️ A corrida da IA pode estar cobrando seu preço

O pano de fundo é uma competição intensa entre empresas que disputam usuários, clientes corporativos e liderança tecnológica.

OpenAI, Google e Anthropic precisam lançar modelos cada vez mais capazes sem deixar de proteger os sistemas que sustentam seu desenvolvimento. O problema é que controles adicionais podem exigir mais revisões, processos de aprovação e tempo de engenharia.

Will DePue, ex-pesquisador da OpenAI que pediu demissão em abril, resumiu a tensão em uma publicação citada pela Reuters. Segundo ele, os líderes do setor não estariam dispostos a sacrificar velocidade pela segurança, mesmo diante de adversários nacionais importantes.

A declaração representa a avaliação de um ex-funcionário, não uma comprovação independente de que a liderança da OpenAI tenha deliberadamente negligenciado riscos.

Ainda assim, ela aponta para um dilema real: em uma corrida tecnológica, atrasar um lançamento pode ter custos comerciais, mas acelerar o desenvolvimento sem controles adequados também pode ampliar a exposição a ataques e vazamentos.

📉 Segurança também pode afetar os planos de abertura de capital

A discussão tem implicações que vão além da engenharia.

Segundo a Reuters, o aumento da fiscalização sobre OpenAI e Anthropic pode dificultar os planos de ambas para grandes ofertas públicas de ações, além de desacelerar suas pesquisas.

Para empresas que pretendem captar grandes volumes de recursos no mercado financeiro, a capacidade de demonstrar controles internos robustos é relevante para investidores, parceiros e reguladores.

Uma falha de segurança não determina, por si só, o sucesso ou o fracasso de uma oferta pública. Mas incidentes recorrentes, controles insuficientes ou dificuldades para proteger informações estratégicas podem aumentar os riscos percebidos.

A questão é especialmente sensível para empresas cujos principais ativos incluem modelos, dados, infraestrutura computacional e propriedade intelectual.

No fim, a OpenAI precisa provar que consegue proteger não apenas os modelos que entrega aos usuários, mas também os sistemas e as informações que permitem criá-los. E, à medida que a IA ganha importância estratégica, a pergunta deixa de ser apenas quem desenvolve o modelo mais avançado.

A próxima disputa também será sobre quem consegue demonstrar que seus sistemas são seguros o suficiente para sustentar essa liderança.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário