Principais destaques
- Destilação sob suspeita: DeepSeek e Moonshot AI teriam utilizado respostas do GPT-6 Astra, da OpenAI, em larga escala para aprimorar seus modelos mais recentes, segundo reportagem do The Information.
- Modelos chineses na mira: Kimi K3.1 Pro e DeepSeek V4.1-Flash 1017 são citados como beneficiários da técnica, que permite aprender com as respostas de sistemas mais avançados.
- Disputa tecnológica se intensifica: O caso amplia as preocupações das empresas americanas com a extração de capacidades de seus modelos por concorrentes chineses.
Duas das principais desenvolvedoras chinesas de inteligência artificial estariam recorrendo a uma estratégia que pode reduzir significativamente o custo de desenvolvimento de novos modelos: aprender com as respostas de sistemas já existentes.
Segundo reportagem publicada pelo The Information na quarta-feira, 28 de outubro, a DeepSeek e a Moonshot AI teriam utilizado respostas do GPT-6 Astra, da OpenAI, em larga escala para treinar suas IAs. A informação foi atribuída a pessoas familiarizadas com o assunto e posteriormente repercutida pela Reuters.
A acusação coloca novamente a destilação de modelos no centro da disputa entre Estados Unidos e China. A técnica pode acelerar o desenvolvimento de sistemas concorrentes, mas também levanta questões sobre os termos de uso das APIs e a proteção das tecnologias mais avançadas.
Como funciona a destilação de modelos de IA?
A destilação é uma técnica de treinamento na qual um modelo aprende a reproduzir ou se aproximar das capacidades de outro sistema utilizando suas respostas como exemplos.
Em vez de desenvolver todas as capacidades do zero, uma empresa pode enviar perguntas a um modelo mais avançado, coletar suas respostas e utilizar esses dados para aprimorar um sistema próprio.
A vantagem é o custo. Treinar um modelo de fronteira exige grandes volumes de dados, poder computacional e investimentos elevados. A destilação pode ajudar a reproduzir determinadas capacidades sem repetir integralmente esse processo.
Isso não significa, necessariamente, copiar os parâmetros internos do modelo original. O objetivo pode ser reproduzir padrões de resposta, habilidades de raciocínio e desempenho em tarefas específicas a partir dos resultados observáveis.
O problema surge quando esse processo utiliza serviços comerciais em larga escala em desacordo com as condições estabelecidas pelo fornecedor.
Dois modelos chineses são citados na reportagem
De acordo com o relato do The Information, dois lançamentos recentes teriam se beneficiado da destilação do GPT-6 Astra.
Moonshot AI: Kimi K3.1 Pro
O modelo foi lançado na semana anterior à publicação da reportagem. A Moonshot AI é apontada como uma das desenvolvedoras que teriam recorrido às respostas do Astra para treinar seus sistemas.
DeepSeek: V4.1-Flash 1017
A versão atualizada foi lançada em 17 de outubro e também é citada na reportagem como beneficiária da técnica.
Até o momento descrito no material, nenhuma das duas empresas chinesas nem a OpenAI havia respondido aos pedidos de comentário feitos pela Reuters.
Portanto, as informações devem ser tratadas como alegações atribuídas a fontes ouvidas pela reportagem, e não como uma conclusão técnica independente sobre o treinamento dos modelos.
OpenAI já havia denunciado uma campanha de extração
O novo relato surge após a própria OpenAI afirmar que interrompeu uma campanha coordenada para extrair o raciocínio protegido de seus modelos.
Em uma publicação de blog de 30 de setembro, a empresa informou que havia detectado atividades desse tipo pela primeira vez no início de julho. Segundo a OpenAI, indivíduos associados à Moonshot AI estavam ligados a um núcleo central da operação, embora a companhia tenha reconhecido incertezas sobre a identidade de todos os envolvidos.
Os números divulgados pela OpenAI chamam a atenção:
- 16 mil requisições foram registradas nos dias 24 e 25 de julho.
- Mais de 4 mil usuários participaram da atividade identificada.
- 28 de julho foi a data em que, segundo a empresa, a campanha foi totalmente encerrada.
A OpenAI afirmou que os operadores copiavam o raciocínio criptografado de uma conversa e solicitavam sua descriptografia em outra interação com o modelo.
A empresa também informou ter banido contas, reforçado os controles de cadastro e ampliado o monitoramento de rede.
Há, porém, uma ressalva importante: segundo o CyberScoop, a publicação da OpenAI não apresentou evidências técnicas para sustentar publicamente a atribuição da campanha.
Anthropic também aponta tentativas de destilação
A OpenAI não é a única empresa americana preocupada com o uso de seus modelos para treinar concorrentes.
Em 12 de outubro, a Anthropic afirmou que novas salvaguardas reduziram em aproximadamente 90% a 99% os dados coletados em ataques de destilação. A empresa também citou a Zhipu, conhecida como Z.ai, entre as companhias que teriam tentado destilar o Claude.
Segundo a Anthropic, a quantidade de tokens de raciocínio extraídos por operadores desse tipo passou a ser de 10 a 100 vezes menor do que anteriormente.
A preocupação é especialmente relevante para modelos que disponibilizam acesso por APIs. Mesmo quando o usuário não tem acesso aos pesos do sistema, as respostas podem fornecer exemplos úteis para treinar outro modelo.
Por que isso preocupa o mercado de IA?
O treinamento de modelos avançados custa caro. Se uma empresa consegue aproveitar respostas de um concorrente para desenvolver um sistema com capacidades semelhantes em determinadas tarefas, ela pode reduzir parte do investimento necessário.
A destilação, por si só, não é uma prática necessariamente irregular. Ela também é utilizada legitimamente para criar modelos menores, mais rápidos e baratos. A questão central está em como os dados são obtidos, quais são os objetivos do treinamento e se o procedimento respeita os contratos e as proteções aplicáveis.
O uso não autorizado de respostas em larga escala pode gerar três consequências importantes:
- Pressão competitiva: empresas que investem grandes quantias no desenvolvimento de modelos podem ter mais dificuldade para preservar sua vantagem.
- Riscos de segurança: capacidades extraídas podem ser incorporadas a sistemas que não mantêm as mesmas salvaguardas do modelo original.
- Disputa comercial: fornecedores podem endurecer termos de uso, monitoramento e restrições de acesso às APIs.
A OpenAI argumenta que a destilação adversarial representa riscos à segurança e à segurança nacional, especialmente quando o raciocínio extraído é utilizado para treinar outro modelo sem preservar as proteções aplicadas às respostas destinadas aos usuários.
A corrida pela IA também é uma corrida para proteger conhecimento
O episódio expõe uma contradição da indústria. APIs abertas a desenvolvedores ajudam a ampliar o uso de modelos avançados, mas também podem criar oportunidades para que terceiros coletem grandes volumes de respostas e reproduzam parte de suas capacidades.
Restringir o acesso pode dificultar esse tipo de operação, mas também prejudicar desenvolvedores legítimos. O desafio é distinguir o uso comercial normal de padrões coordenados de extração de dados.
Se as alegações forem confirmadas, o caso poderá reforçar a tendência de controles mais rigorosos sobre o acesso a modelos de ponta.
A disputa entre as empresas americanas e chinesas, portanto, não depende apenas de quem lança o modelo mais poderoso. Depende também de quem consegue transformar suas descobertas em uma vantagem duradoura, sem permitir que concorrentes reproduzam suas capacidades com uma fração do investimento.
