Anthropic cria tecnologia para provar qual IA respondeu a você

Renê Fraga
9 min de leitura

Principais destaques

  • Prova criptográfica de origem: o FlashProve permite verificar se uma resposta foi produzida por um modelo específico, sem expor seus parâmetros internos.
  • Teste com 400 bilhões de parâmetros: a Anthropic demonstrou a tecnologia com o Llama 4 Maverick, da Meta, usando uma GPU Nvidia H100 para gerar provas.
  • Ainda longe do uso comercial: o protótipo exige muito mais processamento que uma inferência convencional e apresenta limitações de contexto e geração de respostas.

A Anthropic apresentou o FlashProve, um protótipo de pesquisa que usa criptografia para comprovar qual modelo de inteligência artificial gerou uma resposta. A proposta é enfrentar um problema cada vez mais relevante no mercado de IA: como saber se um serviço realmente utiliza o modelo que promete aos clientes?

A tecnologia permite verificar a origem de uma resposta sem revelar os pesos internos do modelo, um dos componentes mais valiosos de sistemas proprietários. Apesar do potencial, a empresa afirma que não pretende implantar o FlashProve em seus próprios serviços nem disponibilizá-lo como produto.

🔎 O problema que a Anthropic quer resolver

Imagine contratar um serviço de IA que promete utilizar um modelo avançado, mas receber respostas geradas por uma alternativa mais barata. Ou testar um sistema para descobrir que, sem aviso, o provedor substituiu o modelo por outro durante a avaliação.

Hoje, comprovar de maneira independente qual modelo produziu determinada resposta pode ser difícil. O usuário normalmente precisa confiar nas informações fornecidas pela própria plataforma.

Isso importa especialmente para empresas que pagam por modelos premium, desenvolvedores que integram diferentes serviços de IA e pesquisadores que avaliam a segurança desses sistemas.

A questão vai além da transparência: se um modelo for substituído silenciosamente, a qualidade das respostas, o comportamento de segurança e até os resultados de uma auditoria poderão mudar.

A Anthropic afirma que provas desse tipo poderiam dificultar ataques que sequestram conversas e ajudar avaliadores a confirmar se estão testando o mesmo modelo oferecido aos clientes.

💡 A ideia é transformar a identidade do modelo em algo verificável, em vez de depender apenas da palavra do fornecedor.

🔐 Como o FlashProve funciona?

O protótipo utiliza zkSNARKs, uma família de provas criptográficas de conhecimento zero. Em termos simples, essas técnicas permitem demonstrar que determinada afirmação é verdadeira sem revelar todas as informações utilizadas para comprová-la.

No FlashProve, o processo é dividido em duas etapas.

1. Primeiro, uma impressão digital do modelo

Antes de gerar respostas verificáveis, o provedor publica um compromisso criptográfico (commitment) associado a um conjunto específico de pesos do modelo.

Esse compromisso funciona como uma espécie de impressão digital. Ele identifica o conjunto de parâmetros sem expor os próprios pesos, que podem constituir propriedade intelectual.

2. Depois, uma prova para cada resposta

Quando o modelo responde a um prompt, o sistema gera uma prova criptográfica de que os tokens produzidos correspondem à execução do modelo associado àquele compromisso.

Quem tiver o compromisso, o prompt, a resposta e a prova poderá verificar o resultado.

Por que isso é importante? Um desenvolvedor poderia, em princípio, comprovar a identidade de um modelo comercial sem precisar publicar seus parâmetros ou abrir mão do segredo industrial.

A verificação também pode ser realizada por terceiros, o que abre espaço para auditorias independentes. Isso não significa, porém, que a tecnologia garanta automaticamente a qualidade ou a segurança da resposta: ela procura comprovar a origem computacional da saída dentro das condições do protocolo.

⚡ O teste envolveu um modelo gigantesco

Para demonstrar a viabilidade da abordagem, a equipe da Anthropic testou o FlashProve com o Llama 4 Maverick, modelo da Meta baseado em uma arquitetura de mistura de especialistas (mixture-of-experts).

O sistema tem 400 bilhões de parâmetros. Nesse teste, os pesquisadores utilizaram uma única GPU Nvidia H100 para gerar as provas.

Os resultados mostram tanto o potencial quanto o custo da proposta.

Os números do experimento

IndicadorResultado
Modelo testadoLlama 4 Maverick, com 400 bilhões de parâmetros
Hardware utilizadoUma GPU Nvidia H100
Geração das provasMais de 100 tokens por segundo
Tamanho da provaAproximadamente 19 MB para uma requisição de 1.024 tokens
Tempo de verificação17 segundos em CPU com 24 threads

A taxa superior a 100 tokens por segundo pode parecer suficiente para aplicações interativas. Mas existe uma diferença importante: gerar a resposta e produzir a prova criptográfica são tarefas distintas.

O sistema precisa realizar trabalho adicional para demonstrar que a saída veio do modelo comprometido.

🧱 O custo é o principal obstáculo

O FlashProve ainda está distante de uma implementação prática em larga escala. Segundo os resultados divulgados, a geração de provas consome entre 70 e 95 vezes mais tempo de GPU do que a inferência convencional executada com vLLM.

Há outras restrições:

  • Contexto limitado: o protótipo trabalha com requisições de até 1.024 tokens.
  • Espera prolongada: uma requisição pode aguardar aproximadamente cinco minutos até que seu lote seja provado.
  • Modo de geração restrito: as garantias demonstradas se aplicam à decodificação gulosa (greedy decoding), não a respostas produzidas por amostragem.
  • Arquivos volumosos: uma prova de aproximadamente 19 MB para 1.024 tokens acrescenta custos de armazenamento e transmissão.

Essas limitações dificultam o uso em chatbots que precisam responder rapidamente, atender milhões de usuários e gerar textos com diferentes estratégias de amostragem.

Há também um detalhe importante: os pesquisadores provaram formalmente a solidez do protocolo usando Lean 4, uma linguagem voltada à formalização matemática. Isso fortalece a fundamentação do mecanismo, mas não elimina os custos de execução nem garante, por si só, a segurança de toda uma implementação em produção.

🧪 Pesquisa aberta, não um produto

O FlashProve foi desenvolvido pelo Frontier Red Team da Anthropic em colaboração com criptógrafos externos, incluindo Alessandro Chiesa.

O código foi publicado no GitHub sob a licença Apache 2.0. No entanto, o repositório é descrito como um artefato de pesquisa sem manutenção prevista e sem aceitação de contribuições.

A empresa apresenta a publicação como um convite para que outros pesquisadores examinem o trabalho, aproveitem seus resultados e tentem aprimorá-lo.

Isso ajuda a explicar por que a Anthropic decidiu divulgar o protótipo sem anunciar sua adoção comercial. O objetivo imediato é permitir que a comunidade investigue se a abordagem pode ser aperfeiçoada, e não oferecer uma nova função aos usuários de seus modelos.

E se a identidade da IA pudesse ser auditada?

A possibilidade de verificar qual modelo respondeu a uma pergunta pode se tornar relevante em ambientes nos quais confiança e rastreabilidade são essenciais, como avaliações de segurança, contratos corporativos e serviços que precisam demonstrar conformidade com requisitos técnicos.

Mas provar a identidade do modelo é apenas uma parte do desafio. Uma solução prática também precisaria controlar os custos, reduzir a latência e funcionar com as estratégias de geração utilizadas no mundo real.

O FlashProve ainda não resolve esses problemas. Seu valor, por enquanto, está em demonstrar um caminho técnico para tornar uma parte do funcionamento dos sistemas de IA verificável por terceiros.

Se a pesquisa evoluir, a confiança em um serviço de inteligência artificial poderá deixar de depender exclusivamente de uma promessa comercial. A questão agora é saber se será possível obter essa garantia sem tornar cada resposta muito mais cara e lenta.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário