Principais destaques
- Um padrão aberto: A Advanced AI Society lançou o rascunho do Proof-of-Control para permitir a verificação independente de agentes autônomos.
- Evidências em tempo real: O padrão propõe que agentes demonstrem continuamente que estão agindo dentro da autoridade que receberam.
- A discussão chegou à política: A iniciativa acompanha propostas nos EUA sobre verificação contínua e avaliação independente de sistemas autônomos.
Agentes de IA estão deixando de ser apenas ferramentas que respondem a comandos. Eles já começam a executar tarefas, tomar decisões e operar sistemas com cada vez menos intervenção humana.
E aí aparece uma pergunta bastante incômoda: como saber se um agente está fazendo exatamente aquilo que foi autorizado a fazer?
A Advanced AI Society quer transformar essa pergunta em algo que possa ser respondido tecnicamente.
Na quinta-feira, 17 de setembro, a organização anunciou sua entrada na Linux Foundation e na LF Decentralized Trust e apresentou o rascunho do Proof-of-Control v1.0, um padrão aberto criado para tornar agentes autônomos verificáveis por terceiros.
A proposta está aberta a comentários públicos até 30 de outubro de 2026.
Não basta confiar no agente 🤖
O conceito central é relativamente simples.
Em vez de depender exclusivamente da empresa que criou determinado agente para afirmar que ele está operando dentro das regras, o sistema deveria produzir evidências verificáveis de seu comportamento.
O padrão foi desenvolvido por mais de 80 líderes globais de segurança em conjunto com empresas integrantes da aliança.
🔐 A ideia central: antes de agir, a autoridade concedida ao agente precisa estar definida. Durante sua operação, ele deve produzir evidências de que continua dentro desses limites.
Essas evidências também precisam permanecer auditáveis ao longo do ciclo de vida do agente.
Isso muda uma premissa importante da segurança tradicional. Em vez de perguntar apenas se um sistema foi avaliado antes de entrar em operação, a proposta é acompanhar também aquilo que ele efetivamente faz enquanto está funcionando.
“Uma aprovação anual ou mesmo trimestral não é suficiente” quando agentes conseguem agir em milissegundos, segundo Tricia Wang, cofundadora e CEO da Advanced AI Society.
E por que isso importa agora? ⚡
O problema está relacionado à velocidade.
Uma auditoria convencional pode avaliar um sistema em determinado momento. Mas um agente autônomo pode executar dezenas ou centenas de ações durante o intervalo entre duas revisões humanas.
Pensando em um agente autorizado a operar sistemas financeiros, infraestrutura digital ou ferramentas corporativas, a questão deixa de ser apenas “ele foi aprovado?”.
Passa a ser também:
“Ele continua fazendo apenas aquilo que foi autorizado a fazer?”
É justamente nesse espaço que o Proof-of-Control pretende atuar.
A aposta no código aberto
O padrão será hospedado como um laboratório dentro da LF Decentralized Trust, estrutura ligada à Linux Foundation.
A escolha não é apenas institucional.
Segundo Tricia Wang, colocar o projeto dentro da organização ajudaria a evitar que uma única empresa assumisse o papel de árbitro sobre o funcionamento do padrão.
🧩 A lógica é familiar: os princípios de transparência e colaboração do código aberto agora são aplicados à chamada “pilha agêntica”, a camada em que agentes tomam decisões e executam ações autonomamente.
Na prática, isso significa tentar criar uma infraestrutura comum para que diferentes organizações possam verificar agentes sem depender exclusivamente das ferramentas internas de seus fabricantes.
Quem está apoiando a iniciativa?
O projeto também recebeu apoio de nomes ligados à segurança, criptografia, finanças e governo.
Bruce Schneier, criptógrafo que integra o conselho de revisão do Proof-of-Control, afirmou que saber exatamente quais ações os agentes estão autorizados a executar será fundamental conforme esses sistemas se tornarem mais presentes.
J. Christopher Giancarlo, ex-presidente da Comissão de Negociação de Futuros de Commodities dos EUA, relacionou o padrão especialmente ao momento em que agentes começam a receber autoridade econômica real.
Segundo ele, a proposta fornece uma forma de prova verificável por máquinas para esse cenário, especialmente em mercados financeiros e redes digitais.
A política também entrou na conversa 🏛️
A discussão não está acontecendo apenas entre desenvolvedores.
O lançamento ocorre em um momento em que propostas bipartidárias no Congresso dos Estados Unidos discutem mecanismos de verificação contínua de agentes de IA e avaliações obrigatórias realizadas por terceiros.
O movimento também se conecta a iniciativas governamentais mais amplas.
Em fevereiro de 2026, o NIST lançou uma iniciativa voltada a padrões para agentes de IA, com foco no desenvolvimento de protocolos de segurança e interoperabilidade conduzidos pela indústria.
A existência de diferentes iniciativas aponta para uma preocupação comum: à medida que agentes recebem mais autonomia, a segurança precisa acompanhar não apenas o modelo de IA, mas também as permissões e ações executadas por ele.
O agente precisa deixar rastros 🔎
É aí que entra uma das características mais interessantes da proposta.
O Proof-of-Control não se limita a estabelecer previamente o que um agente pode fazer. Ele também prevê a produção de evidências durante sua operação.
Em termos práticos, a arquitetura apresentada pela iniciativa busca responder a três perguntas:
• Qual autoridade foi concedida ao agente?
• O que ele fez enquanto estava operando?
• É possível verificar posteriormente se suas ações permaneceram dentro dos limites?
Esse último ponto é particularmente importante.
Se as evidências puderem ser auditadas depois, uma organização não precisaria simplesmente aceitar a palavra do fornecedor de IA sobre o comportamento de seu agente.
“Quem está vigiando as máquinas?” 👀
A pergunta ganhou até nome para o evento de lançamento.
Na quarta-feira, 23 de setembro, a Advanced AI Society e a LF Decentralized Trust realizarão o encontro público “Who’s Watching the Machines?”.
A expectativa é reunir desenvolvedores, organizações que implementam agentes e especialistas em políticas públicas para discutir o rascunho antes de sua possível finalização.
O objetivo é justamente colocar o padrão em debate antes que ele se torne uma especificação consolidada.
🗣️ A provocação de Clay Shirky: o vice-reitor de IA e tecnologia na educação da Universidade de Nova York defende que agentes precisam ser registrados e que seus registros sejam abertos para permitir a validação de afirmações sobre seu comportamento.
A próxima camada da IA pode ser a auditoria
Durante anos, boa parte da discussão sobre segurança em IA esteve concentrada no modelo: seus dados, seus testes, seus vieses, seus limites e suas respostas.
Os agentes introduzem outra variável.
Um modelo pode responder a uma pergunta. Um agente pode usar essa resposta para fazer alguma coisa.
Essa diferença torna autoridade, rastreabilidade e auditoria questões cada vez mais relevantes.
O Proof-of-Control tenta transformar esses conceitos em uma infraestrutura verificável e compartilhada. Ainda é um rascunho, sujeito a comentários e mudanças, mas a discussão aponta para uma possível mudança de paradigma: no futuro, talvez não seja suficiente perguntar qual IA está por trás de um agente.
Será preciso saber também quem autorizou aquele agente, quais limites recebeu e quais provas deixou pelo caminho.
Afinal, quando uma máquina passa a agir sozinha em milissegundos, alguém ainda precisa conseguir olhar para os rastros que ela deixou.
