Principais destaques
- Um limite para riscos catastróficos: a proposta prevê medidas contra modelos que representem risco iminente de matar mais de 50 pessoas ou causar mais de US$ 1 bilhão em danos materiais.
- Uma avaliação independente: especialistas registrados no Departamento de Comércio dos EUA analisariam os riscos antes que um modelo potencialmente perigoso chegasse ao público.
- A decisão ficaria com a Justiça: a proposta prevê que o governo solicite a um juiz federal o bloqueio do lançamento, em vez de permitir que uma agência suspenda a distribuição por conta própria.
A Anthropic está levando uma proposta de regulação da inteligência artificial ao Congresso dos Estados Unidos que pode impedir o lançamento de modelos considerados perigosos.
A ideia é estabelecer limites legais para sistemas capazes de provocar mortes em larga escala, facilitar ataques cibernéticos ou contribuir para a criação de armas biológicas.
A iniciativa coloca a empresa por trás do Claude em uma posição interessante: a de uma desenvolvedora de IA que defende regras capazes de restringir o lançamento de seus próprios produtos.
🚨 Quando uma inteligência artificial se torna perigosa demais?
A proposta de lei, revelada pelo Politico em 16 de outubro de 2026, estabelece critérios para identificar situações em que a distribuição de um modelo de IA poderia ser interrompida.
O texto trabalha com o conceito de risco iminente e previsível, associado a três cenários principais:
- Criação ou liberação de uma arma biológica.
- Um modelo de IA que consiga escapar dos controles estabelecidos por seus desenvolvedores.
- Um ataque cibernético capaz de provocar consequências catastróficas.
O critério financeiro também chama a atenção. Além do risco de mais de 50 mortes, a proposta considera a possibilidade de danos materiais superiores a US$ 1 bilhão.
💡 A questão central: a ideia não é proibir qualquer modelo que apresente riscos, mas criar um mecanismo legal para impedir lançamentos quando houver evidências de uma ameaça catastrófica iminente.
Os limites lembram os adotados pela legislação californiana conhecida como Senate Bill 53, que também trata de riscos extremos associados à inteligência artificial.
⚖️ Quem teria poder para bloquear um modelo?
A proposta estabelece uma cadeia de avaliação e intervenção que busca combinar fiscalização técnica com controle judicial.
O processo funcionaria assim:
1️⃣ Avaliação de segurança: especialistas independentes examinariam as capacidades e os riscos do modelo.
2️⃣ Notificação em até 72 horas: caso identificassem um risco catastrófico iminente, os avaliadores teriam esse prazo para comunicar o Departamento de Comércio dos Estados Unidos.
3️⃣ Pedido de bloqueio judicial: o departamento precisaria solicitar a um juiz de Washington, D.C., uma ordem para suspender o lançamento.
A proposta também impediria que uma agência federal decidisse, por conta própria, bloquear a distribuição do modelo.
A escolha é relevante porque tenta estabelecer um limite para a intervenção do governo sem deixar a decisão exclusivamente nas mãos das empresas de tecnologia.
🔍 Avaliadores independentes, mas pagos pelas próprias empresas?
Existe um detalhe delicado nesse desenho regulatório.
Os avaliadores seriam registrados no Departamento de Comércio, mas poderiam receber pagamentos das próprias empresas de inteligência artificial. A condição prevista é que a remuneração não dependa do resultado das avaliações.
Isso significa que um especialista poderia ser contratado por uma desenvolvedora para examinar um modelo, desde que o pagamento não estivesse condicionado à aprovação do sistema.
O desafio é garantir independência real quando quem está sendo fiscalizado também financia a fiscalização.
A regra procura evitar conflitos de interesse, mas não elimina automaticamente o problema. A independência dependeria também de critérios de seleção, transparência, responsabilização e mecanismos para lidar com possíveis pressões comerciais.
O debate não é exclusivo da Anthropic. Em julho de 2026, Demis Hassabis, CEO da Google DeepMind, defendeu a criação de um organismo independente para estabelecer padrões de segurança para a IA, inspirado em estruturas de autorregulação do setor financeiro.
🤖 O perigo não está apenas nas respostas de um chatbot
A discussão acontece em um momento no qual as preocupações com IA estão se deslocando para além de respostas incorretas, conteúdo enganoso e geração de informações perigosas.
Um dos focos é a evolução dos agentes de inteligência artificial, sistemas que conseguem executar tarefas, acessar ferramentas e realizar operações em ambientes digitais com diferentes graus de autonomia.
Isso amplia o potencial de uso, mas também cria novas superfícies de ataque.
Um agente com permissões excessivas, por exemplo, pode executar ações não pretendidas, explorar vulnerabilidades ou acessar recursos que deveriam permanecer protegidos. Se os mecanismos de controle falharem, as consequências podem ir muito além de uma resposta equivocada na tela.
A proposta da Anthropic inclui justamente a possibilidade de um modelo escapar dos controles de seus desenvolvedores e de ataques cibernéticos com consequências graves.
🔎 O ponto de tensão: quanto mais capazes se tornam esses sistemas, maior é a importância de testar não apenas o que conseguem fazer, mas também como se comportam quando encontram instruções maliciosas, falhas de segurança ou situações inesperadas.
🏛️ A Anthropic quer mais regulação que seus concorrentes?
A iniciativa também evidencia uma divisão dentro do setor de tecnologia.
De um lado, há empresas que defendem mecanismos de supervisão mais estruturados. De outro, executivos argumentam que a indústria deve ter liberdade para desenvolver e implementar seus próprios padrões de segurança.
Jensen Huang, CEO da Nvidia, por exemplo, afirmou recentemente que o setor não precisaria de novas leis específicas para IA, defendendo que a própria indústria assumisse a responsabilidade pela segurança.
A proposta da Anthropic vai além de um compromisso voluntário: ela procura transformar determinados critérios de segurança em obrigações legais, com participação de avaliadores externos e supervisão judicial.
Isso não significa, porém, que a empresa tenha resolvido todas as questões sobre como fiscalizar seus próprios modelos ou como aplicar regras semelhantes a desenvolvedores menores.
📌 Uma proposta ainda precisa virar lei
É importante distinguir a iniciativa de uma legislação já em vigor.
O texto apresentado pela Anthropic é uma proposta que a empresa pretende levar aos legisladores americanos. Sua divulgação não significa que o Congresso tenha aprovado as regras ou que exista um mecanismo federal já operacional para barrar lançamentos com base nesses critérios.
Também permanecem questões sobre a aplicação prática: como definir um risco iminente, quais evidências seriam suficientes para justificar uma suspensão e como impedir que avaliações técnicas sejam influenciadas por interesses comerciais ou políticos.
Se avançar, a proposta poderá ajudar a estabelecer parâmetros mais claros para os casos extremos em que a liberação de uma IA representa um perigo concreto.
A questão é que a corrida pela inteligência artificial não costuma esperar pela burocracia. E, quando um modelo é capaz de agir sobre sistemas reais, a diferença entre identificar um risco no laboratório e reagir a ele depois do lançamento pode ser decisiva.
