Anthropic quer acelerar a IA sem deixar a corrida sair do controle

Principais destaques

• Três freios bem específicos: Dario Amodei propõe avaliadores independentes dentro dos laboratórios, regras nos EUA e, no futuro, coordenação internacional.
• A indústria reagiu rápido: OpenAI, DeepMind e Microsoft apoiaram partes importantes da proposta, enquanto Mark Zuckerberg questionou a necessidade de transformar segurança em campanha regulatória.
• Washington pensa em outra corrida: Donald Trump rejeitou a ideia de uma crise existencial causada pela IA e colocou a disputa tecnológica com a China no centro da discussão.

A inteligência artificial virou uma corrida em que ninguém quer pisar no freio primeiro.

É justamente aí que entra Dario Amodei, CEO da Anthropic. Em um ensaio chamado “We Must Pace the Frontier”, ele propôs uma ideia menos dramática do que uma pausa geral e mais ambiciosa do que simplesmente pedir que cada empresa seja cuidadosa.

A proposta é controlar a velocidade das partes mais arriscadas do desenvolvimento de IA, sem interromper o avanço tecnológico como um todo.

E Amodei dividiu essa ideia em três frentes.

O primeiro freio está dentro dos próprios laboratórios 🔎

A proposta mais concreta envolve avaliadores independentes incorporados aos laboratórios de IA.

A diferença está no nível de acesso.

Em vez de receber um relatório preparado pela própria empresa e analisá-lo de fora, esses avaliadores teriam acesso semelhante ao de funcionários: poderiam estar presentes nos escritórios, receber equipamentos da companhia e utilizar as mesmas ferramentas empregadas nas avaliações internas de segurança.

🧪 A lógica é simples: se o objetivo é descobrir riscos reais, o auditor precisa enxergar o sistema durante o desenvolvimento, não apenas depois que tudo já foi organizado para apresentação.

A Anthropic diz que pretende adotar esse modelo independentemente de outras empresas seguirem o mesmo caminho.

Isso transforma a proposta em algo mais concreto do que uma recomendação genérica de “mais segurança”.

💡 O ponto central da ideia: avaliação independente só funciona de verdade se o avaliador conseguir enxergar o que a equipe interna enxerga.

Mas Amodei não quer regular só quem concordar 🇺🇸

A segunda parte entra no terreno político.

Amodei defende regulação americana aplicada a todas as empresas de fronteira, inclusive aquelas que não participarem voluntariamente de mecanismos de segurança.

Mas ele não propõe uma regulamentação ampla sobre toda a inteligência artificial.

O foco é bem mais estreito:

• restringir a venda de chips avançados e equipamentos de fabricação de semicondutores para a China;

• combater o contrabando desse hardware;

• restringir a destilação não autorizada de modelos de fronteira por empresas de países autoritários;

• reforçar a segurança das empresas para impedir o roubo de pesos de modelos.

A preocupação, portanto, mistura segurança de IA com segurança nacional, propriedade intelectual e competição tecnológica.

Pensando nisso, existe uma tensão importante na proposta: como criar limites sem fazer com que os EUA desacelerem mais do que seus concorrentes?

A China aparece no plano, mas de um jeito diferente 🇨🇳

Amodei não apresenta a China apenas como adversária.

Na terceira etapa do plano, ela aparece como um país com o qual algum grau de coordenação seria necessário.

É a parte mais distante e especulativa da proposta.

O raciocínio é que certos riscos não respeitam fronteiras. Se uma tecnologia puder facilitar o desenvolvimento de armas biológicas, por exemplo, pouco adianta um único país impor restrições enquanto outro continua avançando sem os mesmos limites.

🌍 O salto é enorme: a proposta deixa de ser sobre o comportamento de uma empresa e passa a envolver acordos entre potências que competem diretamente em tecnologia.

Entre as possibilidades citadas estão compromissos para não usar IA no desenvolvimento de armas biológicas, testes prévios entre países antes do lançamento de modelos e algum tipo de limite para a velocidade da melhoria recursiva.

E o que seria essa “melhoria recursiva”? ⚙️

É uma das ideias mais difíceis do plano.

Imagine um modelo ajudando pesquisadores a criar uma versão melhor de si mesmo. Essa nova versão, por sua vez, ajuda a produzir outra ainda mais capaz.

O processo pode se tornar um ciclo de aceleração.

Amodei levanta a possibilidade de algum tipo de “limite de velocidade” para esse processo. Não é uma proposta detalhada de como medir ou fiscalizar essa velocidade, mas uma tentativa de colocar o tema na mesa antes que a capacidade de autoaperfeiçoamento se torne ainda mais relevante.

É justamente aqui que a ideia de “pacing” ganha seu significado.

Não seria parar a corrida.

Seria tentar evitar que determinados trechos da corrida passem a acontecer rápido demais para que os mecanismos de segurança acompanhem.

Então os outros laboratórios compraram a ideia? 🤔

A reação veio em poucos dias e foi bastante pública.

Sam Altman, da OpenAI, disse concordar com a necessidade de “pacing” e afirmou que a empresa também adotaria o modelo de avaliadores incorporados, chamando a ideia de boa.

Demis Hassabis, do Google DeepMind, afirmou que o ensaio aponta para um caminho adequado, embora os detalhes ainda precisem ser definidos.

Satya Nadella, da Microsoft, também recebeu positivamente a proposta, especialmente a ideia dos avaliadores independentes.

Elon Musk, por sua vez, simplesmente republicou o ensaio com uma manifestação de apoio.

Há, portanto, uma convergência em um ponto bastante específico: a avaliação independente ganhou espaço como possível prática comum entre os grandes laboratórios.

Zuckerberg colocou um asterisco nessa história 🧩

Mark Zuckerberg apresentou a principal divergência pública.

O argumento do CEO da Meta não foi que segurança e alinhamento sejam irrelevantes. A discordância está em outro lugar: seria realmente necessário transformar essa preocupação em uma campanha pública por novas regulações?

Na visão apresentada por Zuckerberg, os próprios laboratórios já têm incentivos suficientes para desenvolver sistemas seguros.

Ele citou como exemplo um produto que a Meta teria atrasado por meses enquanto trabalhava em questões de segurança, descrito em sua manifestação como “Muse”.

A lógica é que a empresa pode simplesmente tomar essas decisões internamente, sem precisar defender novas regras para todo o setor.

🗣 O contraponto é importante: Zuckerberg também afirmou que a Meta Superintelligence Labs já utiliza avaliadores e consultores independentes em determinadas áreas porque isso melhora o trabalho.

Ou seja, a divergência não está necessariamente sobre a ferramenta.

Está sobre quem deve decidir quando ela é obrigatória e qual papel o governo deve desempenhar.

A Casa Branca puxou a discussão para outro lado 🇺🇸

A reação de Donald Trump foi consideravelmente mais dura com o enquadramento de segurança.

O presidente classificou a preocupação mais ampla com riscos da IA como uma “hoax” e uma “sick conspiracy” que, segundo ele, beneficiaria principalmente a China.

Ao mesmo tempo, afirmou que o governo já possui poderes criminais e regulatórios consideráveis sobre as empresas e não demonstrou interesse em ampliar as salvaguardas nos termos defendidos por Amodei.

O eixo apresentado por Trump foi outro: competitividade.

💡 A frase que resume essa visão é direta: “whoever wins AI wins.”

Em uma participação por telefone no All-In Summit, ao lado do CEO da Nvidia, Jensen Huang, Trump voltou a rejeitar a ideia de que IA ou robôs estejam prestes a “assumir o controle”.

Mas também falou em agir com prudência.

Na mesma conversa, associou a construção de data centers a benefícios econômicos locais e afirmou que a administração trabalharia para que todos ganhassem na corrida de IA americana.

Duas visões começam a se separar 🚦

É aqui que o episódio fica maior do que o ensaio da Anthropic.

De um lado, aparece uma visão na qual o desenvolvimento de IA pode continuar rapidamente, mas determinadas capacidades precisam de avaliação, limites e coordenação externa.

Do outro, há uma visão mais concentrada em responsabilidade interna das empresas e competição tecnológica, com menos espaço para novas exigências regulatórias.

Não significa que exista uma divisão simples entre empresas “a favor” e “contra” segurança.

As declarações públicas mostram algo mais específico: há concordância considerável sobre a importância do alinhamento, mas menos consenso sobre como fiscalizá-lo.

Por que esse debate apareceu agora? ⏱️

O ensaio surgiu depois de uma onda de preocupação pública sobre riscos extremos da inteligência artificial.

Uma publicação viral na semana anterior havia provocado discussões sobre riscos existenciais e alcançado tanto pessoas ligadas à indústria quanto observadores externos.

Amodei respondeu tentando transformar esse temor difuso em mecanismos concretos.

Em vez de apenas dizer que a IA pode ser perigosa, a proposta pergunta: quem verifica os laboratórios? O que o governo deve controlar? E quais riscos exigiriam coordenação entre países?

Essa mudança de linguagem é relevante.

O debate sai do terreno abstrato e entra em questões que podem, pelo menos em princípio, ser testadas, regulamentadas ou negociadas.

E agora? O difícil começa depois do discurso 🧭

O material não registra uma nova regulamentação formal nem um acordo internacional decorrente do ensaio.

O que existe é uma combinação curiosa.

OpenAI, DeepMind e Microsoft demonstraram apoio à ideia de avaliadores independentes. Zuckerberg defendeu uma abordagem mais baseada na iniciativa das próprias empresas. E a Casa Branca colocou a competição com a China acima da narrativa de risco existencial.

O ponto de interrogação permanece justamente onde a proposta de Amodei fica mais ambiciosa: como transformar uma ideia de “ritmo seguro” em regras verificáveis sem prejudicar a corrida tecnológica que os próprios Estados Unidos querem vencer?

A corrida continua. A discussão agora é sobre quem, exatamente, deveria ficar com o pé no freio quando o acelerador estiver no chão.