Principais destaques
- Modelos abertos sob pressão: executivo da Anthropic afirma que sistemas de IA com pesos públicos apresentam riscos adicionais de segurança e cibersegurança.
- Disputa pela soberania tecnológica: modelos abertos da Europa e da China ganham espaço entre países que buscam alternativas às plataformas americanas.
- Segurança versus acesso: o debate expõe o conflito entre o controle de tecnologias avançadas, a inovação aberta e os interesses comerciais das empresas de IA.
A inteligência artificial está diante de um dilema cada vez mais evidente: quanto mais acessível se torna uma tecnologia, mais difícil pode ser controlar o que as pessoas fazem com ela.
Guillaume Princen, responsável pelas operações internacionais da Anthropic e principal executivo comercial da empresa fora dos Estados Unidos, fez um alerta sobre os riscos dos modelos de IA com pesos abertos. Em entrevista à Bloomberg TV, nesta quarta-feira (14), durante o International AI Summit, em Dublin, ele defendeu cautela com essas tecnologias.
“Precisamos ter muito cuidado com a segurança dos modelos de código aberto”, afirmou Princen. Segundo o executivo, esses sistemas apresentam, por definição, mais riscos do que alternativas fechadas, como as oferecidas pela própria Anthropic.
A declaração vai além de uma discussão técnica. Ela acontece em um momento no qual a empresa enfrenta concorrentes que oferecem modelos com maior liberdade de acesso, adaptação e implantação.
🔓 Afinal, o que muda quando os pesos são abertos?
Modelos de IA com pesos abertos permitem que desenvolvedores obtenham os parâmetros internos de um sistema e o executem em infraestrutura própria. Dependendo da licença e das condições de distribuição, também podem adaptá-lo para aplicações específicas.
Isso muda bastante a relação entre usuários e fornecedores.
Nos modelos fechados, o acesso normalmente ocorre por meio de uma plataforma ou API controlada pela empresa responsável. O fornecedor mantém maior controle sobre a infraestrutura, as atualizações e as medidas de segurança.
Já nos modelos com pesos abertos, organizações podem operar a tecnologia em seus próprios servidores, reduzir a dependência de serviços externos e ter mais autonomia sobre seus dados.
🔎 O outro lado dessa liberdade: depois que os pesos são distribuídos, o desenvolvedor original tem menos capacidade de controlar como cada cópia será utilizada, modificada ou integrada a outras ferramentas.
Isso não significa que todo modelo aberto seja perigoso. O nível de risco depende das capacidades do sistema, das proteções implementadas, das condições de distribuição e dos usos possíveis.
A questão é que algumas salvaguardas presentes em serviços centralizados podem ser removidas ou modificadas quando um modelo passa a ser executado localmente.
⚠️ O alerta da Anthropic não é consenso dentro da empresa
As declarações de Princen também chamam atenção pelo contraste com a posição pública de Dario Amodei, CEO da Anthropic.
Em julho, Amodei afirmou que a empresa nunca defendeu a proibição generalizada de modelos com pesos abertos. Ele também reconheceu que modelos sem capacidades perigosas podem representar um benefício público.
A diferença está no foco de cada argumento.
Princen enfatiza os riscos associados à categoria dos modelos abertos. A posição atribuída a Amodei, por sua vez, considera principalmente as capacidades específicas de cada modelo e o perigo que elas podem representar.
💡 O ponto central não é apenas quem pode acessar uma IA, mas quais capacidades ela oferece e até que ponto seus riscos podem ser controlados.
Essa distinção é importante para o debate regulatório. Uma política baseada exclusivamente no tipo de distribuição pode restringir tecnologias úteis, enquanto uma avaliação centrada nas capacidades exige métodos confiáveis para identificar riscos concretos.
🛡️ Cibersegurança entra no centro da disputa
Princen relacionou suas preocupações aos esforços da própria Anthropic para proteger seus produtos contra usos maliciosos. Após incidentes relevantes de segurança envolvendo sistemas de IA, a empresa implementou medidas para dificultar a utilização de seus modelos como ferramentas de ataque.
O alerta também acompanha uma preocupação mais ampla com o potencial de agentes de IA para automatizar atividades maliciosas.
No início da mesma semana, a Anthropic advertiu que modelos menores poderiam, futuramente, viabilizar um novo tipo de botnet: uma rede de dispositivos conectados à internet comprometidos e coordenados para executar ações sem autorização.
O cenário mencionado envolve aparelhos conectados, como fornos inteligentes, que poderiam ser incorporados a redes de dispositivos comprometidos.
Ainda se trata de um risco prospectivo, não de uma confirmação de que uma botnet com essas características já esteja operando.
🚨 Por que os modelos locais preocupam? Uma tecnologia que funciona em equipamentos controlados pelo próprio usuário pode ser implantada em ambientes com menos supervisão externa. Se suas capacidades forem utilizadas para automatizar ataques, a identificação e a interrupção do uso malicioso poderão se tornar mais difíceis.
A Anthropic também defende desacelerar o desenvolvimento da IA até que existam padrões internacionais e métodos consistentes de avaliação de segurança.
O desafio é transformar essa preocupação em critérios verificáveis, sem tratar todos os modelos e aplicações como se apresentassem o mesmo nível de risco.
🌍 Europa e China querem alternativas às plataformas americanas
O debate também tem uma dimensão geopolítica.
Países e organizações interessados em soberania tecnológica buscam reduzir a dependência de fornecedores estrangeiros. Modelos com pesos abertos podem ajudar nesse objetivo, permitindo que governos e empresas tenham maior controle sobre a infraestrutura, a implantação e a adaptação dos sistemas.
A francesa Mistral AI está entre as empresas que disputam esse mercado. Segundo a reportagem original, a companhia preparava um novo modelo apresentado como uma alternativa soberana para a Europa, com expectativa de disponibilizar seus pesos ainda em outubro.
Desenvolvedores chineses também vêm atraindo atenção internacional com modelos que oferecem alternativas às plataformas americanas.
O resultado é uma disputa com interesses diferentes:
• Governos: querem autonomia tecnológica e maior controle sobre dados e infraestrutura.
• Desenvolvedores: buscam liberdade para adaptar modelos e criar novos produtos.
• Empresas de IA fechada: defendem os benefícios de sistemas proprietários, com controles centralizados e investimentos contínuos em segurança.
• Pesquisadores e comunidades abertas: valorizam transparência, acesso, experimentação e a possibilidade de auditar ou modificar sistemas.
Nenhum desses interesses elimina automaticamente os demais. O desafio está em equilibrar acesso, inovação, segurança e competitividade.
💰 A Anthropic também precisa defender seu modelo de negócios
Existe ainda uma dimensão comercial nas declarações de Princen.
Modelos abertos podem ser atraentes para empresas que desejam controlar seus custos, hospedar sistemas internamente ou evitar dependência de um único fornecedor. Isso cria pressão sobre companhias que vendem acesso a modelos proprietários de alto desempenho.
Questionado sobre os custos para clientes corporativos, Princen argumentou que investir nos modelos mais avançados tende a compensar com o passar do tempo.
“Continue investindo na fronteira”, disse o executivo, defendendo a aposta em sistemas de ponta.
Segundo ele, o Claude Opus 5.5 custa 40% menos para usos típicos do que uma versão anterior. A redução combina uma queda de 20% no preço de tabela com uma diminuição adicional decorrente do menor consumo de tokens.
A distinção importa: o custo efetivo de uma tarefa não depende apenas do preço cobrado por unidade de processamento, mas também da quantidade de recursos necessária para concluí-la.
Um modelo mais caro por token pode, em determinadas aplicações, consumir menos recursos para entregar o resultado desejado. Isso não significa, porém, que será sempre a alternativa mais econômica. A comparação depende da tarefa, do volume de uso e da infraestrutura.
Princen ingressou na Anthropic em 2025, vindo da Stripe. Na entrevista, não comentou os planos da empresa para uma eventual abertura de capital nem os custos de treinamento de seus modelos.
🤔 Segurança ou vantagem competitiva?
O alerta da Anthropic levanta uma questão legítima: como impedir que modelos avançados sejam usados para ataques cibernéticos sem restringir desnecessariamente o acesso à tecnologia?
Mas a discussão também exige considerar quem define os critérios de segurança e como essas regras afetam a concorrência.
Empresas que controlam modelos fechados podem implementar salvaguardas diretamente em seus serviços. Ao mesmo tempo, têm interesses comerciais na manutenção de suas plataformas. Já os modelos abertos ampliam a autonomia dos usuários, mas podem dificultar a aplicação uniforme de restrições depois da distribuição.
A resposta provavelmente não será uma escolha simples entre abrir tudo ou fechar tudo. Avaliações de capacidade, testes independentes, controles proporcionais ao risco e padrões internacionais podem ajudar a diferenciar tecnologias úteis de sistemas que exigem restrições adicionais.
A disputa está longe de terminar. Enquanto empresas como a Anthropic defendem cautela com modelos de maior autonomia, concorrentes trabalham para tornar a IA mais acessível e independente de plataformas centralizadas.
A pergunta que permanece é se a indústria conseguirá estabelecer regras de segurança capazes de acompanhar a velocidade da inovação sem transformar a proteção contra riscos em uma barreira à concorrência.
