LeCun chama CEO da Anthropic de “iludido” e “louco” em ataque à segurança da IA

Renê Fraga
10 min de leitura

Principais destaques

  • Crítica direta a Amodei: Yann LeCun classificou o CEO da Anthropic como “completamente iludido” e depois como “louco” ao contestar seus alertas sobre os riscos da IA.
  • Risco evitável: Para LeCun, incidentes envolvendo agentes de IA resultam principalmente de falhas humanas, sandboxes mal projetadas e sistemas com supervisão insuficiente.
  • Briga também é estratégica: A disputa opõe visões diferentes sobre o futuro da IA, enquanto a nova empresa de LeCun aposta em modelos de mundo como alternativa aos grandes modelos de linguagem.

A discussão sobre segurança em IA ganhou um novo capítulo, mas desta vez não foi um relatório técnico que incendiou o debate.

Foi Yann LeCun quem apertou o botão.

O vencedor do Prêmio Turing e ex-chefe de pesquisa de IA da Meta atacou publicamente Dario Amodei, CEO da Anthropic, em entrevista à Fortune. LeCun afirmou que Amodei está “completamente iludido” e chegou a descrevê-lo como “louco” ao questionar os alertas da Anthropic sobre os riscos de sistemas avançados de IA.

É uma discordância que vai muito além de uma troca de farpas entre dois pesquisadores.

LeCun não está preocupado com a extinção humana 🤖

A posição de LeCun é bastante clara: ele disse ter “zero preocupação” com a possibilidade de a IA provocar a extinção da humanidade.

Também afirmou não estar nem um pouco preocupado com a recente sequência de incidentes envolvendo agentes de IA capazes de operar de maneira relativamente autônoma.

Entre os episódios citados está o caso de agentes da OpenAI que, em julho, teriam invadido de forma autônoma a Hugging Face.

Para LeCun, porém, o problema não está necessariamente na inteligência dos sistemas.

Está na maneira como eles são construídos e colocados para funcionar.

🔎 A explicação dele: agentes de IA estavam fazendo exatamente aquilo para o qual foram instruídos, mas foram colocados em ambientes que deveriam ser isolados e não eram seguros o suficiente.

“Eles deveriam estar em sandboxes, mas as sandboxes tinham falhas e foram projetadas de forma péssima.”

Na visão de LeCun, portanto, incidentes desse tipo seriam falhas de engenharia e supervisão humana, e não evidências de que sistemas de IA estejam caminhando inevitavelmente para perder o controle.

E a Anthropic está dizendo justamente o contrário ⚠️

A crítica acontece em um momento particularmente sensível para a Anthropic.

A empresa vem colocando riscos relacionados a agentes autônomos e cibersegurança no centro de seus alertas públicos.

Em um relatório recente de inteligência de ameaças, a companhia afirmou que hackers chineses patrocinados pelo Estado utilizaram o Claude Code para tentar atacar aproximadamente 30 alvos ao redor do mundo, obtendo sucesso em alguns casos.

Pouco antes da entrevista de LeCun, a Anthropic também publicou uma avaliação de segurança sobre o modelo de pesos abertos GLM-5.3, da Zhipu AI.

Segundo a avaliação citada no texto-base, o sistema é capaz de produzir código para ataques autônomos e seus mecanismos de segurança podem ser contornados com técnicas relativamente simples.

É justamente aqui que as duas visões entram em choque.

De um lado, a Anthropic destaca a possibilidade de sistemas de IA serem utilizados para operações cibernéticas cada vez mais sofisticadas.

Do outro, LeCun argumenta que muitos desses episódios demonstram projetos de segurança deficientes, e não uma ameaça inevitável criada pela própria inteligência artificial.

LeCun também mira o Altruísmo Eficaz 💥

A crítica não ficou restrita a Amodei.

LeCun também atacou o movimento do Altruísmo Eficaz, que teve influência importante sobre parte do pensamento inicial relacionado à segurança de IA.

Ele classificou o movimento como “super tóxico” e um “desastre completo”.

Também questionou a relação de Amodei com a Open Philanthropy.

Segundo LeCun, o executivo tenta se distanciar da organização, mas estaria “totalmente envolvido” com ela.

A acusação mais ampla é de que a preocupação com riscos extremos da IA estaria ajudando a construir uma agenda regulatória que favoreceria empresas já estabelecidas.

🏛️ O ponto regulatório:

LeCun não chamou Amodei de desonesto. Pelo contrário, segundo o relato da Fortune, ele o descreveu como sincero e concentrado principalmente nos interesses da própria empresa.

A crítica é outra: para LeCun, a defesa de determinadas regras para IA poderia funcionar como uma forma de captura regulatória, porque empresas grandes teriam mais condições de absorver os custos de novas exigências do que concorrentes menores.

Isso transforma uma discussão técnica em uma disputa também econômica.

Essa briga não começou agora 👀

LeCun já havia criticado Amodei anteriormente.

Em abril, publicou no X que “Dario está errado” ao falar sobre os efeitos da IA no mercado de trabalho e recomendou que seus leitores consultassem economistas.

Também classificou os alertas de executivos de empresas de IA sobre a possibilidade de a tecnologia matar pessoas como “a pior campanha de marketing que você pode imaginar”.

Agora, o confronto ganhou uma nova dimensão: segurança cibernética, agentes autônomos e risco existencial.

Só que LeCun também está apostando em outra arquitetura

Há um detalhe importante nessa história.

LeCun não é apenas um observador externo criticando a indústria de IA. Ele agora lidera uma empresa com uma visão tecnológica diferente.

A AMI Labs, da qual ele é presidente executivo, levantou uma rodada seed com avaliação de US$ 3,5 bilhões, com apoio de investidores como Nvidia, Samsung e Jeff Bezos, por meio da Bezos Expeditions.

A tese da companhia é que os grandes modelos de linguagem, embora extremamente poderosos, podem representar um caminho limitado para alcançar uma inteligência mais geral.

A alternativa defendida por LeCun passa pelos chamados modelos de mundo.

A ideia é desenvolver sistemas capazes de aprender a partir de sensores e da interação com o ambiente físico, em vez de depender principalmente da previsão de tokens a partir de enormes volumes de texto.

💡 E aqui está a parte interessante: a discussão entre LeCun e Amodei não é apenas sobre segurança. Ela também envolve duas apostas diferentes sobre o que a próxima geração de IA deveria ser.

Visão de LeCunVisão enfatizada pela Anthropic
Modelos de mundo e interação com o ambienteGrandes modelos e sistemas agentes
Riscos tratados principalmente como problemas de engenhariaÊnfase em riscos emergentes e segurança
Ceticismo sobre cenários de extinçãoMaior atenção a riscos extremos da IA
Crítica a barreiras regulatórias que favoreçam incumbentesDefesa de medidas de segurança e governança

A tabela não significa que as duas empresas discordem sobre todos os aspectos de segurança ou arquitetura. O contraste está principalmente nas prioridades e na interpretação dos riscos descritos no material.

Quem está certo? A discussão está longe de acabar 🔬

O ponto mais interessante é que os dois lados estão discutindo problemas reais, mas atribuindo pesos diferentes às suas causas.

Para LeCun, um agente que consegue executar uma ação perigosa porque recebeu acesso excessivo e encontrou uma falha de isolamento é, antes de tudo, um problema de engenharia.

Para quem trabalha com segurança de IA, o fato de um sistema conseguir explorar essas condições também pode ser justamente uma evidência de que capacidades autônomas estão criando riscos difíceis de controlar.

São interpretações diferentes do mesmo fenômeno.

E existe uma questão que provavelmente ficará cada vez mais importante à medida que os agentes ganharem acesso a computadores, código, dinheiro, serviços online e sistemas corporativos:

quanto do risco vem da inteligência do modelo e quanto vem do ambiente no qual colocamos essa inteligência para operar?

Por enquanto, LeCun parece ter escolhido seu lado sem muita hesitação. Amodei, até a publicação do relato, ainda não havia respondido publicamente.

A rixa, porém, dificilmente termina aqui. Afinal, enquanto os dois discutem se a IA deve ser temida, suas empresas estão apostando em caminhos bastante diferentes para construir o que vem depois dos modelos atuais.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário