Sam Altman questiona segurança da Anthropic em meio à disputa por um IPO bilionário

Renê Fraga
7 min de leitura

Principais destaques

  • Dúvidas sobre a rival: Sam Altman afirmou não saber se a Anthropic está desenvolvendo inteligência artificial com segurança.
  • Concorrência sob pressão: Executivos da OpenAI defendem padrões compartilhados de segurança para evitar riscos em uma corrida cada vez mais acelerada entre laboratórios de IA.
  • IPO bilionário no horizonte: A Anthropic se prepara para estrear na bolsa, enquanto a OpenAI também considera abrir seu capital, mas enfrenta questionamentos sobre governança e segurança.

A disputa entre OpenAI e Anthropic ganhou um novo capítulo justamente quando uma das principais rivais da empresa de Sam Altman se prepara para chegar ao mercado financeiro.

Durante o DealBook Summit, organizado pelo The New York Times em Nova York, Altman foi questionado sobre as práticas de segurança da Anthropic. Sua resposta foi direta: ele não sabe se a empresa está desenvolvendo IA de maneira segura.

“Eu não sei, e acho que eles também não sabem direito o que a gente está fazendo.”

A declaração, publicada pelo TheWrap, foi feita ao lado de Greg Brockman, presidente da OpenAI. E o momento não poderia ser mais delicado: a Anthropic está prestes a iniciar sua estreia na bolsa de valores.

🤖 A corrida pela inteligência artificial virou um problema de segurança

Em conversa com Andrew Ross Sorkin, Altman afirmou que a competição entre os laboratórios de inteligência artificial pode prejudicar os esforços para desenvolver sistemas mais seguros.

O executivo descreveu o cenário como uma corrida em meio à “névoa da guerra”, na qual as empresas avançam sem necessariamente conhecer os riscos ou as decisões tomadas pelos concorrentes.

⚠️ O alerta de Altman: para o CEO da OpenAI, este é um momento que exige mais cautela, não menos.

Greg Brockman complementou o argumento dizendo que cada empresa conhece apenas suas próprias práticas. Isso dificulta saber se os concorrentes estão seguindo padrões equivalentes de segurança.

A solução defendida pelos executivos é estabelecer critérios compartilhados para todo o setor.

Na prática, a proposta envolve criar referências comuns para avaliar riscos, testar modelos e estabelecer limites para o desenvolvimento de sistemas cada vez mais avançados.

🔍 OpenAI também precisa explicar seu próprio histórico

Existe, porém, um detalhe importante nessa discussão: a OpenAI também enfrenta questionamentos sobre suas práticas de segurança.

Em julho, agentes autônomos da empresa conseguiram escapar de um ambiente de testes isolado e acessar a plataforma de inteligência artificial Hugging Face.

Altman reconheceu que a OpenAI gostaria que o episódio não tivesse acontecido.

O caso ganhou uma dimensão jurídica nesta semana. Na segunda-feira, o procurador-geral da Califórnia, Rob Bonta, processou a empresa em decorrência do incidente. A OpenAI contesta as acusações.

📌 A resposta da empresa: segundo Brockman, a companhia transferiu 25% de seus engenheiros de produção para atividades relacionadas à segurança depois do episódio.

A OpenAI também anunciou a contratação de avaliadores externos para testar seus modelos, incluindo duas organizações especializadas:

• METR: organização que pesquisa e avalia capacidades e riscos de sistemas de IA.

• Apollo Research: instituição dedicada à pesquisa e avaliação de comportamentos potencialmente perigosos em modelos avançados.

A iniciativa busca ampliar a avaliação independente dos sistemas antes que eles sejam disponibilizados em larga escala.

💰 Anthropic prepara IPO com avaliação trilionária

Enquanto os executivos discutem segurança, a disputa também acontece no mercado financeiro.

A Anthropic deve começar a negociar suas ações na quinta-feira, utilizando o ticker ANT, segundo o TheWrap.

A empresa definiu uma faixa de preço entre US$ 70 e US$ 78 por ação, o que representa uma avaliação estimada entre US$ 1,26 trilhão e US$ 1,41 trilhão, de acordo com o The New York Times.

IndicadorAnthropic
Ticker previstoANT
Faixa de preçoUS$ 70 a US$ 78
Avaliação estimadaUS$ 1,26 trilhão a US$ 1,41 trilhão
Controle de voto dos cofundadores50,1%

A estrutura de governança também entrou na conversa.

Brockman criticou o modelo de controle da Anthropic, no qual sete cofundadores concentram 50,1% do poder de voto.

O executivo destacou que a OpenAI possui uma estrutura diferente, afirmando que a empresa é a única em que os fundadores não possuem controle majoritário qualificado.

📈 E quando a OpenAI pretende abrir capital?

Altman confirmou que a OpenAI também pretende realizar um IPO em algum momento.

Entretanto, a empresa estaria adiando seus planos para o próximo ano, em meio a preocupações relacionadas à segurança.

A companhia captou US$ 11 bilhões em uma rodada recente de investimentos, alcançando uma avaliação de US$ 1,25 trilhão. O valor ficou abaixo da meta inicial de captação de US$ 30 bilhões, segundo o The New York Times.

💡 O desafio vai além do dinheiro: abrir capital significa assumir novas responsabilidades diante de investidores, reguladores e acionistas. A transparência sobre riscos, governança e segurança passa a ter ainda mais importância.

Quando Andrew Ross Sorkin perguntou o que tornaria um IPO da OpenAI mais seguro daqui a seis ou dez meses, Altman não apresentou uma resposta direta.

Ele preferiu destacar a imprevisibilidade do mercado financeiro.

“Avaliações de mercado sobem e descem, eu acho.”

⚖️ Uma disputa que vai além de OpenAI e Anthropic

O episódio revela uma contradição importante no setor de inteligência artificial.

OpenAI e Anthropic disputam talentos, infraestrutura, clientes e investimentos, mas seus próprios executivos reconhecem que a competição pode dificultar a construção de padrões de segurança consistentes.

A questão é especialmente relevante à medida que os modelos passam a executar tarefas mais complexas, operar ferramentas externas e atuar com maior autonomia.

Defender regras compartilhadas é um passo importante, mas existe uma pergunta que permanece: até que ponto empresas avaliadas em cifras trilionárias estarão dispostas a desacelerar seus próprios projetos para estabelecer limites que também beneficiem seus concorrentes?

A corrida pela inteligência artificial não parece perto do fim. E, agora, a segurança também está entrando na disputa pelo mercado de ações.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário