- O alerta veio de dentro da própria indústria 🤖
- Altman tenta escapar dos dois extremos
- E Amodei já havia pedido para desacelerar 🐢
- O contraste com Trump chamou atenção 🇺🇸
- Não eram apenas OpenAI e Anthropic
- Agora entra a parte mais difícil: transformar alerta em regra
- A ONU consegue acompanhar essa velocidade? 🌐
Principais destaques
- IA virou tema de segurança internacional: Sam Altman e Dario Amodei defenderam cooperação entre governos para lidar com sistemas cada vez mais poderosos.
- Altman pede um meio-termo: o CEO da OpenAI alertou tanto contra o otimismo excessivo quanto contra o catastrofismo na discussão sobre IA.
- Washington tem outra visão: o discurso ocorre um dia depois de Donald Trump rejeitar propostas de supervisão internacional da IA e defender o avanço da tecnologia.
A inteligência artificial deixou de ser apenas assunto de laboratórios, empresas de tecnologia e investidores. Nesta quarta-feira, 23 de setembro, ela entrou oficialmente no centro de uma discussão sobre paz e segurança internacional no Conselho de Segurança das Nações Unidas.
Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, participaram de uma sessão dedicada aos impactos da IA sobre a segurança internacional. A reunião foi realizada sob a presidência da França e constava oficialmente da agenda do Conselho de Segurança como “Artificial intelligence and international security”.
O alerta veio de dentro da própria indústria 🤖
Altman defendeu que governos estabeleçam formas comuns de medir as capacidades dos sistemas de IA e avaliar as salvaguardas adotadas pelas empresas.
O argumento é relativamente simples: quanto mais capazes e autônomos os modelos se tornam, mais difícil fica tratar seus riscos como um problema exclusivamente privado.
🌍 A questão mudou de escala: a discussão já não envolve apenas o que uma empresa deve ou não fazer com seu próprio modelo, mas como diferentes países podem reagir caso sistemas de IA passem a interagir em situações de importância militar ou estratégica.
A Reuters relatou que diplomatas discutiram justamente a possibilidade de algoritmos interagindo entre si contribuírem para desencadear conflitos.
“Se for mal administrada, acredito que a IA poderia ser um risco para a humanidade como um todo.” — Dario Amodei, segundo relatos da sessão.
Altman tenta escapar dos dois extremos
O CEO da OpenAI também adotou uma posição intermediária no debate.
De um lado, estão aqueles que enxergam a IA principalmente como uma oportunidade tecnológica capaz de acelerar descobertas, produtividade e criatividade. Do outro, estão os alertas sobre sistemas que poderiam adquirir capacidades difíceis de controlar.
Altman afirmou que a OpenAI pretende seguir um caminho entre esses extremos, evitando tanto o “otimismo cego” quanto o “catastrofismo”.
Em outro momento, ele apresentou a escolha de maneira mais ampla: a IA poderia representar uma nova era de criatividade e descoberta ou produzir uma transformação marcada por desorganização e instabilidade.
E Amodei já havia pedido para desacelerar 🐢
A participação de Dario Amodei ganha peso porque acontece depois de uma proposta pública do executivo para reduzir o ritmo de desenvolvimento de sistemas cada vez mais avançados.
A posição coloca a Anthropic em uma situação curiosa: a empresa compete diretamente pelo desenvolvimento de modelos de ponta, mas seu principal executivo também vem defendendo mecanismos capazes de limitar os riscos associados à evolução dessa tecnologia.
🔎 O dilema é justamente esse: como desacelerar determinados riscos sem necessariamente interromper toda a corrida tecnológica?
Essa questão se torna ainda mais complicada quando empresas americanas disputam espaço em um mercado global no qual China, Estados Unidos e outros países tratam IA como tecnologia estratégica.
O contraste com Trump chamou atenção 🇺🇸
A sessão da ONU ocorreu apenas um dia depois do discurso de Donald Trump na Assembleia Geral.
Segundo a Reuters, em seu pronunciamento de 22 de setembro, o presidente americano rejeitou preocupações relacionadas à segurança da IA, classificando-as como “hoaxes”, e defendeu a liderança dos Estados Unidos no desenvolvimento da tecnologia.
A Fortune também relatou que Trump chamou propostas de supervisão internacional da IA de um “globalist scheme”, enquanto Altman e Amodei defendiam justamente maior cooperação internacional no dia seguinte.
Isso criou um contraste evidente entre duas abordagens que agora aparecem no mesmo debate público: uma que enfatiza velocidade e liderança tecnológica e outra que coloca mecanismos internacionais de segurança no centro da discussão.
Não eram apenas OpenAI e Anthropic
A reunião também contou com Clément Delangue, cofundador do Hugging Face, e Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA da ONU.
A própria escolha do Conselho de Segurança como palco é significativa.
O órgão possui 15 membros e tem como responsabilidade principal a manutenção da paz e da segurança internacionais. A reunião de 23 de setembro foi oficialmente registrada como a 10.228ª reunião do Conselho.
Agora entra a parte mais difícil: transformar alerta em regra
Falar em cooperação internacional é relativamente simples. Criar mecanismos aceitos por países que competem econômica, militar e tecnologicamente é outra história.
Os Estados Unidos e a China, por exemplo, estão simultaneamente envolvidos em uma disputa estratégica pelo domínio de tecnologias avançadas e em conversas sobre riscos associados à IA. A Reuters informou que os dois países discutem um possível sistema de notificação para incidentes de IA considerados relevantes para a segurança nacional.
⚠️ O próximo capítulo não é apenas tecnológico: será necessário decidir quais capacidades devem ser monitoradas, quem terá acesso às informações e o que acontece quando um país ou empresa ultrapassa determinado limite.
E existe ainda uma dificuldade adicional: a tecnologia continua evoluindo enquanto as regras são discutidas.
A ONU consegue acompanhar essa velocidade? 🌐
O debate desta quarta-feira não produziu, por si só, um mecanismo global de controle da IA. A importância da reunião está principalmente em colocar oficialmente a tecnologia dentro da agenda de segurança internacional.
A questão agora é se esse tipo de diálogo conseguirá avançar para padrões compartilhados de avaliação, mecanismos de comunicação de incidentes e salvaguardas que sejam aceitos por diferentes governos.
Enquanto isso, laboratórios continuam desenvolvendo modelos cada vez mais capazes.
A IA chegou ao Conselho de Segurança da ONU. O que ainda não está definido é quem conseguirá estabelecer as regras antes que a próxima geração de sistemas chegue.
