Principais destaques
- Investigação do Wall Street Journal afirma que o ChatGPT forneceu respostas detalhadas para centenas de consultas envolvendo armas biológicas e toxinas.
- O caso impulsiona projetos de lei nos Estados Unidos voltados ao monitoramento e controle de sistemas avançados de inteligência artificial.
- Empresas como OpenAI, Anthropic e Google DeepMind já defendem medidas mais rígidas para reduzir riscos de uso malicioso da IA.
O rápido avanço da inteligência artificial tem trazido benefícios em diversas áreas, mas também levantado preocupações sobre seu uso indevido.
Uma investigação publicada pelo Wall Street Journal colocou esse debate novamente em evidência ao revelar que o ChatGPT respondeu a centenas de consultas relacionadas à produção e à disseminação de armas biológicas e toxinas após uma atualização em suas capacidades realizada pela OpenAI no ano passado.
Segundo a reportagem, usuários de diferentes partes do mundo utilizaram o chatbot para fazer perguntas envolvendo temas altamente sensíveis. Entre elas estavam solicitações relacionadas à formulação de substâncias tóxicas, características de determinados agentes biológicos e possíveis formas de disseminação de patógenos.
Em diversos casos, o sistema teria apresentado respostas consideradas suficientemente detalhadas para despertar preocupação entre especialistas em biossegurança.
Embora não haja evidências de que essas conversas tenham resultado em ações concretas, o episódio reforça uma discussão que acompanha o desenvolvimento da inteligência artificial desde a popularização dos grandes modelos de linguagem: até que ponto essas ferramentas conseguem impedir que conhecimentos potencialmente perigosos sejam utilizados por pessoas mal-intencionadas?
Especialistas classificaram algumas respostas como preocupantes
De acordo com o Wall Street Journal, funcionários da OpenAI analisaram parte das conversas e concluíram que diversas respostas eram simples o bastante para serem compreendidas por estudantes com conhecimentos básicos de biologia.
Posteriormente, especialistas independentes em biologia, biossegurança e contraterrorismo revisaram os registros e afirmaram que algumas explicações apresentavam um nível de precisão considerado alarmante.
O ponto central da preocupação não está apenas na existência de informações científicas disponíveis na internet. O diferencial dos modelos de inteligência artificial é justamente a capacidade de reunir, organizar e apresentar conhecimentos complexos de maneira acessível, reduzindo o tempo necessário para encontrar informações dispersas em diversas fontes.
Essa facilidade pode beneficiar pesquisadores, estudantes e profissionais, mas também desperta receios quando aplicada a assuntos que envolvem riscos significativos à saúde pública ou à segurança internacional.
Após identificar as consultas, a OpenAI bloqueou as contas dos usuários envolvidos. Entretanto, segundo a reportagem, a empresa optou por não comunicar os casos às autoridades policiais, uma decisão que está de acordo com a legislação atual dos Estados Unidos.
Hoje, não existe uma lei federal que obrigue empresas de inteligência artificial a denunciar usuários que realizem perguntas relacionadas à criação de armas biológicas ou outros conteúdos potencialmente perigosos, desde que não existam evidências adicionais de atividades criminosas.
Congresso dos Estados Unidos acelera discussão sobre novas regras
As revelações chegaram em um momento em que parlamentares norte-americanos já discutem propostas para aumentar a supervisão sobre sistemas avançados de inteligência artificial.
Entre os projetos apresentados está o AI Incident Reporting Act, protocolado pelo deputado republicano Nathaniel Moran. A proposta estabelece que empresas responsáveis pelos modelos mais avançados de IA deverão comunicar ao Departamento de Comércio qualquer incidente relacionado a capacidades perigosas ou falhas de segurança envolvendo riscos biológicos, químicos, radiológicos ou nucleares.
O projeto determina que essa comunicação seja realizada em até sete dias após a descoberta do problema. Nos casos classificados como mais graves, o Departamento de Comércio teria ainda a obrigação de informar rapidamente a liderança do Congresso para que medidas adicionais possam ser avaliadas.
Poucos dias depois, Moran apresentou outra proposta ao lado do deputado democrata Ted Lieu. Batizado de AI Kill Switch Act, o projeto prevê mecanismos que permitiriam ao governo ordenar que empresas desacelerem ou interrompam completamente determinados sistemas de inteligência artificial caso sejam considerados capazes de provocar danos catastróficos.
Caso uma empresa deixe de cumprir essa determinação, o texto prevê multas civis que podem chegar a US$ 20 milhões por dia, um valor que demonstra a seriedade com que parte do Congresso passou a tratar o tema.
Embora as propostas ainda precisem passar por todo o processo legislativo, elas refletem uma mudança importante na forma como governos enxergam os riscos associados às tecnologias de inteligência artificial mais avançadas.
A própria indústria reconhece o aumento dos riscos
As preocupações não partem apenas dos governos. Nos últimos meses, empresas que lideram o desenvolvimento de modelos de IA passaram a adotar um discurso mais cauteloso sobre as capacidades de seus sistemas.
Em junho, a OpenAI anunciou que espera que futuras gerações de seus modelos atinjam um nível considerado alto em relação aos riscos biológicos dentro de sua própria estrutura de avaliação. Como consequência, a empresa informou que passou a aplicar protocolos mais rigorosos de testes antes do lançamento de novos recursos.
Outro exemplo citado é o ChatGPT Agent. Quando foi apresentado, tornou-se o primeiro produto da OpenAI oficialmente enquadrado como um sistema de alto risco para biossegurança segundo os critérios internos da companhia. Essa classificação exige avaliações adicionais e monitoramento mais intenso antes da disponibilização ao público.
A preocupação também é compartilhada por outras empresas do setor. Em uma iniciativa conjunta, OpenAI, Anthropic e Google DeepMind assinaram uma carta defendendo que fornecedores de DNA e RNA sintéticos sejam obrigados a realizar verificações para identificar pedidos que possam facilitar a criação de patógenos perigosos.
Segundo as empresas, esse tipo de triagem representa uma camada adicional de proteção diante da evolução acelerada da inteligência artificial e da biotecnologia.
Crescimento das consultas preocupa pesquisadores e autoridades
A investigação do Wall Street Journal também aponta que funcionários atuais e ex-funcionários de grandes laboratórios de inteligência artificial observaram um crescimento significativo no número de consultas relacionadas à violência em massa, armas químicas, armas biológicas e outras formas de ataque de grande escala.
Embora os sistemas atuais contem com mecanismos para bloquear conteúdos perigosos, especialistas afirmam que nenhuma proteção é perfeita. À medida que os modelos se tornam mais sofisticados, cresce também o desafio de impedir que usuários encontrem maneiras de contornar essas restrições.
Esse cenário faz com que governos, pesquisadores e empresas passem a discutir não apenas como tornar os modelos mais inteligentes, mas também como garantir que permaneçam seguros diante de ameaças cada vez mais complexas.
O episódio envolvendo o ChatGPT demonstra que a evolução da inteligência artificial traz oportunidades extraordinárias para ciência, educação e inovação, mas também exige investimentos constantes em mecanismos de segurança, auditorias independentes e regulamentações capazes de acompanhar a velocidade com que essa tecnologia evolui.
O consenso dentro da indústria é que o desafio não está apenas em criar modelos mais poderosos, mas em garantir que eles sejam utilizados de forma responsável e que seus benefícios superem os riscos para a sociedade.
