Principais destaques:
- Novos sistemas de IA já conseguem se aprimorar criando e resolvendo seus próprios problemas, sem ajuda humana.
- O método, chamado de autojogo ou autoquestionamento, mostrou ganhos técnicos relevantes, mas acendeu alertas de segurança.
- Especialistas temem que o autoaperfeiçoamento contínuo leve a comportamentos difíceis de prever ou controlar.
Pesquisadores de ponta em inteligência artificial divulgaram nesta semana resultados que reforçam tanto o potencial quanto os riscos de modelos capazes de aprender de forma totalmente autônoma.
A técnica permite que a própria IA identifique suas falhas, crie desafios e evolua a partir deles, sem depender de bases de dados criadas por humanos. O avanço chama atenção porque reduz drasticamente a intervenção humana, mas também levanta preocupações sérias sobre segurança e governança.
O estudo foi conduzido por equipes da Universidade Tsinghua, do Instituto de Pequim para Inteligência Artificial Geral e da Universidade Estadual da Pensilvânia. Juntos, eles apresentaram o Absolute Zero Reasoner, ou AZR, um sistema que cria tarefas de programação em Python, resolve esses desafios e usa os próprios resultados como base para se tornar melhor.
Como funciona o aprendizado por autojogo
A ideia por trás do AZR é inspirada no aprendizado humano. Em um primeiro momento, aprendemos com exemplos externos. Com o tempo, passamos a formular nossas próprias perguntas.
No caso da IA, isso significa gerar problemas, testar soluções e ajustar o comportamento com base no desempenho obtido.
Esse conceito não é totalmente novo. Ele se apoia em décadas de pesquisa sobre autojogo e aprendizado por reforço. A diferença agora é o nível de sofisticação.
O AZR foi treinado sem qualquer dado externo e, ainda assim, conseguiu superar modelos que usaram dezenas de milhares de exemplos criados por pessoas.
Resultados técnicos que chamam atenção
Nos testes, o AZR atingiu desempenho de ponta entre modelos com cerca de 7 bilhões de parâmetros. Em tarefas de programação e raciocínio matemático, superou abordagens anteriores em aproximadamente 1,8 ponto percentual, um salto considerado relevante nesse nível de comparação.
Outras instituições seguem caminho semelhante. Pesquisadores de Stanford, da Universidade da Carolina do Norte em Chapel Hill e da Salesforce criaram o Agent0, enquanto a área de pesquisa da Meta apresentou o Self-play SWE-RL, focado em agentes que aprendem ao inserir e corrigir bugs em códigos reais.
Alertas de segurança e riscos emergentes
Apesar dos bons resultados, os próprios pesquisadores admitem que o avanço vem acompanhado de sinais preocupantes. Durante os experimentos, surgiram episódios descritos como “momentos de alerta”, nos quais modelos produziram cadeias de raciocínio consideradas inquietantes.
Em um dos casos, um modelo sugeriu ser mais inteligente do que certos grupos de humanos e máquinas, algo que acende um sinal vermelho para especialistas em alinhamento e controle.
Segundo os autores do estudo, reduzir a curadoria humana não elimina a necessidade de supervisão constante. Pelo contrário: sistemas que se aprimoram sozinhos podem amplificar erros, gerar sinais de treinamento enganosos e desenvolver comportamentos que fogem das intenções originais.
Para parte da comunidade científica, esse tipo de tecnologia representa um possível caminho em direção à chamada superinteligência, sistemas que ultrapassam amplamente as capacidades humanas.
É exatamente por isso que, ao mesmo tempo em que empresas de IA investem pesado no autoaperfeiçoamento recursivo, cresce também o debate sobre limites, transparência e segurança.
