Amazon entra na corrida dos modelos que só precisam decidir

Renê Fraga
9 min de leitura
Photo by Erik Mclean on Pexels.com

Principais destaques

  • Decisões em vez de textos: a AWS lançou o Strands Decider 2B, modelo open source criado para escolher entre opções predefinidas com rapidez e baixo custo.
  • Cabe no computador: baseado no Qwen3.5-2B, o modelo é pequeno o suficiente para rodar localmente e também fornece uma medida de confiança para cada decisão.
  • Uma nova categoria ganha força: depois do Jev, da TypeSafe, e de uma iniciativa semelhante da OpenAI, surgem dezenas de modelos voltados a decisões específicas dentro de sistemas de IA.

A IA nem sempre precisa conversar 🤖

Durante anos, o desenvolvimento de inteligência artificial pareceu seguir uma regra simples: quanto maior e mais capaz o modelo, melhor.

Agora, uma nova categoria está questionando essa lógica.

A Amazon Web Services lançou o Strands Decider 2B, um modelo open source projetado não para escrever textos, responder perguntas longas ou manter conversas, mas para fazer uma coisa muito mais específica: escolher entre alternativas já definidas.

A proposta pode parecer modesta. Para sistemas de agentes de IA, porém, ela pode ser bastante útil.

E por que não usar um LLM tradicional? 💡

Imagine um agente executando um fluxo de trabalho.

Ele recebe uma informação, analisa o contexto e precisa decidir qual será o próximo passo:

• continuar o processo;
• pedir mais informações;
• encaminhar para outro sistema;
• encerrar a tarefa.

Usar um modelo de fronteira para cada uma dessas pequenas decisões pode ser como contratar um caminhão para levar uma sacola de supermercado.

🎯 A ideia do Decider: usar um modelo muito menor, rápido e barato para resolver justamente essas decisões intermediárias.

Segundo Marc Brooker, distinguished engineer da Amazon, clientes da AWS já enfrentavam esse problema em fluxos agentivos que não precisavam da capacidade ou do custo de um LLM completo em todas as etapas.

“What is the next thing for me to do here, based on where I am?”

É nesse tipo de pergunta que a nova categoria pretende atuar.

A inspiração veio do Jev

O Strands Decider nasceu depois que Brooker conheceu o Jev, modelo desenvolvido pela TypeSafe e apresentado recentemente como uma alternativa aos modelos generativos tradicionais.

Em vez de produzir uma sequência de tokens como resposta, esses modelos são treinados para selecionar uma decisão e indicar o grau de confiança associado a ela.

Brooker chegou a construir sua própria versão experimental. O projeto funcionou tão bem que, por um período, chegou ao primeiro lugar do ranking Jevbench entre modelos de seu tamanho.

A partir daí, engenheiros da Amazon transformaram o experimento em um projeto mais estruturado e o lançaram por meio do Strands Labs, iniciativa da AWS dedicada a ferramentas e protocolos para agentes de IA.

O detalhe importante está na confiança 🔎

A diferença não é apenas velocidade.

Em aplicações automatizadas, saber o que o modelo decidiu é importante. Saber quão confiante ele está pode ser igualmente relevante.

Um sistema pode, por exemplo, estabelecer um limite para suas decisões:

SituaçãoAção possível
Alta confiançaExecutar automaticamente
Confiança intermediáriaAplicar uma segunda verificação
Baixa confiançaEncaminhar para um modelo mais sofisticado ou para uma pessoa

Isso transforma o modelo em uma espécie de etapa de controle dentro de um fluxo maior.

💰 E há outro componente: modelos pequenos podem reduzir latência e custos quando são chamados milhares ou milhões de vezes.

Pequeno no tamanho, mas não necessariamente limitado

O Strands Decider 2B utiliza como base o Qwen3.5-2B, mas sua finalidade é diferente de simplesmente executar um chatbot menor.

O objetivo é preservar conhecimento e capacidade de compreensão suficientes para interpretar diferentes situações, enquanto a saída permanece concentrada em escolhas.

Esse equilíbrio é uma das dificuldades técnicas da categoria.

Brooker explica que existe uma linha delicada entre melhorar precisão e calibração para tarefas de decisão e, ao mesmo tempo, não degradar capacidades como compreensão de idiomas e conhecimento geral.

É aí que a história fica mais interessante.

Uma IA que decide bem não precisa necessariamente ser uma IA que escreve bem.

Parece uma corrida do ouro 🏃

O lançamento da Amazon acontece poucos dias depois de a OpenAI anunciar uma iniciativa semelhante.

E não são apenas essas empresas.

Desde que a TypeSafe apresentou o Jev, pesquisadores começaram a experimentar diferentes arquiteturas e versões de modelos especializados em decisões. O surgimento de dezenas de projetos mostra que existe interesse crescente nessa abordagem.

A lógica econômica ajuda a explicar o movimento.

Se um agente precisa fazer uma decisão simples em centenas de etapas, chamar um grande modelo de fronteira repetidamente pode ser desnecessariamente caro.

Um modelo especializado pode assumir essas pequenas decisões e deixar os modelos maiores para situações que realmente exigem raciocínio mais amplo.

O tamanho também muda o jogo

Há ainda outro ponto importante.

Brooker não acredita que apenas os grandes laboratórios tenham condições de desenvolver modelos interessantes nessa área.

Segundo ele, quando se trabalha com modelos menores, o investimento necessário para criar algo experimentalmente relevante pode ficar na casa de centenas ou milhares de dólares, em vez dos enormes orçamentos associados ao treinamento dos maiores modelos de fronteira.

Isso abre espaço para startups, pesquisadores independentes e equipes pequenas.

E pode produzir uma arquitetura de IA mais modular.

Em vez de um único modelo gigantesco fazendo tudo, um sistema pode combinar especialistas:

um modelo para decidir, outro para pesquisar, outro para gerar código e outro para produzir a resposta final.

Mas existe um problema: ser pequeno não basta ⚠️

Diogo Almeida, CEO e fundador da TypeSafe, reconhece que o interesse na categoria cresceu rapidamente.

Mas ele também faz uma ressalva.

Na visão dele, muitos dos projetos atuais podem representar pesquisadores experimentando arquiteturas interessantes, mas isso não significa necessariamente que estejam criando modelos realmente inteligentes e úteis.

A diferença, portanto, não está simplesmente em colocar um modelo menor em produção.

O desafio é fazer com que ele tome decisões corretas, seja bem calibrado e mantenha capacidade suficiente para entender situações diferentes.

E o Jev original?

O próprio nome Jev faz referência ao economista William Stanley Jevons e à ideia de que, quando o custo de algo cai, sua demanda pode aumentar.

Aplicada à IA, a lógica é provocadora.

Se inteligência computacional ficar suficientemente barata, talvez o resultado não seja simplesmente gastar menos.

Pode ser usar inteligência em muito mais lugares.

Uma empresa que hoje evita chamar um LLM para cada pequena etapa de um processo poderia passar a colocar modelos de decisão em praticamente todas essas etapas.

É uma mudança parecida com a diferença entre ter um computador centralizado e colocar pequenos computadores em praticamente todos os objetos.

A próxima geração pode ser híbrida

O Strands Decider 2B aponta para uma possível mudança na arquitetura dos agentes.

O LLM gigantesco deixa de ser necessariamente o cérebro que controla tudo e passa a ser apenas uma das peças.

Modelos menores podem assumir tarefas específicas, especialmente quando velocidade, custo e previsibilidade são mais importantes que geração de texto aberta.

O resultado pode ser uma espécie de linha de montagem de inteligência artificial, na qual cada modelo executa uma função diferente.

E a corrida iniciada pelo Jev mostra que Amazon, OpenAI e outros pesquisadores já estão testando essa direção.

A pergunta agora não é apenas quem terá o maior modelo.

É quantas decisões pequenas uma máquina poderá tomar por centavo.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário