O ChatGPT ganhou um “anti-LLM”: Jev aposta em decisões, não em texto

Renê Fraga
11 min de leitura

Principais destaques

  • Uma IA sem texto: o Jev recebe linguagem natural ou dados estruturados e devolve escolhas, pontuações ou probabilidades.
  • Velocidade como arma: a TypeSafe afirma que o modelo pode ser até 200 vezes mais rápido e até 400 vezes mais barato que LLMs de ponta em tarefas estruturadas.
  • US$ 40 milhões no caixa: a startup saiu de dois anos em stealth com uma rodada seed liderada pela DCVC e colocou o Jev em acesso antecipado.

A próxima disputa da inteligência artificial talvez não seja sobre quem escreve melhor.

Pode ser sobre quem decide mais rápido.

É essa a aposta da TypeSafe AI, startup de San Francisco que passou dois anos operando em modo stealth e agora apresentou o Jev, seu primeiro “Modelo Sistema Um”. A empresa também anunciou US$ 40 milhões em uma rodada seed liderada pela DCVC.

A ideia parece quase contraintuitiva em um mercado obcecado por chatbots: o Jev não escreve texto.

E se a IA simplesmente parasse de escrever? 🤖

Em vez de produzir uma sequência de tokens, como fazem os grandes modelos de linguagem, o Jev recebe uma entrada e retorna uma decisão estruturada.

Essa saída pode assumir apenas três formas principais:

• uma escolha entre até 255 opções predefinidas;
• uma pontuação numérica;
• uma probabilidade binária de sim ou não.

Cada decisão vem acompanhada de um valor de confiança calibrado.

🔎 A mudança de paradigma: em vez de pedir que uma IA “pense em palavras” e depois transformar essas palavras em uma resposta, a TypeSafe quer que determinados sistemas pulem diretamente para a decisão necessária.

O fundador da empresa, Diogo Almeida, resumiu a proposta como uma interface em que o “estado não estruturado” entra de um lado e “decisões probabilísticas tipadas” saem do outro.

E Almeida não chega exatamente como um desconhecido na área.

Ele participou do desenvolvimento do InstructGPT e de técnicas de aprendizado por reforço com feedback humano na OpenAI, tecnologia associada à evolução que levou aos sistemas por trás do ChatGPT.

Menos conversa, mais decisão ⚡

O motivo para eliminar a geração de texto é bastante pragmático.

LLMs normalmente produzem respostas de maneira autorregressiva: um token é gerado, depois outro, depois outro. Para uma tarefa que exige apenas uma classificação, uma pontuação ou uma escolha, isso pode significar gastar processamento produzindo uma quantidade enorme de informação que ninguém pediu.

O Jev tenta fazer o caminho inverso.

As decisões são processadas em paralelo, segundo a TypeSafe, reduzindo tanto a latência quanto o custo.

💡 A aposta central da TypeSafe: se a aplicação só precisa de uma decisão estruturada, talvez não faça sentido pagar pelo texto necessário para chegar até ela.

A empresa afirma que, em tarefas estruturadas comparáveis, o Jev pode ser de 20 a 200 vezes mais rápido e de 40 a 400 vezes mais barato que modelos de linguagem de ponta.

Os números divulgados nos benchmarks chegam ainda mais longe: até 193,6 vezes de ganho de velocidade e 444,6 vezes de redução de custo.

A própria TypeSafe ressalta que esses valores representam o limite superior do desempenho esperado no mundo real.

E o preço? É aí que a conta fica estranha 💸

A estrutura econômica anunciada acompanha a proposta técnica.

A TypeSafe informa preço de US$ 0,042 por milhão de tokens de entrada. Já a saída é efetivamente gratuita, segundo a empresa, porque o sistema não precisa gerar tokens de maneira autorregressiva.

Para aplicações que precisam tomar milhões de pequenas decisões, a diferença potencial é relevante.

Imagine sistemas que precisam classificar documentos, escolher entre alternativas, atribuir notas ou estimar probabilidades continuamente. Nesses cenários, gerar uma resposta textual completa pode ser parecido com contratar um redator para responder apenas “sim” ou “não”.

O Jev quer ser a máquina de “sim ou não”.

Mas como ele aprende a decidir? 🧠

A TypeSafe chama sua abordagem de Aprendizado por Reforço para Decisões Calibradas, ou RLCD.

O objetivo não é simplesmente ensinar o modelo a reproduzir preferências humanas sobre qual resposta parece melhor. A proposta é otimizar estimativas probabilísticas que sejam calibradas e, segundo a empresa, epistemicamente honestas.

Na prática, isso coloca a confiança no centro do produto.

Não basta o sistema escolher uma alternativa. Ele também precisa indicar quão confiante está naquela escolha.

Essa característica pode ser especialmente importante em aplicações nas quais a diferença entre “tenho 51% de certeza” e “tenho 99% de certeza” muda o que o software deve fazer em seguida.

Sistema 1, e não Sistema 2 👀

O nome “Modelo Sistema Um” também é deliberado.

A referência vem da distinção popularizada por Daniel Kahneman entre o Sistema 1, associado a respostas rápidas e intuitivas, e o Sistema 2, ligado a processos mais deliberativos e analíticos.

A TypeSafe está posicionando o Jev no primeiro grupo.

Isso ajuda a explicar por que a empresa não trata suas limitações como acidentes de produto. Elas fazem parte da proposta.

O modelo não escreve textos, não produz código e não explica seu raciocínio.

Para um chatbot, isso seria uma deficiência evidente.

Para um mecanismo especializado em decisões, pode ser exatamente o ponto.

O Jev jogando DOOM ajuda a entender a ideia 🎮

A demonstração mais chamativa da TypeSafe coloca o Jev em uma situação em que velocidade realmente importa: DOOM.

Segundo a empresa, o modelo chega a aproximadamente 10 chamadas por segundo, com custo de cerca de US$ 7 por hora de jogo.

Nesse tipo de aplicação, esperar uma resposta textual longa antes de decidir o próximo movimento seria pouco útil. O sistema precisa olhar para o estado do jogo e escolher uma ação.

O Jev foi desenhado para esse tipo de ciclo.

⚡ Na prática: observar, decidir, agir. E repetir.

A empresa também apresentou um benchmark de navegação por links da Wikipedia no qual o Jev concluiu tarefas mais rapidamente que vários modelos de ponta executados em seus modos rápidos sem raciocínio.

Só que existe uma conta a pagar: flexibilidade 📉

A mesma característica que pode tornar o Jev rápido também delimita seu território.

Ele não é um substituto direto para um LLM de uso geral.

Se a tarefa for escrever um e-mail, programar uma aplicação, resumir um relatório ou explicar um conceito, o Jev simplesmente não foi construído para isso.

Há ainda outra restrição: no momento, o sistema aceita apenas entradas de texto. Imagens ainda não fazem parte da interface anunciada.

JevLLM tradicional
Decisões estruturadasTexto e múltiplos formatos de resposta
Até 255 opções, pontuação ou probabilidade bináriaGeração aberta
Sem geração de textoGeração autorregressiva
Foco em velocidade e custoFoco em flexibilidade
Não explica o raciocínioPode produzir explicações

Essa diferença é importante porque o mercado de IA está avançando justamente na direção de modelos cada vez mais versáteis.

A questão, portanto, não é simplesmente se o Jev consegue fazer algo que um LLM não consegue.

É se vale a pena usar um sistema especializado quando um modelo geral também consegue executar aquela tarefa, ainda que com mais custo ou latência.

O dinheiro chegou antes da prova independente 💰

A TypeSafe já tem uma resposta inicial do mercado de investidores.

A startup levantou US$ 40 milhões em seed, com liderança da DCVC, justamente no momento em que deixa o stealth e apresenta publicamente sua tecnologia.

O produto também já está disponível em acesso antecipado por meio de uma lista de espera na plataforma de desenvolvedores da empresa, enquanto a documentação foi publicada em docs.typesafe.ai.

Mas há uma ressalva importante.

Os benchmarks apresentados até agora são resultados divulgados pela própria TypeSafe. Ainda não foram publicados resultados independentes que validem essas cifras.

E isso importa especialmente quando estamos falando de números como 193,6 vezes mais velocidade ou 444,6 vezes menos custo.

Então, onde essa ideia pode chegar? 🔮

O Jev não precisa derrotar os LLMs em tudo para encontrar utilidade.

Seu espaço potencial está justamente nas tarefas em que a resposta final já é estruturada e previsível: escolher, pontuar, classificar ou estimar uma probabilidade.

Isso pode mudar a equação econômica de aplicações que fazem essas operações em grande escala.

Por outro lado, quanto mais uma tarefa exigir contexto aberto, criatividade, explicação ou multimodalidade, mais evidente fica a distância entre o Jev e um modelo geral.

A TypeSafe, portanto, está fazendo uma aposta bem específica: nem toda inteligência artificial precisa falar. Algumas precisam apenas decidir.

Por enquanto, a demonstração de DOOM mostra a ideia funcionando em uma velocidade que chama atenção. O próximo teste é menos cinematográfico e muito mais importante para uma startup recém-saída do stealth: descobrir se desenvolvedores realmente querem colocar essa “máquina de decisões” no centro de seus produtos.

E, nesse caso, a partida só está começando.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário