Imagine se tivéssemos que empregar toda a nossa capacidade analítica de raciocínio para executar tarefas tão corriqueiras e banais como abrir a porta de casa ou responder quanto é a soma de 2 + 2. É mais ou menos isso que fazem hoje os Large Language Models (LLMs) que trabalham por trás do ChatGPT, do Claude e do Gemini – gastando muita energia e capacidade computacional para, não raro, executar operações simples.

Agora, uma startup de São Francisco, a TypeSafe AI, com um ex-engenheiro da OpenAI entre seus fundadores, desenvolveu um novo modelo de IA que entrega resultados de maneira muito mais eficiente para executar tarefas específicas. O Jev, como foi batizado, promete ser não apenas mais rápido e barato, mas também livre de alucinações, um problema recorrente nos LLMs.

O que é o Jev e como ele funciona?

A principal diferença do Jev reside em sua forma de interagir: em vez de responder a prompts com textos em linguagem natural, o modelo entrega resultados na forma de probabilidades, ou o que a startup prefere chamar de “decisões calibradas”. Essa abordagem é especialmente atraente para desenvolvedores, pois abre a perspectiva de automação de fluxos de trabalho a um custo menor e com resultados mais satisfatórios. Diogo Almeida, ex-engenheiro da OpenAI e fundador da TypeSafe AI, explica que a otimização para a linguagem humana, característica dos LLMs populares, não é ideal para a comunicação direta com softwares.

"Levei algum tempo para chegar à conclusão de que o problema é que estávamos otimizando os modelos para a linguagem humana," disse Almeida ao TechCrunch. "Somos muito bons em linguagem humana, mas isso não serve para a automação, porque os computadores falam uma linguagem diferente." O Jev, portanto, foi projetado para essa comunicação máquina a máquina.

Eficiência e Custo: a promessa do Jev

O Jev não apenas se diferencia na forma, mas também na performance. A Vercel, companhia focada em infraestrutura para agentes de IA, relatou ter substituído um LLM de ponta pelo Jev para executar comandos de segurança, obtendo resultados até 18 vezes mais rápidos e precisos. A TypeSafe AI desenvolveu uma nova arquitetura, batizada de System One, e um método de treinamento chamado Reinforcement Learning for Calibrated Decisions (RLCD). Segundo a empresa, o custo de inputs para LLMs pode variar entre US$ 0,20 e US$ 10 por milhão de tokens, enquanto o Jev opera a US$ 42 por bilhão de tokens – uma diferença de cerca de 200 vezes no custo.

Em termos de velocidade, enquanto LLMs tradicionais medem respostas em segundos ou minutos, o Jev responde a questões específicas em milissegundos, sendo até 200 vezes mais rápido. Em vez de gerar parágrafos de texto, o modelo da TypeSafe fornece respostas numéricas acompanhadas de estimativas de probabilidade e pontuações que indicam o nível de confiança em cada métrica, permitindo que empresas identifiquem resultados confiáveis e aqueles que necessitam de supervisão humana.

Implicações para o futuro do trabalho e da automação

A proposta do Jev sugere uma mudança de paradigma na forma como a inteligência artificial será integrada aos fluxos de trabalho. A ênfase em decisões calibradas e a ausência de “criatividade” ou alucinações, características dos chatbots populares, indicam um foco na confiabilidade e na precisão para tarefas automatizadas. Almeida reforça essa visão: "Se a IA vai mudar a forma como o trabalho é realizado, as pessoas não podem ser as únicas consumidoras de inteligência. A maior parte da inteligência deve residir dentro de softwares, operando silenciosamente em segundo plano".

Fundada há três anos, a TypeSafe AI já atraiu investimentos significativos, captando US$ 40 milhões em uma rodada seed liderada pelo fundo de venture capital DCVC, alcançando uma avaliação de US$ 200 milhões. O nome Jev é uma homenagem ao economista William Stanley Jevons, conhecido por descrever o paradoxo onde o aumento da eficiência tecnológica pode levar a um uso ainda mais intenso de recursos.

Perguntas em aberto sobre a adoção do Jev

Embora o Jev apresente um potencial disruptivo para a automação de softwares, sua adoção em larga escala dependerá de como as empresas integrarão essa nova forma de interação com a IA em seus sistemas existentes. A transição de modelos baseados em linguagem natural para modelos de decisões calibradas pode exigir reconfigurações significativas em fluxos de trabalho e na forma como os dados são processados.

A capacidade do Jev de lidar com a complexidade de diversas tarefas de software, além das demonstrações iniciais de velocidade e custo, será crucial para sua validação no mercado. A promessa de reduzir significativamente os custos operacionais e aumentar a eficiência pode ser um forte argumento para sua adoção, mas a curva de aprendizado e a adaptação das equipes técnicas também serão fatores determinantes. O mercado observará atentamente como essa nova abordagem se consolidará.

Com reportagem de Brazil Valley

Source · Brasil Journal Tech