A era de ouro do treinamento de modelos de inteligência artificial pode ter ficado para trás. O foco da indústria, de acordo com uma análise da IEEE Spectrum, está se deslocando de forma decisiva para a 'inferência' — o processo de efetivamente usar os modelos treinados para gerar texto, código ou imagens. O CEO da Nvidia, Jensen Huang, já chama este momento de “ponto de inflexão da inferência”, um sentimento ecoado por analistas que afirmam que o treinamento se tornou “notícia de ontem”.

O gargalo mudou de lugar

A razão para a mudança é simples: os modelos de linguagem se tornaram úteis, e o uso explodiu. Técnicas como o 'chain of thought', onde um modelo se questiona múltiplas vezes para chegar a uma resposta, e o surgimento de IAs 'agentes' que operam continuamente, multiplicam a carga de trabalho. Computacionalmente, a inferência apresenta desafios distintos do treinamento. Enquanto treinar um modelo é um esforço intenso, mas finito, de ajuste de parâmetros, a inferência é um processo contínuo e 'autorregressivo', onde cada nova palavra gerada depende de todo o contexto anterior, demandando enorme capacidade de memória e acesso rápido aos dados.

Essa nova realidade está forçando alianças inesperadas e movimentos estratégicos bilionários. OpenAI e Amazon, por exemplo, estão implantando chips da especialista em inferência Cerebras, mesmo a Amazon tendo seus próprios processadores. A Nvidia, por sua vez, adquiriu propriedade intelectual e talentos da startup Groq por US$ 20 bilhões para reforçar sua posição. O recado do mercado é claro: o hardware otimizado para o treinamento não será suficiente para suprir a demanda da próxima fase da IA, e as empresas estão se reposicionando agressivamente para não ficarem para trás.

A transição da pesquisa para a produção em escala industrial está em pleno curso. O desafio da inteligência artificial deixa de ser apenas construir o maior e mais capaz modelo para se tornar um problema de engenharia e economia: como entregar o serviço de forma eficiente e a um custo viável. Os vencedores da próxima etapa não serão necessariamente os que treinam os melhores modelos, mas os que dominam a complexa operação de executá-los.

Com reportagem de Brazil Valley

Source · IEEE Spectrum