A Rivet, uma startup emergente no cenário de orquestração de cargas de trabalho de agentes de Inteligência Artificial (IA), apresenta uma solução arquitetural que busca redefinir a eficiência e o custo-benefício no setor. Segundo o repositório oficial no GitHub, a plataforma se inspira no modelo de atores e utiliza o Amazon S3 como base de armazenamento primário para oferecer alta densidade, escalabilidade e, notavelmente, um custo operacional inferior em comparação com abordagens tradicionais.

Arquitetura de Atores e S3: o coração da Rivet

A proposta central da Rivet reside na sua arquitetura de atores. Diferentemente de abordagens que demandam sandboxes pesadas e isoladas para cada agente, a Rivet emprega atores leves. Cada ator mantém um processo de longa duração para interações complexas, estado em memória para contexto rápido e um servidor WebSocket para comunicação em tempo real. Segundo a Rivet, a durabilidade dos dados é garantida por um banco de dados SQLite com persistência em S3, e os atores entram em hibernação quando ociosos para otimizar o uso de recursos.

A equipe compara o modelo a soluções como Cloudflare Durable Objects, com a vantagem de ser open-source e auto-hospedável. A decisão de priorizar o S3 como armazenamento primário, em vez de SSDs tradicionais, é um dos diferenciais mais marcantes. A experiência anterior do time com infraestrutura para jogos multiplayer — em que o volume de dados excedeu o que um Postgres comportaria confortavelmente — os levou a reavaliar a estratégia de armazenamento. Segundo a empresa, muitos casos de uso guardam grandes volumes de dados por ator (por exemplo, transcrições extensas e artefatos de agentes), o que tornaria SSDs caros e subutilizados. A Rivet argumenta que o S3 oferece um custo até 10 vezes menor que soluções como EBS gp3, mantendo desempenho comparável a SSDs por meio de um sistema de cache.

Otimização de performance e custo

O uso do S3 na Rivet vem acompanhado de uma estratégia para mitigar latência e custos associados a muitas pequenas escritas (PUTs). De acordo com a empresa, as escritas em um ator são confirmadas primeiramente em SSD e, posteriormente, os dados são enviados em lote para o S3 em segundo plano — reduzindo a pressão sobre o armazenamento de objetos. Para leituras, a plataforma prioriza o cache em SSD e recorre ao S3 apenas quando necessário.

Segundo benchmarks divulgados pela Rivet, essa arquitetura permite tempos de escrita durável de 1,07 ms (p99) e leituras de 1,36 ms (p99), com leituras vindas do armazenamento de objetos em 138 ms (p99). Os números sugerem um equilíbrio entre durabilidade, velocidade e custo, desde que os acessos mais frequentes se beneficiem do cache local.

A capacidade de auto-hospedagem é outro pilar da oferta. Ainda de acordo com a Rivet, a implantação requer apenas um binário em Rust e o S3 como dependência. Para quem prefere uma solução gerenciada, a empresa afirma oferecer a Rivet Cloud com clusters dedicados em AWS ou GCP, além de um modelo BYOC (Bring Your Own Cloud) para implantação em VPCs próprias. Essa portabilidade se estende ao ambiente de desenvolvimento local, que opera de forma idêntica à produção, facilitando o ciclo de desenvolvimento. Os atores podem ser desenvolvidos em TypeScript ou Rust, cobrindo aplicações que incluem agentes de IA, fluxos de trabalho, funcionalidades multiplayer e integrações com serviços como o Turso.

Implicações para o ecossistema de IA

A proposta da Rivet pode impactar o desenvolvimento de aplicações de IA que exigem orquestração de múltiplos agentes e processamento em tempo real. A redução de custos de armazenamento e a eficiência no uso de recursos podem democratizar o acesso a infraestruturas mais robustas para startups e desenvolvedores independentes. A flexibilidade de implantação — em nuvens públicas, on-premise ou ambientes híbridos — atende a diferentes necessidades de segurança e conformidade. Ao abstrair parte da complexidade de infraestrutura e otimizar a performance de workloads de agentes, a Rivet se posiciona como um facilitador para a próxima onda de inovações em IA.

A abordagem focada em custo e escalabilidade, ancorada no modelo de atores e no S3, mira gargalos críticos no desenvolvimento e na operação de sistemas de IA. A experiência do time com jogos multiplayer e a ênfase em cache local sugerem potencial para aplicações em larga escala, incluindo bases de milhões de usuários, mantendo o custo marginal em patamares competitivos.

Com informações do repositório oficial da Rivet no GitHub: https://github.com/rivet-dev/rivet

Source · Hacker News