A Volantis, startup de aceleradores de IA com o apoio de Sam Altman, apresentou um plano audacioso para contornar a chamada "memory wall" — o limite físico na quantidade e velocidade de memória que pode ser conectada a um chip de processamento. A empresa sediada em São Francisco, fundada em 2022, está desenvolvendo um acelerador de IA que empregará um interposer fotônico para ampliar significativamente a largura de banda da memória, sem sacrificar a capacidade total. A Volantis alega que sua tecnologia poderá empacotar mais de 10 terabytes (TB) de memória, operando a velocidades de até 240 terabytes por segundo (TB/s) em um único pacote massivo. Essa capacidade, segundo a empresa, seria suficiente para atender a um modelo de 20 trilhões de parâmetros com uma taxa de processamento de 10.000 tokens por segundo por usuário.

O Foco na Fotônica como Diferencial

A estratégia da Volantis difere de muitas outras no setor. Em vez de criar uma arquitetura de computação ou tecnologia de memória totalmente nova, a empresa concentra seus esforços no interposer óptico. O restante dos componentes, incluindo a arquitetura de computação e a própria tecnologia de memória, serão licenciados de provedores de propriedade intelectual (IP). "A diferenciação vem primariamente do interposer óptico. Por que não licenciar tudo o que pudermos, mesmo que não seja o de maior performance do mundo, porque já estamos assumindo um risco considerável com o interposer e a integração", explicou Tapa Ghosh, CEO da Volantis, em entrevista.

A premissa básica por trás do chip, batizado de A-1, é que o uso de guias de onda ópticas em vez de interconexões elétricas permite um aumento substancial na quantidade de memória de alta largura de banda por pacote. Atualmente, a capacidade e a largura de banda de aceleradores de IA modernos, como as GPUs com memória HBM (High Bandwidth Memory), são limitadas pela "linha costeira" do die de computação — o perímetro físico ao redor do chip onde os pinos de dados podem ser alocados. Isso resulta em um limite prático de cerca de 432 GB em chips como o MI455X da AMD. As interconexões fotônicas, por outro lado, podem estender esse alcance para vários centímetros, eliminando a "linha costeira" como um gargalo.

Ampliando a Largura de Banda com Luz

Embora a HBM sirva como um bom exemplo, a Volantis ainda não especificou qual tecnologia de memória seu chip utilizará. A empresa pretende integrar guias de onda ópticas em um interposer, sobre o qual os componentes de computação e memória, projetados ou fornecidos por parceiros, serão empacotados. A ideia de usar interposers de silício fotônico não é inédita; empresas como Lightmatter e Celestial AI já exploraram abordagens semelhantes. Há especulações de que o conceito de memória de alta largura de banda à distância tenha influenciado a aquisição da Celestial AI pela Marvell por US$ 5,5 bilhões. No entanto, diferentemente de suas concorrentes, a Volantis não pretende licenciar sua tecnologia para outros fabricantes de chips, focando no desenvolvimento de um chip de inferência completo.

Outro diferencial reside na tecnologia empregada no interposer da startup. Em vez de depender de lasers externos, o design da Volantis utiliza micro lasers de emissão de superfície de cavidade vertical (micro-VCSELs), integrando a fonte de luz diretamente no interposer. Embora os VCSELs não sejam novos, enfrentaram críticas quanto à sua confiabilidade. Roy Meade, CTO da Volantis, afirma que a tecnologia evoluiu significativamente, permitindo maior confiabilidade com um leve sacrifício na velocidade, uma filosofia que ele descreve como "larga e eficiente". Meade compara essa abordagem à da HBM, que alcança alta largura de banda através de um barramento extremamente largo, mesmo com taxas de dados por pino mais lentas em comparação com outras tecnologias de memória.

Desafios e o Futuro Próximo

A eficiência energética continua sendo um ponto de interrogação para muitas startups de fotônica, mas a Volantis pode ter uma vantagem ao não licenciar sua tecnologia de interposer de primeira geração. Para seu primeiro produto, a empresa almeja uma eficiência de 1 picojoule por bit por lane de 24 Gbps e um consumo total de energia do sistema em torno de 20 kW. A Volantis ainda tem um longo caminho até o tape-out de seu primeiro chip pronto para produção e precisará levantar consideravelmente mais capital de risco do que os US$ 88 milhões arrecadados recentemente com o apoio de investidores como Lachy Groom e Abstract Ventures. Ghosh reconhece essa necessidade, afirmando que o financiamento atual permitirá à empresa escalar de demonstradores ópticos de pequena escala para algo mais próximo do produto final. A integração dos IPs licenciados adiciona outra camada de complexidade. "Agresivamente, devemos mirar em um produto MVP (Minimum Viable Product) em 12 a 18 meses como nosso objetivo", disse Ghosh, ressaltando que isso se refere a um protótipo funcional, não à produção em volume.

Com reportagem de Brazil Valley

Source · The Register