Para escalar a infraestrutura que sustentará os próximos modelos de inteligência artificial, a Nvidia e outros gigantes da tecnologia estão olhando para o passado. A companhia anunciou recentemente um investimento de US$ 125 milhões na iPronics, uma startup de fotônica, como parte de um esforço bilionário para avançar uma tecnologia chamada comutação óptica de circuitos (OCS, na sigla em inglês).

O conceito é uma releitura moderna das antigas mesas de comutação telefônica, onde operadores conectavam chamadas manualmente. Em vez de vozes, o OCS redireciona feixes de luz que transportam dados, reconfigurando fisicamente a topologia da rede. A tese é que, para conectar milhares de aceleradores de IA em um único sistema coeso, a comutação de pacotes de dados tradicional atinge um limite. A solução pode ser simplesmente mudar o caminho da luz, uma abordagem que o Google já utiliza há anos em seus clusters de TPU.

O gargalo da conexão

As arquiteturas de rede atuais em data centers, baseadas em switches que analisam e redirecionam pacotes de dados individualmente, enfrentam um desafio de complexidade e latência ao escalar. Conectar centenas ou milhares de GPUs em uma malha onde todas possam se comunicar eficientemente (all-to-all) exige uma teia de switches cada vez mais complexa e cara. O OCS contorna esse problema ao não inspecionar os pacotes. Ele funciona como um patch panel programável, alterando as conexões físicas entre as fibras ópticas.

A primeira geração desses sistemas, no entanto, é limitada. Usando tecnologias como microespelhos móveis (MEMS), a reconfiguração da rede pode levar cerca de 100 milissegundos — uma eternidade em computação de alta performance. Além disso, são equipamentos grandes e pouco densos. É essa a tecnologia que o Google emprega para, por exemplo, isolar aceleradores com falha ou redimensionar seus clusters de TPU dinamicamente, provando a viabilidade do conceito, mas também expondo suas arestas.

A nova geração fotônica

É aqui que entram startups como a iPronics. A promessa é uma "segunda geração" de OCS, que abandona as partes móveis em favor de chips de fotônica de silício. Essa abordagem permite tempos de reconfiguração abaixo de um milissegundo, rápido o suficiente para que a topologia da rede possa ser alterada no meio de uma carga de trabalho, com a latência escondida durante os ciclos de computação. A validação veio na forma do cheque de US$ 125 milhões, com participação da própria Nvidia.

A fotônica de silício também permite uma densidade muito maior. Enquanto um switch OCS tradicional pode ocupar oito unidades de um rack para oferecer 300 portas, a iPronics projeta ser capaz de entregar mais de 700 portas em uma única unidade. Essa eficiência é fundamental para construir os supercomputadores de IA do futuro, que exigirão dezenas de milhares de fibras ópticas conectando um número crescente de racks.

O movimento não significa o fim das redes comutadas por pacotes, mas sim a ascensão de arquiteturas híbridas. A leitura é que o OCS será usado para orquestrar a comunicação entre racks, formando uma malha óptica flexível, enquanto switches tradicionais continuarão gerenciando o tráfego dentro de cada rack. Para um ecossistema que busca escalar a computação de forma quase ilimitada, a capacidade de reconfigurar a própria fundação da rede de maneira ágil não é um luxo, mas uma necessidade estratégica.

Com reportagem de Brazil Valley

Source · The Register