A AMD está apostando em inteligência artificial para redefinir a arquitetura de servidores e reduzir custos. A empresa anunciou uma nova tecnologia, originada da aquisição da Mext, que promete entregar até 99% do desempenho de sistemas com o dobro de memória RAM (DRAM), utilizando apenas metade dela. Essa façanha é possível graças a modelos de IA que preveem e gerenciam o carregamento de páginas de memória para e do armazenamento NVMe, mais barato, antes mesmo que o sistema operacional ou as aplicações as demandem.

O Contexto da Otimização de Memória

O custo de memória é um componente significativo na construção de servidores corporativos, podendo representar entre 60% a 90% do valor total em sistemas com grandes capacidades de RAM. Com a crescente demanda por poder computacional, impulsionada pela expansão de data centers para cargas de trabalho de IA, a pressão sobre os recursos de memória só aumenta. Uma pesquisa da Meta, citada pela AMD, revelou que uma parcela considerável da memória de um servidor (entre 50% a 80%) pode não ser acessada ativamente por longos períodos. Essa observação abriu caminho para a ideia de descarregar essas páginas de memória menos utilizadas para um meio de armazenamento mais econômico, como o flash NAND, que é consideravelmente mais barato e consome menos energia por bit que a DRAM.

O Mecanismo de IA por Trás da Solução

O principal desafio dessa abordagem reside na latência e na velocidade de acesso. O armazenamento flash, embora mais barato, é cerca de 500 vezes mais lento que a DRAM. Para que a tecnologia funcione sem comprometer drasticamente o desempenho das aplicações, é crucial que as páginas de memória descarregadas para o flash retornem à DRAM antes de serem requisitadas. A solução da AMD, batizada de Mext, emprega modelos de aprendizado de máquina, inspirados em arquiteturas como a dos Transformers (semelhantes aos usados em LLMs como ChatGPT), para prever quais páginas de memória serão necessárias em seguida. Esses modelos são treinados diretamente no núcleo da CPU Epyc, de forma rápida e sem a necessidade de GPUs dedicadas, permitindo que o sistema antecipe a demanda e mova os dados de volta para a DRAM de forma transparente. O resultado é que, para a aplicação ou sistema operacional, o flash se comporta como se fosse DRAM.

Implicações e Stakeholders

A tecnologia Mext tem o potencial de impactar significativamente os custos operacionais para empresas que utilizam servidores AMD Epyc. Ao permitir a substituição de terabytes de DRAM por armazenamento flash, a AMD estima que os clientes podem economizar até 83% no custo de seus servidores. A solução é projetada para ser exclusiva do hardware AMD e será oferecida como uma licença através de parceiros OEM. Inicialmente, a tecnologia foi focada em aplicações que consomem muita memória, como design eletrônico (EDA) e criação de conteúdo, mas também tem se mostrado eficaz em cargas de trabalho sensíveis à latência, como bancos de dados e pipelines de IA. A promessa de manter cerca de 95% a 99% do desempenho original, mesmo com a redução drástica na quantidade de DRAM, é um atrativo poderoso em um mercado onde a escassez e o alto custo da memória são barreiras.

Perguntas em Aberto e o Futuro

Embora a AMD apresente resultados promissores, a eficácia da tecnologia pode variar dependendo da aplicação e da quantidade de memória descarregada para o flash. A empresa menciona que, em testes com o conjunto de ferramentas PrimeTime da Synopsys, a redução para 25% de DRAM e 75% de flash resultou em uma queda de desempenho para 80% da linha de base. A AMD está atualmente na primeira fase de implementação, trabalhando com OEMs para tornar seus sistemas compatíveis com a tecnologia Mext. A segunda fase prevê a venda de licenças e a pré-instalação de ferramentas como o RAM View, que auxilia os clientes a identificar as cargas de trabalho mais adequadas para a otimização. Resta observar como essa abordagem se consolidará no mercado e se a promessa de "99% de performance com metade da DRAM" se manterá consistente em uma gama mais ampla de cenários de uso corporativo.

Com reportagem de Brazil Valley

Source · The Register