A Nvidia pretende capitalizar o crescimento da IA generativa com o lançamento do novo super chip Grace Hopper, o primeiro do mundo com RAM HBM3e

A Nvidia lançou seu mais recente Grace Hopper projetado para alimentar centros de dados que alimentam IA generativa ou outras computações aceleradas. Embora a Nvidia continue a fabricar chips baseados em Arm para consumidores em diferentes formas, há alguns anos ela passou a priorizar SoCs de servidor baseados em Arm que podem ser ainda mais acelerados pela integração de sua plataforma Grace Hopper com suas GPUs de classe de servidor. A aposta da empresa valeu muito a pena após o surgimento de tecnologias de IA generativas, como ChatGPT e Midjourney, entre outras, o que fez com que o preço de suas ações subisse cerca de 200% desde o início do ano.

Assim como o superchip Grace Hopper original, o novo GH200 em configuração dupla aumenta a capacidade para 144 núcleos Arm V-series Neoverse. Também como antes, a CPU (Grace) é combinada com a GPU H100 Tensor Core (Hopper) da Nvidia. As GPUs H100 podem fornecer um mínimo de 51 teraflops de computação FP32 com a arquitetura GH200 combinada, o que é bom para impressionantes 8 petaflops de desempenho de IA.

Para atingir esses novos níveis de desempenho com a GH200 - apesar de manter a arquitetura de silício inalterada - a Nvidia atualizou a arquitetura de memória com 282 GB da mais recente memória HBM3e. A HBM3e é 50% mais rápida do que a memória HBM3 comum, com um total de 10 TB/s de largura de banda. Isso permite que o GH200 processe modelos que são 3,5 vezes maiores do que o chip de primeira geração e o torna o primeiro no mundo a apresentar a memória HBM3e.

A Nvidia também afirma que a plataforma Grace Hopper é escalável com suporte para chips Grace Hopper adicionais a serem conectados usando a interconexão NVLink da Nvidia. A memória coerente (compartilhada entre todas as CPUs e GPUs no cluster) pode chegar a até 1,2 TB. A Nvidia diz que os principais fabricantes de servidores devem fornecer sistemas que executam configurações GH200 em mais de 100 variações de servidores no segundo trimestre de 2024.

Compre o kit de desenvolvedor Nvidia Jetson Nano AI na Amazon por US$ 149.