inferência 10x mais rápida em comparação com o HBM4: a d-Matrix une forças com a AIchip para produzir a primeira DRAM 3D do mundo

O controle que a Nvidia exerce sobre toda a infraestrutura de hardware de IA ainda é forte, mas várias empresas estão se esforçando para oferecer alternativas eficientes. Há alguns anos, quando a Nvidia estava lutando para atender à demanda cada vez maior por hardware de inferência, a d-Matrix surgiu e aproveitou a oportunidade para se posicionar como um fornecedor confiável de hardware de IA generativa no espaço do data center. Sua primeira placa de computação dedicada, a Corsair C8foi bem recebida, e a empresa agora planeja lançar um modelo sucessor que integra a primeira DRAM 3D produzida em massa do mundo.

a d-Matrix colaborou com a infraestrutura de IA de alto desempenho ASIC de alto desempenho AIchip, de Taiwan, para desenvolver a solução 3D DRAM, que supostamente "elimina os gargalos de desempenho e custo que restringem a infraestrutura de IA atual" Esse novo tipo de RAM, conhecido como 3DIMC (3D stacked digital in-memory compute) está sendo testado atualmente nos chips Pavehawk da d-Matrix.

Espera-se que o primeiro produto comercial com DRAM empilhada em 3D seja o acelerador de inferência Raptor da d-Matrix (link de afiliado Nvidia Jetson AGX), que substituirá os atuais modelos Corsair. A d-Matrix estima que a solução 3DIMC poderá oferecer velocidades de inferência até 10 vezes maiores do que as do mais rápido HBM4-mais rápidos.

Sid Sheth, cofundador e CEO da d-Matrix, explica que a DRAM empilhada em 3D representa "um avanço que torna a IA não apenas mais rápida, mas também mais econômica e sustentável em escala. a 3DIMC representa a próxima etapa lógica em nosso roteiro para fornecer arquiteturas de inferência eficientes que acompanham o crescimento exponencial da IA generativa e agêntica"