A Asus apresenta "o primeiro acelerador de IA de ponta USB do mundo para IA clássica e IA generativa"

As placas de expansão para sistemas de PC não são novidade, sendo que as placas gráficas dedicadas são obrigatórias para os jogadores mais exigentes. Já havíamos relatamos sobre placas de expansão para acelerar modelos de IA, embora elas provavelmente não sejam mais estritamente necessárias para muitos PCs modernos graças às NPUs integradas às APUs. No entanto, essas placas de expansão ainda podem ser úteis para aumentar o desempenho de IA dos sistemas existentes. A Asus anunciou agora uma dessas placas, a UGen300.

Essa é uma placa de expansão USB que se comunica via USB 3.1 Gen 2 e, portanto, não requer instalação em um slot PCI nem abertura do gabinete do PC. O dispositivo é equipado com uma NPU Hailo 10H, que supostamente atinge um desempenho de 40 TOPS (INT4), e seu consumo de energia típico é especificado em 2,5 watts, o que o torna muito baixo ou praticamente insignificante. há 8 GB de RAM LPDDR4 a bordo, o que provavelmente não será suficiente para os entusiastas de IA hardcore, já que as compilações de IA dedicadas geralmente têm bem mais de 100 GB de RAM.

Segundo informações, ele é compatível com as plataformas x86 e ARM, Windows, Linux e dispositivos Android, além de várias estruturas, como TensorFlow, PyTorch e ONNX. De acordo com a Asus, mais de 100 modelos pré-treinados estão disponíveis para uso. Um aplicativo típico poderia ser o reconhecimento e a interpretação avançados de imagens ou padrões. No momento, não há informações sobre preço ou disponibilidade