Alto desempenho de IA: A nova SBC RISC-V é uma poderosa alternativa ao Raspberry Pi 5

O Banana Pi BPI-SM10 é um novo computador de placa única, embora ainda não esteja disponível. Não se trata necessariamente de um computador de placa única no sentido típico, mas aparentemente mais de uma combinação de um módulo de computação e uma placa de suporte correspondente. Somente a placa de suporte expõe portas fáceis de usar em sua forma usual. Ela inclui, entre outras coisas, quatro portas USB 3.0, bem como Gigabit Ethernet, DisplayPort e MIPI-DSI para saída de vídeo e vários slots M.2 para instalação de SSDs, por exemplo.

O módulo de computação em si usa o SpacemiT K3 como processador. Ele possui um total de oito núcleos de computação X100 com uma velocidade de clock de até 2,4 GHz. Esses oito núcleos são organizados em dois clusters com quatro núcleos cada e um cache L2 compartilhado. Há também oito núcleos A100. Eles foram projetados especificamente para acelerar os modelos de IA, com desempenho avaliado em até 60 TOPS. A Orange Pi também fornece um número mais específico, ou mais prático, para o desempenho da IA. Ela diz que os LLMs com 30 bilhões de parâmetros podem ser usados de forma bastante significativa a mais de 10 tokens por segundo.

Dependendo da versão específica do modelo, é usada a memória LPDDR5 com capacidade de 8, 16 ou 32 GB. O consumo de energia está listado entre 18 e 35 watts. A placa de suporte inclui um conector de pinos GPIO, o que é típico de computadores de placa única. Os produtos baseados na arquitetura Jetson da Nvidia podem ser uma alternativa possível.