A estação de trabalho de IA com quatro GPUs da Tiny Corp oferece muita potência com AMD Epyc, mas comprar uma não é tão simples

A Tiny Corp, empresa fundada por George Hotz, reformulou sua estação de trabalho Tinybox para aprendizado profundo com um novo sistema de configuração. Ao contrário de suas máquinas anteriores com configuração fixa, a versão mais recente da Tinybox permite que os clientes escolham a memória, o armazenamento e as GPUs de sua preferência, incluindo a opção de comprar um sistema sem placas de vídeo.

O novo configurador da Tinybox apresenta uma plataforma G4 com conectividade PCIe 4.0, um processador AMD Epyc de 32 núcleos com refrigeração líquida, uma placa-mãe de classe servidor com um controlador de gerenciamento da placa-base (BMC) e suporte para até quatro GPUs. As especificações básicas também incluem 32 GB de memória DDR4, um SSD de inicialização de 1 TB e uma fonte de alimentação de 1.700 W. É possível configurar a máquina com até 128 GB de RAM e 16 TB (SSD de inicialização de 1 TB + 4 unidades de 4 TB) de armazenamento com RAID. Já a plataforma G5 atualiza a CPU para uma plataforma Epyc Genoa não especificada e a memória para DDR5. As capacidades mínima e máxima de armazenamento são idênticas nas duas plataformas, mas a CPU Genoa mais recente pode ser configurada com até 192 GB de memória.

A TinyBox tem quatro slots para GPUs com conectividade PCIe de malha completa. A conectividade inclui 16 saídas DisplayPort distribuídas entre as quatro GPUs. Naturalmente, esse número varia de acordo com a quantidade de GPUs instaladas na máquina  Também estão incluídas cinco portas Ethernet RJ45, duas portas USB Type-A e uma saída VGA.  Uma das portas Ethernet pode ser dedicada ao gerenciamento remoto do servidor. 

As opções de GPU variam entre quatro GPUs AMD Radeon RX 9070 XT e uma/duas GPUs Nvidia RTX Pro 6000; a geração não é especificada, mas, considerando o preço de US$ 19.000, é provável que seja Blackwell. Como alternativa, você pode comprar a máquina barebones sem GPU e usar seu próprio hardware. Ela custará US$ 7.000, enquanto o valor máximo que você pode gastar na máquina com 192 GB de RAM, duas GPUs RTX Pro 600, 16 TB de armazenamento e uma CPU Epyc Genoa chega aos impressionantes US$ 64.000.

A abordagem da Tiny Corp para vender hardware é bastante diferente da dos fabricantes convencionais de estações de trabalho. Os clientes devem fazer o pedido pelo site da empresa, e transferências bancárias são a única forma de pagamento aceita. O pagamento deve ser concluído em até cinco dias após a confirmação do pedido para garanti-lo.

Todos os novos sistemas Tinybox são fabricados sob encomenda, com prazos estimados de envio que variam de uma a oito semanas. A entrega internacional está disponível pela UPS, mas apenas para países aceitos na finalização da compra. Impostos de importação, tributos e outras cobranças são de responsabilidade do cliente. Devoluções são permitidas em até 30 dias após o recebimento, embora a Tiny Corp cobre uma taxa de reposição de estoque de 20% e exija que os compradores paguem o frete de devolução.

Como se isso não bastasse, há restrições adicionais para configurações equipadas com Nvidia. A Tiny Corp alerta que os clientes podem precisar preencher a documentação de Conheça Seu Cliente (KYC) e de conformidade, detalhando o uso pretendido e o local de instalação de suas GPUs. As regulamentações de exportação dos EUA também podem impedir que sistemas equipados com Nvidia sejam entregues a determinados países. Mais informações estão disponíveis na página de perguntas frequentes da Tiny Corp.