Hardware dimensionado para a carga de trabalho
O servidor certo depende do que ele precisa manter na memória e de até onde ele precisa se comunicar. Estas páginas associam servidores NVIDIA a quatro tipos de trabalho.
A 1Legion aluga servidores de GPU NVIDIA dedicados para quatro tipos de trabalho. Cada página abaixo explica quais servidores são adequados, o que define o tamanho e onde eles operam.
Quatro cargas de trabalho
Cada carga de trabalho tem um limite principal diferente: o fabric no treinamento, a memória na inferência, os codificadores e drivers em mídia, e a memória para resolução e duração no vídeo generativo.
Treinamento de IA
Treinamentos longos exigem hardware que passou por burn-in e um fabric não bloqueante. Clusters HGX B300 de 64 a 288 nós e servidores HGX B200, com GB300 NVL72 e Vera Rubin mediante reserva.
Inferência de IA
Servidores dedicados mantêm a latência previsível. Dimensione pelos pesos mais o cache KV: 270 GB por GPU na B300, 96 GB na RTX PRO 6000 Blackwell, 48 GB na L40S.
Mídia e entretenimento
Renderização, VFX, produção virtual e transcodificação em servidores inteiros, sem taxas de saída de dados para mover grandes volumes de mídia.
Vídeo generativo
Pipelines de difusão como o ComfyUI, em que a memória da GPU define a resolução, a duração dos clipes e o tamanho do lote.
Como dimensionamos um servidor
Quatro perguntas definem o hardware, e uma proposta responde a cada uma por escrito.
- O que precisa caber na memória da GPU: os pesos, o cache KV ou as ativações, e uma margem para o runtime.
- Até onde as GPUs precisam se comunicar: dentro de um servidor via NVLink, ou em todo um cluster por um fabric de 800 Gb/s por GPU.
- Quantos servidores e por quanto tempo: servidores inteiros com prazos de 36, 48 ou 60 meses, com valores menores para prazos mais longos.
- Onde operam: Toronto e Montreal estão em operação, Delaware está entrando em operação, a Finlândia está em desenvolvimento, e nossa rede de data centers parceiros cobre outras cidades em quatro continentes.
Nosso catálogo de servidores de GPU lista todos os modelos que implantamos, e a especificação de entrega define como os clusters HGX B300 são construídos.
Perguntas que os compradores fazem
Como vocês decidem qual servidor de GPU é adequado para a nossa carga de trabalho?
Começamos pela memória: os pesos do modelo, o cache KV ou as ativações, e a margem. Depois, a interconexão, o tamanho do cluster e a localização. Uma solicitação de cotação com os tamanhos dos seus modelos e o seu tráfego basta para começar.
Um mesmo contrato pode combinar servidores de treinamento e de inferência?
Sim. Uma proposta pode incluir servidores HGX B300 para treinamento e servidores RTX PRO 6000 Blackwell para inferência, cada um com prazos de 36, 48 ou 60 meses.
Vocês alugam GPUs por hora para um teste?
Não. Alugamos servidores inteiros com prazos de 36 a 60 meses, e todo cluster passa por testes de burn-in e aceite antes da entrega, em vez de um período de teste.
Onde os servidores operam?
A capacidade de HGX B300 fica em Toronto, os servidores RTX PRO 6000 Blackwell e de inferência ficam em Montreal, mais capacidade de B300 está entrando em operação nos Estados Unidos, e um local na Finlândia está em desenvolvimento. Veja data centers.
Conte o que você precisa rodar.
Informe o hardware, o número de servidores, o prazo e a data de início. Você recebe uma proposta por escrito baseada na nossa especificação de entrega.