NVIDIA RTX PRO 6000 Blackwell
Oito GPUs RTX PRO 6000 Blackwell com 96 GB de GDDR7 cada, 768 GB por servidor, hospedadas em Montreal, para inferência de LLM, vídeo e imagem generativos, renderização e pipelines de mídia.
- GPUs por servidor
- 8
- Memória por GPU
- 96 GB GDDR7
- Memória de GPU por servidor
- 768 GB
- Hospedado em
- Montreal
Especificações
| GPU | |
|---|---|
| Edição | NVIDIA RTX PRO 6000 Blackwell Server Edition |
| Arquitetura | NVIDIA Blackwell |
| Memória | 96 GB GDDR7 com ECC, 512 bits |
| Largura de banda de memória | 1.597 GB/s |
| Núcleos CUDA | 24.064 |
| Tensor Cores | 752, quinta geração |
| RT Cores | 188, quarta geração |
| FP4 de pico | 4 PFLOPS (a NVIDIA não informa se é esparso ou denso) |
| FP32 | 120 TFLOPS |
| Desempenho dos RT Cores | 355 TFLOPS |
| Mecanismos de mídia | 4 NVENC, 4 NVDEC, 4 JPEG |
| Multi-Instance GPU | Até 4 instâncias de 24 GB, 2 de 48 GB ou 1 de 96 GB |
| Interconexão de GPU | PCIe 5.0 x16, sem NVLink |
| Potência por GPU | Configurável, até 600 W |
| Formato | Slot duplo, altura completa, comprimento completo, refrigeração passiva |
| Servidor conforme entregue | |
|---|---|
| GPUs por servidor | 8 |
| Memória de GPU por servidor | 768 GB (8 x 96 GB) |
| CPU, memória do sistema e armazenamento | Configuração de acordo com seus requisitos, confirmada na sua proposta |
| Rede | Configuração de acordo com seus requisitos, confirmada na sua proposta |
| Localização | Montreal, Canadá |
Cargas de trabalho típicas
- Inferência de LLM para modelos da classe de 70B em FP8 ou FP4
- Pipelines de vídeo e imagem generativos, como o ComfyUI
- Renderização, VFX e produção virtual
- Transcodificação e streaming de vídeo
Alugue servidores dedicados com oito GPUs NVIDIA RTX PRO 6000 Blackwell, hospedados em Montreal. A alocação está aberta, com contratos de 36, 48 ou 60 meses, e todo preço vem em uma proposta por escrito.
Para quem é a RTX PRO 6000 Blackwell
A RTX PRO 6000 Blackwell é para equipes que precisam de muita memória por GPU com até 600 W, em vez da potência de classe HGX: equipes de inferência que servem modelos da classe de 70B em FP8 ou FP4, estúdios de vídeo e imagem generativos e pipelines de mídia que renderizam, codificam e transmitem.
Cada GPU tem 96 GB de GDDR7 com ECC, 768 GB por servidor. Os pesos em FP8 de um modelo de 70B parâmetros ocupam cerca de 70 GB, então o modelo cabe em uma GPU com espaço para o cache KV, e uma versão de 4 bits do mesmo modelo deixa cerca de 60 GB livres.
Pontos fortes
96 GB por GPU
96 GB de GDDR7 a 1.597 GB/s em um barramento de 512 bits, e até quatro instâncias MIG de 24 GB por GPU quando as tarefas são pequenas.
Tensor Cores Blackwell
752 Tensor Cores de quinta geração com suporte a FP4. A NVIDIA publica 4 PFLOPS de FP4 de pico por GPU, sem dizer se o valor é esparso ou denso, e 120 TFLOPS em FP32.
Mecanismos de mídia
Quatro codificadores NVENC, quatro decodificadores NVDEC e quatro mecanismos JPEG por GPU, 32 codificadores de hardware por servidor, para transcodificação e pipelines de vídeo.
Ray tracing
188 RT Cores de quarta geração e 355 TFLOPS de desempenho de RT Cores para renderização, VFX e simulação.
As GPUs se conectam por PCIe 5.0 x16, sem NVLink. Modelos que cabem em uma GPU, ou que se dividem bem entre algumas poucas, são adequados à RTX PRO 6000; modelos que precisam de muito tráfego entre GPUs devem ficar em um servidor HGX.
Configuração conforme entregue
Os servidores são configurados conforme seus requisitos e confirmados na sua proposta: CPU, memória do sistema, NVMe local e rede. Os números desta página são da Server Edition, a versão da placa para data center da NVIDIA, com refrigeração passiva e configurável até 600 W por GPU.
Nosso local em Montreal conta com suporte de engenharia presencial. Todo servidor passa por burn-in antes da entrega, com os resultados em um relatório de aceite, e nossa página Burn-in e aceite explica os testes.
Como funciona o aluguel
A alocação de RTX PRO 6000 Blackwell está aberta em Montreal. Você aluga servidores inteiros de 8 GPUs com contrato de 36, 48 ou 60 meses, e prazos mais longos têm valores menores.
A empresa que vai usar os servidores preenche três formulários de onboarding antes da assinatura. Você paga a entrada na assinatura e, depois, um valor mensal fixo durante todo o prazo, sem taxas de saída de dados, o que importa quando você transfere arquivos de vídeo grandes para dentro e para fora. Não oferecemos períodos de teste; o burn-in e o relatório de aceite ocupam esse lugar. Montreal é um local canadense e a 1Legion é uma empresa canadense: veja Servidores de GPU no Canadá e, para cada etapa, nossa página Como contratar.
Cargas de trabalho e alternativas
- Inferência de LLM: modelos da classe de 70B em FP8 ou FP4, um modelo por GPU ou divididos entre algumas GPUs. Veja Inferência de IA.
- Vídeo e imagem generativos: ComfyUI e pipelines de difusão semelhantes, em que a memória define a resolução, a duração e o tamanho do lote. Veja Vídeo generativo.
- Renderização, VFX e transcodificação: veja Mídia e entretenimento.
Para o dimensionamento, leia 8 x 96 GB: o que cabe em um nó RTX PRO 6000 Blackwell e ComfyUI e vídeo com IA em bare metal dedicado. Se 48 GB por GPU forem suficientes, a L40S está disponível sob consulta; para os maiores modelos, o HGX B300 tem 270 GB por GPU.
Perguntas que os compradores fazem
O que cabe em uma GPU RTX PRO 6000 Blackwell?
96 GB comportam um modelo de 70B parâmetros em FP8, cerca de 70 GB de pesos, e ainda sobra espaço para o cache KV. Nosso artigo 8 x 96 GB: o que cabe em um nó RTX PRO 6000 Blackwell detalha o dimensionamento.
Qual edição da RTX PRO 6000 Blackwell vocês usam?
Os números desta página são da Server Edition, a versão para data center da NVIDIA, com refrigeração passiva e configurável até 600 W por GPU. A edição e a configuração de potência dos seus servidores são confirmadas na sua proposta.
As GPUs são conectadas por NVLink?
Não. A RTX PRO 6000 Blackwell Server Edition se conecta por PCIe 5.0 x16. Se o seu modelo precisa ser dividido entre GPUs que exigem a largura de banda do NVLink, considere o HGX B300.
Onde os servidores ficam hospedados?
Em Montreal, no Canadá, onde temos suporte de engenharia presencial. Quando você escolhe um local canadense, os servidores e o armazenamento deles ficam no Canadá.
Podemos testar um servidor antes de assinar?
Não oferecemos períodos de teste. Todo servidor passa por burn-in antes da entrega, e você recebe os resultados em um relatório de aceite. Veja Burn-in e aceite.
Quais prazos de contrato estão disponíveis?
36, 48 ou 60 meses, com valores menores para prazos mais longos. Você paga a entrada na assinatura e, depois, um valor mensal fixo durante todo o prazo, sem taxas de saída de dados.
Alugue servidores RTX PRO 6000 com prazos de 36 a 60 meses.
Informe o hardware, o número de servidores, o prazo e a data de início. Você recebe uma proposta por escrito baseada na nossa especificação de entrega.