NVIDIA GeForce RTX 5090

A RTX 5090 é para pipelines que executam uma tarefa por GPU e precisam mais de memória rápida do que de muita memória: geração de imagens e vídeos por difusão, renderização em GPU e inferência de modelos que cabem em 32 GB. Cada GPU tem 32 GB de GDDR7, 256 GB por servidor, na arquitetura Blackwell, com suporte a FP4 nos Tensor Cores de quinta geração.

Equipes que renderizam ou geram frames em paralelo têm oito GPUs independentes por servidor, cada uma com toda a memória e a largura de banda da placa, sem nenhum outro locatário na máquina.

O destaque é a largura de banda de memória. A NVIDIA especifica a RTX 5090 com 1.792 GB/s em um barramento de 512 bits a 28 Gbps, mais por GPU do que os 1.597 GB/s da RTX PRO 6000 Blackwell Server Edition.

• Computação: 21.760 núcleos CUDA e 104,8 TFLOPS em FP32. Os 3.352 AI TOPS da NVIDIA são em FP4 com esparsidade; o FP4 denso é de 1.676 TFLOPS.
• Tensor Cores e RT Cores: 680 Tensor Cores de quinta geração e 170 RT Cores de quarta geração, com 318 TFLOPS nominais para ray tracing.
• Vídeo: três codificadores NVENC de nona geração e dois decodificadores NVDEC de sexta geração por GPU, com codificação e decodificação AV1.
• Potência: 575 W de potência gráfica total por placa, pelo valor nominal da NVIDIA, e 4.600 W nas oito GPUs.

A RTX 5090 não tem NVLink. As GPUs se comunicam por PCIe Gen 5, o que favorece trabalhos executados de forma independente em cada GPU, como uma tarefa de difusão por placa, mais do que modelos divididos entre GPUs.

Os servidores RTX 5090 são configurados conforme seus requisitos e confirmados na sua proposta, incluindo o modelo da placa, CPU, memória do sistema, armazenamento e rede.

Todo servidor passa por burn-in antes da entrega, e os resultados vão para um relatório de aceite, como descreve nossa página Burn-in e aceite.

Os servidores RTX 5090 estão disponíveis sob consulta. Informe de quantos servidores você precisa, por quanto tempo e a partir de quando, e confirmamos o cronograma de entrega em uma proposta por escrito. Você aluga servidores inteiros de 8 GPUs com contrato de 36, 48 ou 60 meses, e prazos mais longos têm valores menores.

A empresa que vai usar os servidores preenche três formulários de onboarding antes da assinatura. O pagamento de entrada na assinatura é seguido de um valor mensal fixo durante todo o prazo, sem taxas de saída de dados sobre a mídia que você transfere. Não oferecemos períodos de teste; o burn-in e o relatório de aceite ocupam esse lugar. Nossa página Como contratar explica cada etapa.

A RTX 5090 atende o ComfyUI e pipelines de difusão semelhantes, renderização e inferência em que os pesos e o cache KV ficam dentro de 32 GB por GPU. Um modelo de 24B parâmetros em FP8 ocupa cerca de 24 GB, o que deixa cerca de 8 GB na placa para o cache KV e a memória de trabalho.

Nossa página Vídeo generativo trata de pipelines de difusão em servidores dedicados. O custo real de operar a RTX 5090 em escala analisa a movimentação de dados e o tempo ocioso, e ComfyUI e vídeo com IA em bare metal dedicado trata do pipeline em si.

Quando 32 GB não bastam para a sua resolução, duração de clipe ou tamanho de lote, a RTX PRO 6000 Blackwell tem 96 GB por GPU com ECC. Para pipelines otimizados para Ada Lovelace, veja a RTX 4090.