NVIDIA GeForce RTX 4090
Oito GPUs GeForce RTX 4090 com 24 GB de GDDR6X cada, 192 GB por servidor, para renderização em GPU, geração de imagens por difusão e inferência de modelos menores, com configuração sob consulta.
- GPUs por servidor
- 8
- Memória por GPU
- 24 GB GDDR6X
- Largura de banda de memória
- 1.008 GB/s
- FP32 por GPU
- 82,6 TFLOPS
Especificações
| GPU | |
|---|---|
| Arquitetura | NVIDIA Ada Lovelace (AD102) |
| Memória | 24 GB GDDR6X, 384 bits, 21 Gbps |
| Largura de banda de memória | 1.008 GB/s |
| Cache L2 | 72 MB |
| Núcleos CUDA | 16.384 |
| Tensor Cores | 512, quarta geração |
| RT Cores | 128, terceira geração, 191 TFLOPS |
| AI TOPS (NVIDIA) | 1.321 |
| FP8 Tensor, acumulação em FP16 | 1.321,2 TFLOPS esparsos, 660,6 TFLOPS densos |
| FP16 Tensor, acumulação em FP16 | 660,6 TFLOPS esparsos, 330,3 TFLOPS densos |
| FP32 | 82,6 TFLOPS |
| Clock de boost | 2,52 GHz |
| Mecanismos de vídeo | 2 NVENC (oitava geração), NVDEC de quinta geração, codificação e decodificação AV1 |
| Interconexão | PCIe Gen 4; sem NVLink |
| Potência gráfica total | 450 W |
| Placa de referência | 3 slots, 304 mm x 137 mm (Founders Edition) |
| Servidor conforme entregue | |
|---|---|
| GPUs por servidor | 8 |
| Memória de GPU por servidor | 192 GB (8 x 24 GB) |
| Potência de GPU por servidor | 3.600 W pelo valor nominal da NVIDIA (8 x 450 W) |
| Modelo da placa | Confirmado na sua proposta |
| CPU, memória do sistema, armazenamento e rede | Configuração de acordo com seus requisitos, confirmada na sua proposta |
Cargas de trabalho típicas
- Renderização em GPU, frames finais e look development
- Geração de imagens por difusão
- Inferência de modelos que cabem em 24 GB por GPU
- Codificação de vídeo em AV1
Alugue servidores dedicados com oito GPUs NVIDIA GeForce RTX 4090 para renderização em GPU, geração de imagens e inferência de modelos menores. Os servidores RTX 4090 estão disponíveis sob consulta, configurados conforme seus requisitos, com contratos de 36, 48 ou 60 meses.
Para quem é a RTX 4090
A RTX 4090 atende pipelines de renderização e de imagem que cabem em 24 GB por GPU e já estão otimizados para a arquitetura Ada Lovelace. Cada GPU tem 24 GB de GDDR6X, 192 GB por servidor.
As tarefas típicas são renderização de frames finais e de look development, geração de imagens por difusão e inferência de modelos que cabem em 24 GB com o respectivo cache KV, em que cada GPU trabalha na sua própria tarefa. Oito GPUs em um servidor dedicado dão a uma fila de renderização ou de geração oito workers independentes, sem nenhum outro locatário na máquina.
Pontos fortes
- Memória: 24 GB de GDDR6X a 1.008 GB/s em um barramento de 384 bits a 21 Gbps, com cache L2 de 72 MB.
- Computação: 16.384 núcleos CUDA e 82,6 TFLOPS em FP32, com clock de boost de 2,52 GHz.
- Tensor Cores: 512 Tensor Cores de quarta geração. Os 1.321 AI TOPS da NVIDIA correspondem ao valor de FP8 esparso; o FP8 denso é de 660,6 TFLOPS com acumulação em FP16.
- Ray tracing: 128 RT Cores de terceira geração, com 191 TFLOPS nominais.
- Vídeo: dois codificadores NVENC de oitava geração e um NVDEC de quinta geração, com codificação e decodificação AV1.
- Potência: 450 W de potência gráfica total por placa, 3.600 W nas oito GPUs, pelo valor nominal da NVIDIA.
A RTX 4090 não tem NVLink; as GPUs se comunicam por PCIe Gen 4. Modelos que precisam ser divididos entre GPUs devem ficar em um servidor com NVLink, como um servidor A100 80GB ou HGX Blackwell.
Configuração conforme entregue
Os servidores RTX 4090 são configurados conforme seus requisitos e confirmados na sua proposta: modelo da placa, CPU, memória do sistema, NVMe local e rede. Os números da NVIDIA descrevem a Founders Edition, uma placa de 3 slots, e a NVIDIA observa que as placas dos fabricantes parceiros podem diferir em clocks, potência e tamanho. Por isso, sua proposta indica a placa dos seus servidores.
Todo servidor passa por burn-in antes da entrega, com os resultados em um relatório de aceite. Nossa página Burn-in e aceite explica o processo.
Como funciona o aluguel
Os servidores RTX 4090 estão disponíveis sob consulta. Informe o número de servidores, o prazo e a data de início, e respondemos com uma proposta por escrito que define a configuração e o cronograma de entrega.
Você aluga servidores inteiros de 8 GPUs com contrato de 36, 48 ou 60 meses, e prazos mais longos têm valores menores. A empresa que vai usar os servidores preenche três formulários de onboarding antes da assinatura. Você paga a entrada na assinatura e, depois, um valor mensal fixo durante todo o prazo, sem taxas de saída de dados sobre as cenas, texturas e frames que você transfere. Nossa página Como contratar explica cada etapa.
Cargas de trabalho e alternativas
A RTX 4090 atende renderização em GPU, geração de imagens por difusão e inferência de modelos que ficam dentro de 24 GB por GPU. Um modelo de 13B parâmetros em FP16 ocupa cerca de 26 GB, mais do que uma RTX 4090 comporta; em FP8, ocupa cerca de 13 GB e deixa espaço para o cache KV.
Nossa página Mídia e entretenimento trata de pipelines de renderização e VFX, e Vídeo generativo trata de cargas de trabalho de difusão. ComfyUI e vídeo com IA em bare metal dedicado mostra por que ter toda a VRAM para cada tarefa faz diferença, e 10 perguntas que revelam o custo real da sua configuração de GPU na nuvem ajuda a comparar o que você paga hoje.
Quando 24 GB é o limite, a RTX 5090 tem 32 GB a 1.792 GB/s. Para 48 GB com ECC e pontes NVLink entre pares de placas, veja a RTX A6000.
Perguntas que os compradores fazem
RTX 4090 ou RTX 5090: qual devemos alugar?
A RTX 5090 tem 32 GB a 1.792 GB/s e suporte a FP4 na arquitetura Blackwell; a RTX 4090 tem 24 GB a 1.008 GB/s. Escolha a RTX 4090 quando seu trabalho couber em 24 GB e seu pipeline estiver otimizado para Ada Lovelace.
O que significam 1.321 AI TOPS?
É o valor de AI TOPS que a NVIDIA publica para a RTX 4090. O whitepaper da arquitetura Ada da NVIDIA traz o mesmo 1.321,2 para FP8 Tensor com acumulação em FP16 usando esparsidade, e 660,6 TFLOPS sem esparsidade.
As oito GPUs são conectadas por NVLink?
Não. A GeForce RTX 4090 não tem NVLink, então as GPUs se comunicam por PCIe Gen 4. Ela funciona melhor quando cada GPU renderiza seus próprios frames ou executa sua própria tarefa.
Quais placas RTX 4090 estão nos servidores?
O modelo da placa é confirmado na sua proposta. Os números da NVIDIA descrevem a Founders Edition, uma placa de 3 slots, e a NVIDIA observa que as placas dos fabricantes parceiros podem diferir em clocks, potência e tamanho.
Quais prazos de contrato estão disponíveis?
36, 48 ou 60 meses, com valores menores para prazos mais longos. Você paga a entrada na assinatura e, depois, um valor mensal fixo durante todo o prazo, sem taxas de saída de dados.
Alugue servidores RTX 4090 com prazos de 36 a 60 meses.
Informe o hardware, o número de servidores, o prazo e a data de início. Você recebe uma proposta por escrito baseada na nossa especificação de entrega.