NVIDIA GeForce RTX 4090
Ocho GPU GeForce RTX 4090 con 24 GB de GDDR6X cada una (192 GB por servidor) para renderizado por GPU, generación de imágenes por difusión e inferencia de modelos más pequeños, con configuración bajo petición.
- GPU por servidor
- 8
- Memoria por GPU
- 24 GB GDDR6X
- Ancho de banda de memoria
- 1.008 GB/s
- FP32 por GPU
- 82,6 TFLOPS
Especificaciones
| GPU | |
|---|---|
| Arquitectura | NVIDIA Ada Lovelace (AD102) |
| Memoria | 24 GB GDDR6X, 384 bits, 21 Gbps |
| Ancho de banda de memoria | 1.008 GB/s |
| Caché L2 | 72 MB |
| Núcleos CUDA | 16.384 |
| Tensor Cores | 512, de cuarta generación |
| RT Cores | 128, de tercera generación, 191 TFLOPS |
| TOPS de IA (NVIDIA) | 1.321 |
| FP8 Tensor, acumulación en FP16 | 1.321,2 TFLOPS con dispersión, 660,6 TFLOPS sin dispersión |
| FP16 Tensor, acumulación en FP16 | 660,6 TFLOPS con dispersión, 330,3 TFLOPS sin dispersión |
| FP32 | 82,6 TFLOPS |
| Frecuencia boost | 2,52 GHz |
| Motores de vídeo | 2 NVENC (octava generación), NVDEC de quinta generación, codificación y decodificación AV1 |
| Interconexión | PCIe Gen 4; sin NVLink |
| Potencia gráfica total | 450 W |
| Tarjeta de referencia | 3 ranuras, 304 mm x 137 mm (Founders Edition) |
| Servidor tal como se entrega | |
|---|---|
| GPU por servidor | 8 |
| Memoria de GPU por servidor | 192 GB (8 x 24 GB) |
| Potencia de GPU por servidor | 3.600 W según el valor nominal de NVIDIA (8 x 450 W) |
| Modelo de tarjeta | Se confirma en su propuesta |
| CPU, memoria del sistema, almacenamiento y red | Según sus requisitos, con confirmación en su propuesta |
Cargas de trabajo habituales
- Renderizado por GPU, fotogramas finales y look development
- Generación de imágenes por difusión
- Inferencia de modelos que caben en 24 GB por GPU
- Codificación de vídeo con AV1
Alquile servidores dedicados con ocho GPU NVIDIA GeForce RTX 4090 para renderizado por GPU, generación de imágenes e inferencia de modelos más pequeños. Los servidores RTX 4090 están disponibles bajo petición, configurados según sus requisitos, con contratos de 36, 48 o 60 meses.
Para quién es la RTX 4090
La RTX 4090 es adecuada para pipelines de renderizado y de imagen que caben en 24 GB por GPU y que ya están optimizados para la arquitectura Ada Lovelace. Cada GPU tiene 24 GB de GDDR6X, 192 GB por servidor.
Los trabajos típicos son el renderizado de fotogramas finales y de look development, la generación de imágenes por difusión y la inferencia de modelos que caben en 24 GB junto con su caché KV, en los que cada GPU trabaja en su propia tarea. Ocho GPU en un servidor dedicado dan a una cola de renderizado o de generación ocho unidades de trabajo independientes, sin otros inquilinos en la máquina.
Sus puntos fuertes
- Memoria: 24 GB de GDDR6X a 1.008 GB/s en un bus de 384 bits a 21 Gbps, con una caché L2 de 72 MB.
- Cómputo: 16.384 núcleos CUDA y 82,6 TFLOPS en FP32 con una frecuencia boost de 2,52 GHz.
- Tensor Cores: 512 Tensor Cores de cuarta generación. Los 1.321 TOPS de IA que indica NVIDIA coinciden con su cifra de FP8 con dispersión; el rendimiento FP8 sin dispersión es de 660,6 TFLOPS con acumulación en FP16.
- Trazado de rayos: 128 RT Cores de tercera generación, con un rendimiento nominal de 191 TFLOPS.
- Vídeo: dos motores NVENC de octava generación y un NVDEC de quinta generación, con codificación y decodificación AV1.
- Potencia: 450 W de potencia gráfica total por tarjeta, 3.600 W en las ocho GPU según el valor nominal de NVIDIA.
La RTX 4090 no tiene NVLink; las GPU se comunican por PCIe Gen 4. Los modelos que hay que repartir entre varias GPU deben ir en un servidor con NVLink, como el A100 80GB o un servidor HGX Blackwell.
Configuración de entrega
Los servidores RTX 4090 se configuran según sus requisitos y se confirman en su propuesta: modelo de tarjeta, CPU, memoria del sistema, NVMe local y red. Las cifras de NVIDIA corresponden a su Founders Edition, una tarjeta de 3 ranuras, y NVIDIA advierte que las tarjetas de los fabricantes asociados pueden diferir en frecuencias, potencia y tamaño, por lo que su propuesta indica la tarjeta que llevan sus servidores.
Cada servidor se somete a burn-in antes de la entrega, con los resultados en un informe de aceptación. Nuestra página burn-in y aceptación explica el proceso.
Cómo funciona el alquiler
Los servidores RTX 4090 están disponibles bajo petición. Indíquenos el número de servidores, la duración del contrato y la fecha de inicio, y le respondemos con una propuesta por escrito que detalla la configuración y el calendario de entrega.
Usted alquila servidores completos de 8 GPU con un contrato de 36, 48 o 60 meses, y los contratos más largos tienen tarifas más bajas. La empresa que utilizará los servidores rellena tres formularios de alta antes de firmar. A la firma abona un pago inicial y, después, una única tarifa mensual fija durante todo el contrato, sin cargos por salida de datos por las escenas, texturas y fotogramas que transfiera. Nuestra página cómo contratar explica cada paso.
Cargas de trabajo y alternativas
La RTX 4090 es adecuada para renderizado por GPU, generación de imágenes por difusión e inferencia de modelos que no superan los 24 GB por GPU. Un modelo de 13B parámetros en FP16 ocupa unos 26 GB, más de lo que cabe en una RTX 4090; en FP8 ocupa unos 13 GB y deja espacio para la caché KV.
Nuestra página medios y entretenimiento trata los pipelines de renderizado y VFX, y vídeo generativo, las cargas de trabajo de difusión. ComfyUI y vídeo con IA en bare metal dedicado explica por qué importa disponer de toda la VRAM en cada trabajo, y 10 preguntas que revelan el coste real de su configuración de GPU en la nube ayuda a comparar lo que paga hoy.
Cuando 24 GB se quedan cortos, la RTX 5090 tiene 32 GB a 1.792 GB/s. Si necesita 48 GB con ECC y puentes NVLink entre pares de tarjetas, consulte la RTX A6000.
Lo que preguntan los compradores
RTX 4090 o RTX 5090: ¿cuál deberíamos alquilar?
La RTX 5090 tiene 32 GB a 1.792 GB/s y admite FP4 en Blackwell; la RTX 4090 tiene 24 GB a 1.008 GB/s. Elija la RTX 4090 cuando su trabajo quepa en 24 GB y su pipeline esté optimizado para Ada Lovelace.
¿Qué significan los 1.321 TOPS de IA?
Es la cifra de TOPS de IA que NVIDIA publica para la RTX 4090. El documento técnico de la arquitectura Ada de NVIDIA da el mismo valor, 1.321,2, para FP8 Tensor con acumulación en FP16 usando dispersión, y 660,6 TFLOPS sin dispersión.
¿Las ocho GPU están conectadas con NVLink?
No. La GeForce RTX 4090 no tiene NVLink, así que las GPU se comunican por PCIe Gen 4. Funciona mejor cuando cada GPU renderiza sus propios fotogramas o ejecuta su propio trabajo.
¿Qué tarjetas RTX 4090 llevan los servidores?
El modelo de tarjeta se confirma en su propuesta. Las cifras de NVIDIA corresponden a su Founders Edition, una tarjeta de 3 ranuras, y NVIDIA advierte que las tarjetas de los fabricantes asociados pueden diferir en frecuencias, potencia y tamaño.
¿Qué duraciones de contrato hay disponibles?
36, 48 o 60 meses, con tarifas más bajas para los contratos más largos. Usted abona un pago inicial a la firma y después una única tarifa mensual fija durante todo el contrato, sin cargos por salida de datos.
Alquile servidores RTX 4090 con contratos de 36 a 60 meses.
Indíquenos el hardware, el número de servidores, la duración del contrato y la fecha de inicio. Recibirá una propuesta por escrito basada en nuestra especificación de entrega.