NVIDIA GeForce RTX 4090
Huit GPU GeForce RTX 4090 dotés chacun de 24 Go de GDDR6X, soit 192 Go par serveur, pour le rendu GPU, la génération d'images par diffusion et l'inférence de modèles plus petits, configurés sur demande.
- GPU par serveur
- 8
- Mémoire par GPU
- 24 Go GDDR6X
- Bande passante mémoire
- 1 008 Go/s
- FP32 par GPU
- 82,6 TFLOPS
Caractéristiques techniques
| GPU | |
|---|---|
| Architecture | NVIDIA Ada Lovelace (AD102) |
| Mémoire | 24 Go GDDR6X, 384 bits, 21 Gbit/s |
| Bande passante mémoire | 1 008 Go/s |
| Cache L2 | 72 Mo |
| Cœurs CUDA | 16 384 |
| Cœurs Tensor | 512, quatrième génération |
| Cœurs RT | 128, troisième génération, 191 TFLOPS |
| TOPS IA (NVIDIA) | 1 321 |
| Cœurs Tensor FP8, accumulation FP16 | 1 321,2 TFLOPS avec parcimonie, 660,6 TFLOPS en dense |
| Cœurs Tensor FP16, accumulation FP16 | 660,6 TFLOPS avec parcimonie, 330,3 TFLOPS en dense |
| FP32 | 82,6 TFLOPS |
| Fréquence boost | 2,52 GHz |
| Moteurs vidéo | 2 NVENC (huitième génération), NVDEC de cinquième génération, encodage et décodage AV1 |
| Interconnexion | PCIe Gen 4 ; pas de NVLink |
| Puissance graphique totale | 450 W |
| Carte de référence | 3 emplacements, 304 mm x 137 mm (Founders Edition) |
| Serveur tel que livré | |
|---|---|
| GPU par serveur | 8 |
| Mémoire GPU par serveur | 192 Go (8 x 24 Go) |
| Puissance GPU par serveur | 3 600 W selon les valeurs nominales de NVIDIA (8 x 450 W) |
| Modèle de carte | Confirmation dans votre proposition |
| CPU, mémoire système, stockage et réseau | Configuration selon vos exigences, confirmée dans votre proposition |
Charges de travail types
- Rendu GPU, images finales et lookdev
- Génération d'images par diffusion
- Inférence de modèles qui tiennent dans 24 Go par GPU
- Encodage vidéo en AV1
Louez des serveurs dédiés équipés de huit GPU NVIDIA GeForce RTX 4090 pour le rendu GPU, la génération d'images et l'inférence de modèles plus petits. Les serveurs RTX 4090 sont disponibles sur demande, configurés selon vos besoins, avec des contrats de 36, 48 ou 60 mois.
À qui s'adresse la RTX 4090
La RTX 4090 convient aux pipelines de rendu et d'images qui tiennent dans 24 Go par GPU et sont déjà optimisés pour l'architecture Ada Lovelace. Chaque GPU dispose de 24 Go de GDDR6X, soit 192 Go par serveur.
Les tâches typiques sont le rendu des images finales et du lookdev, la génération d'images par diffusion et l'inférence de modèles qui tiennent dans 24 Go avec leur cache KV, chaque GPU traitant sa propre tâche. Avec huit GPU dans un serveur dédié, une file de rendu ou de génération dispose de huit unités de traitement indépendantes, sans autre locataire sur la machine.
Ses points forts
- Mémoire : 24 Go de GDDR6X à 1 008 Go/s sur un bus de 384 bits à 21 Gbit/s, avec un cache L2 de 72 Mo.
- Calcul : 16 384 cœurs CUDA et 82,6 TFLOPS en FP32 à une fréquence boost de 2,52 GHz.
- Cœurs Tensor : 512 cœurs Tensor de quatrième génération. Les 1 321 TOPS IA annoncés par NVIDIA correspondent à sa valeur FP8 avec parcimonie ; en FP8 dense, la valeur est de 660,6 TFLOPS avec accumulation FP16.
- Lancer de rayons : 128 cœurs RT de troisième génération, d'une puissance nominale de 191 TFLOPS.
- Vidéo : deux moteurs NVENC de huitième génération et un NVDEC de cinquième génération, avec encodage et décodage AV1.
- Puissance : 450 W de puissance graphique totale par carte, soit 3 600 W pour huit GPU selon les valeurs nominales de NVIDIA.
La RTX 4090 n'a pas de NVLink ; les GPU communiquent via PCIe Gen 4. Les modèles qui doivent être répartis sur plusieurs GPU ont leur place sur un serveur doté de NVLink, comme l'A100 80GB ou un serveur HGX Blackwell.
Configuration à la livraison
Les serveurs RTX 4090 sont configurés selon vos besoins et confirmés dans votre proposition : modèle de carte, CPU, mémoire système, NVMe local et réseau. Les chiffres de NVIDIA décrivent sa Founders Edition, une carte à 3 emplacements, et NVIDIA précise que les cartes des fabricants partenaires peuvent différer en fréquences, en puissance et en dimensions ; votre proposition indique donc la carte installée dans vos serveurs.
Chaque serveur est soumis au déverminage avant la mise à disposition, avec les résultats dans un rapport de réception. Notre page Déverminage et réception explique le processus.
Comment fonctionne la location
Les serveurs RTX 4090 sont disponibles sur demande. Indiquez-nous le nombre de serveurs, la durée d'engagement et la date de début, et nous vous répondons par une proposition écrite qui précise la configuration et le calendrier de livraison.
Vous louez des serveurs complets à 8 GPU avec un contrat de 36, 48 ou 60 mois, et plus l'engagement est long, plus le tarif est bas. L'entreprise qui utilisera les serveurs remplit trois formulaires d'ouverture de compte avant la signature. Vous versez un acompte à la signature, puis payez un tarif mensuel fixe unique pendant toute la durée du contrat, sans frais de sortie de données sur les scènes, textures et images que vous transférez. Notre page Comment acheter détaille chaque étape.
Charges de travail et alternatives
La RTX 4090 convient au rendu GPU, à la génération d'images par diffusion et à l'inférence de modèles qui ne dépassent pas 24 Go par GPU. Un modèle de 13 milliards de paramètres en FP16 occupe environ 26 Go, plus que la capacité d'une RTX 4090 ; en FP8, il occupe environ 13 Go et laisse de la place pour le cache KV.
Notre page Médias et divertissement présente les pipelines de rendu et d'effets visuels, et la page Vidéo générative les charges de travail de diffusion. ComfyUI et vidéo IA sur bare metal dédié explique pourquoi il importe de disposer de toute la VRAM pour chaque tâche, et 10 questions qui révèlent le coût réel de votre configuration GPU dans le cloud aide à comparer ce que vous payez aujourd'hui.
Si 24 Go ne suffisent pas, la RTX 5090 offre 32 Go à 1 792 Go/s. Pour 48 Go avec ECC et des ponts NVLink entre paires de cartes, voir la RTX A6000.
Questions des acheteurs
RTX 4090 ou RTX 5090 : laquelle louer ?
La RTX 5090 offre 32 Go à 1 792 Go/s et la prise en charge du FP4 avec Blackwell ; la RTX 4090 offre 24 Go à 1 008 Go/s. Choisissez la RTX 4090 si votre travail tient dans 24 Go et que votre pipeline est optimisé pour Ada Lovelace.
Que signifient les 1 321 TOPS IA ?
C'est la valeur en TOPS IA que NVIDIA indique pour la RTX 4090. Le livre blanc de NVIDIA sur l'architecture Ada donne la même valeur, 1 321,2, pour les cœurs Tensor en FP8 avec accumulation FP16 et parcimonie, et 660,6 TFLOPS sans parcimonie.
Les huit GPU sont-ils reliés par NVLink ?
Non. La GeForce RTX 4090 n'a pas de NVLink, les GPU communiquent donc via PCIe Gen 4. Elle donne les meilleurs résultats lorsque chaque GPU effectue le rendu de ses propres images ou exécute sa propre tâche.
Quelles cartes RTX 4090 équipent les serveurs ?
Le modèle de carte est confirmé dans votre proposition. Les chiffres de NVIDIA décrivent sa Founders Edition, une carte à 3 emplacements, et NVIDIA précise que les cartes des fabricants partenaires peuvent différer en fréquences, en puissance et en dimensions.
Quelles durées de contrat sont proposées ?
36, 48 ou 60 mois, avec des tarifs plus bas pour les engagements plus longs. Vous versez un acompte à la signature, puis payez un tarif mensuel fixe unique pendant toute la durée du contrat, sans frais de sortie de données.
Louez des serveurs RTX 4090 avec des engagements de 36 à 60 mois.
Indiquez-nous le matériel, le nombre de serveurs, la durée d'engagement et la date de début. Vous recevez une proposition écrite fondée sur notre spécification de livraison.