NVIDIA RTX PRO 6000 Blackwell
Huit GPU RTX PRO 6000 Blackwell dotés chacun de 96 Go de GDDR7, soit 768 Go par serveur, fournis depuis Montréal pour l'inférence de LLM, la vidéo et l'image génératives, le rendu et les pipelines multimédias.
- GPU par serveur
- 8
- Mémoire par GPU
- 96 Go GDDR7
- Mémoire GPU par serveur
- 768 Go
- Fourni depuis
- Montréal
Caractéristiques techniques
| GPU | |
|---|---|
| Édition | NVIDIA RTX PRO 6000 Blackwell Server Edition |
| Architecture | NVIDIA Blackwell |
| Mémoire | 96 Go GDDR7 avec ECC, 512 bits |
| Bande passante mémoire | 1 597 Go/s |
| Cœurs CUDA | 24 064 |
| Cœurs Tensor | 752, cinquième génération |
| Cœurs RT | 188, quatrième génération |
| FP4 de crête | 4 PFLOPS (NVIDIA ne précise pas avec ou sans parcimonie) |
| FP32 | 120 TFLOPS |
| Performances des cœurs RT | 355 TFLOPS |
| Moteurs multimédias | 4 NVENC, 4 NVDEC, 4 JPEG |
| GPU multi-instance | Jusqu'à 4 instances de 24 Go, 2 de 48 Go ou 1 de 96 Go |
| Interconnexion GPU | PCIe 5.0 x16, pas de NVLink |
| Puissance par GPU | Configurable, jusqu'à 600 W |
| Format | Double emplacement, pleine hauteur, pleine longueur, refroidissement passif |
| Serveur tel que livré | |
|---|---|
| GPU par serveur | 8 |
| Mémoire GPU par serveur | 768 Go (8 x 96 Go) |
| CPU, mémoire système et stockage | Configuration selon vos exigences, confirmée dans votre proposition |
| Réseau | Configuration selon vos exigences, confirmée dans votre proposition |
| Site | Montréal, Canada |
Charges de travail types
- Inférence de LLM pour les modèles de la classe 70B en FP8 ou FP4
- Pipelines de vidéo et d'image génératives comme ComfyUI
- Rendu, effets visuels et production virtuelle
- Transcodage vidéo et diffusion en continu
Louez des serveurs dédiés équipés de huit GPU NVIDIA RTX PRO 6000 Blackwell, fournis depuis Montréal. Les allocations sont ouvertes, avec des contrats de 36, 48 ou 60 mois et tous les prix indiqués dans une proposition écrite.
À qui s'adresse la RTX PRO 6000 Blackwell
La RTX PRO 6000 Blackwell s'adresse aux équipes qui ont besoin de beaucoup de mémoire par GPU avec une puissance allant jusqu'à 600 W plutôt qu'une puissance de classe HGX : équipes d'inférence qui servent des modèles de la classe 70B en FP8 ou FP4, studios de vidéo et d'image génératives, et pipelines multimédias de rendu, d'encodage et de diffusion en continu.
Chaque GPU dispose de 96 Go de GDDR7 avec ECC, soit 768 Go par serveur. Les poids FP8 d'un modèle de 70 milliards de paramètres occupent environ 70 Go : le modèle tient donc sur un seul GPU en laissant de la place pour son cache KV, et une version 4 bits du même modèle laisse environ 60 Go libres.
Ses points forts
96 Go par GPU
96 Go de GDDR7 à 1 597 Go/s sur un bus de 512 bits, et jusqu'à quatre instances MIG de 24 Go par GPU pour les petites tâches.
Cœurs Tensor Blackwell
752 cœurs Tensor de cinquième génération prenant en charge le FP4. NVIDIA annonce 4 PFLOPS de FP4 de crête par GPU, sans préciser s'il s'agit d'une valeur avec ou sans parcimonie, et 120 TFLOPS en FP32.
Moteurs multimédias
Quatre moteurs NVENC, quatre NVDEC et quatre JPEG par GPU, soit 32 encodeurs matériels par serveur, pour le transcodage et les pipelines vidéo.
Lancer de rayons
188 cœurs RT de quatrième génération et 355 TFLOPS de performances des cœurs RT pour le rendu, les effets visuels et la simulation.
Les GPU sont connectés en PCIe 5.0 x16, sans NVLink. Les modèles qui tiennent sur un seul GPU, ou qui se répartissent proprement sur quelques-uns, conviennent à la RTX PRO 6000 ; les modèles qui exigent un trafic intense entre GPU ont leur place sur un serveur HGX.
Configuration à la livraison
Les serveurs sont configurés selon vos besoins et confirmés dans votre proposition : CPU, mémoire système, NVMe local et réseau. Les chiffres de cette page concernent la Server Edition, la version de la carte à refroidissement passif que NVIDIA destine aux centres de données, configurable jusqu'à 600 W par GPU.
Notre site de Montréal dispose d'une assistance technique sur site. Chaque serveur est soumis au déverminage avant la mise à disposition, avec les résultats consignés dans un rapport de réception, et notre page Déverminage et réception décrit les tests.
Comment fonctionne la location
Les allocations de RTX PRO 6000 Blackwell sont ouvertes à Montréal. Vous louez des serveurs complets à 8 GPU avec un contrat de 36, 48 ou 60 mois, et plus l'engagement est long, plus le tarif est bas.
L'entreprise qui utilisera les serveurs remplit trois formulaires d'ouverture de compte avant la signature. Vous versez un acompte à la signature, puis payez un tarif mensuel fixe unique pendant toute la durée du contrat, sans frais de sortie de données, ce qui compte lorsque vous transférez de gros fichiers vidéo dans les deux sens. Nous ne proposons pas d'essais ; le déverminage et le rapport de réception en tiennent lieu. Montréal est un site canadien et 1Legion est une entreprise canadienne : voir Serveurs GPU au Canada, et notre page Comment acheter pour chaque étape.
Charges de travail et alternatives
- Inférence de LLM : modèles de la classe 70B en FP8 ou FP4, un modèle par GPU ou réparti sur quelques GPU. Voir Inférence IA.
- Vidéo et image génératives : ComfyUI et pipelines de diffusion similaires, où la mémoire détermine la résolution, la durée et la taille des lots. Voir Vidéo générative.
- Rendu, effets visuels et transcodage : voir Médias et divertissement.
Pour le dimensionnement, lisez 8 x 96 Go : ce qui tient sur un nœud RTX PRO 6000 Blackwell et ComfyUI et vidéo IA sur bare metal dédié. Si 48 Go par GPU suffisent, le L40S est disponible sur demande ; pour les plus grands modèles, le HGX B300 offre 270 Go par GPU.
Questions des acheteurs
Que peut-on faire tenir sur un GPU RTX PRO 6000 Blackwell ?
96 Go accueillent un modèle de 70 milliards de paramètres en FP8, soit environ 70 Go de poids, en laissant de la place pour le cache KV. Notre article 8 x 96 Go : ce qui tient sur un nœud RTX PRO 6000 Blackwell détaille le dimensionnement.
Quelle édition de la RTX PRO 6000 Blackwell utilisez-vous ?
Les chiffres de cette page concernent la Server Edition, la version à refroidissement passif que NVIDIA destine aux centres de données, configurable jusqu'à 600 W par GPU. L'édition et le réglage de puissance de vos serveurs sont confirmés dans votre proposition.
Les GPU sont-ils connectés par NVLink ?
Non. La RTX PRO 6000 Blackwell Server Edition se connecte en PCIe 5.0 x16. Si votre modèle doit être réparti sur des GPU qui ont besoin de la bande passante NVLink, tournez-vous vers le HGX B300.
Où les serveurs sont-ils hébergés ?
À Montréal, au Canada, où nous disposons d'une assistance technique sur site. Lorsque vous choisissez un site canadien, les serveurs et leur stockage se trouvent au Canada.
Pouvons-nous essayer un serveur avant de signer ?
Nous ne proposons pas d'essais. Chaque serveur est soumis au déverminage avant la mise à disposition, et vous recevez les résultats dans un rapport de réception. Voir Déverminage et réception.
Quelles durées de contrat sont proposées ?
36, 48 ou 60 mois, avec des tarifs plus bas pour les engagements plus longs. Vous versez un acompte à la signature, puis payez un tarif mensuel fixe unique pendant toute la durée du contrat, sans frais de sortie de données.
Louez des serveurs RTX PRO 6000 avec des engagements de 36 à 60 mois.
Indiquez-nous le matériel, le nombre de serveurs, la durée d'engagement et la date de début. Vous recevez une proposition écrite fondée sur notre spécification de livraison.