NVIDIA RTX PRO 6000 Blackwell
Acht RTX PRO 6000 Blackwell-GPUs mit je 96 GB GDDR7, 768 GB pro Server, bereitgestellt aus Montreal für LLM-Inferenz, KI-Video- und Bildgenerierung, Rendering und Medien-Pipelines.
- GPUs pro Server
- 8
- Speicher pro GPU
- 96 GB GDDR7
- GPU-Speicher pro Server
- 768 GB
- Bereitgestellt aus
- Montreal
Technische Daten
| GPU | |
|---|---|
| Ausführung | NVIDIA RTX PRO 6000 Blackwell Server Edition |
| Architektur | NVIDIA Blackwell |
| Speicher | 96 GB GDDR7 mit ECC, 512 Bit |
| Speicherbandbreite | 1.597 GB/s |
| CUDA-Kerne | 24.064 |
| Tensor-Kerne | 752, fünfte Generation |
| RT-Kerne | 188, vierte Generation |
| FP4-Spitzenwert | 4 PFLOPS (NVIDIA gibt nicht an, ob mit oder ohne Sparsity) |
| FP32 | 120 TFLOPS |
| Leistung der RT-Kerne | 355 TFLOPS |
| Medien-Engines | 4 NVENC, 4 NVDEC, 4 JPEG |
| Multi-Instance GPU | Bis zu 4 Instanzen mit 24 GB, 2 mit 48 GB oder 1 mit 96 GB |
| GPU-Interconnect | PCIe 5.0 x16, kein NVLink |
| Leistung pro GPU | Konfigurierbar, bis zu 600 W |
| Formfaktor | Dual-Slot, volle Bauhöhe, volle Baulänge, passive Kühlung |
| Server im Lieferzustand | |
|---|---|
| GPUs pro Server | 8 |
| GPU-Speicher pro Server | 768 GB (8 x 96 GB) |
| CPU, Arbeitsspeicher und Storage | Nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt |
| Netzwerk | Nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt |
| Standort | Montreal, Kanada |
Typische Workloads
- LLM-Inferenz für Modelle der 70B-Klasse in FP8 oder FP4
- Pipelines für KI-Video- und Bildgenerierung wie ComfyUI
- Rendering, VFX und virtuelle Produktion
- Video-Transcoding und Streaming
Mieten Sie dedizierte Server mit acht NVIDIA RTX PRO 6000 Blackwell-GPUs, bereitgestellt aus Montreal. Kontingente sind verfügbar, mit Verträgen über 36, 48 oder 60 Monate, und jeder Preis steht in einem schriftlichen Angebot.
Für wen die RTX PRO 6000 Blackwell geeignet ist
Die RTX PRO 6000 Blackwell ist für Teams gedacht, die viel Speicher pro GPU bei bis zu 600 W brauchen statt einer Leistungsaufnahme der HGX-Klasse: Inferenzteams, die Modelle der 70B-Klasse in FP8 oder FP4 bereitstellen, Studios für KI-Video- und Bildgenerierung sowie Medien-Pipelines, die rendern, encodieren und streamen.
Jede GPU hat 96 GB GDDR7 mit ECC, 768 GB pro Server. Die FP8-Gewichte eines Modells mit 70B Parametern belegen etwa 70 GB, sodass das Modell mit Platz für seinen KV-Cache auf eine GPU passt, und eine 4-Bit-Version desselben Modells lässt etwa 60 GB frei.
Stärken
96 GB pro GPU
96 GB GDDR7 mit 1.597 GB/s an einem 512-Bit-Bus und bis zu vier MIG-Instanzen mit 24 GB pro GPU, wenn die Jobs klein sind.
Blackwell-Tensor-Kerne
752 Tensor-Kerne der fünften Generation mit FP4-Unterstützung. NVIDIA gibt 4 PFLOPS FP4-Spitzenleistung pro GPU an, ohne zu sagen, ob mit oder ohne Sparsity, sowie 120 TFLOPS FP32.
Medien-Engines
Vier NVENC-, vier NVDEC- und vier JPEG-Engines pro GPU, 32 Hardware-Encoder pro Server, für Transcoding und Video-Pipelines.
Raytracing
188 RT-Kerne der vierten Generation und 355 TFLOPS Leistung der RT-Kerne für Rendering, VFX und Simulation.
Die GPUs sind über PCIe 5.0 x16 verbunden, ohne NVLink. Modelle, die auf eine GPU passen oder sich sauber auf wenige verteilen lassen, eignen sich für die RTX PRO 6000; Modelle mit viel Verkehr zwischen den GPUs gehören auf einen HGX-Server.
Konfiguration im Lieferzustand
Die Server werden nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt: CPU, Arbeitsspeicher, lokaler NVMe-Speicher und Netzwerk. Die Angaben auf dieser Seite gelten für die Server Edition, die von NVIDIA angebotene, passiv gekühlte Rechenzentrumsversion der Karte, konfigurierbar bis zu 600 W pro GPU.
Unser Standort in Montreal bietet technischen Support vor Ort. Jeder Server durchläuft vor der Übergabe ein Burn-in, die Ergebnisse stehen in einem Abnahmebericht, und unsere Seite Burn-in und Abnahme erklärt die Tests.
So funktioniert die Miete
Für RTX PRO 6000 Blackwell sind in Montreal Kontingente verfügbar. Sie mieten ganze 8-GPU-Server mit einem Vertrag über 36, 48 oder 60 Monate, und längere Laufzeiten bedeuten niedrigere Preise.
Das Unternehmen, das die Server nutzen wird, füllt vor der Unterzeichnung drei Onboarding-Formulare aus. Bei Unterzeichnung leisten Sie eine Anzahlung, danach zahlen Sie für die gesamte Laufzeit einen festen Monatspreis, ohne Egress-Gebühren, was zählt, wenn Sie große Videodateien hinein- und herausbewegen. Wir bieten keine Testphasen an; an ihre Stelle treten das Burn-in und der Abnahmebericht. Montreal ist ein kanadischer Standort und 1Legion ein kanadisches Unternehmen. Mehr dazu auf der Seite GPU-Server in Kanada; jeden Schritt beschreibt unsere Seite So mieten Sie.
Workloads und Alternativen
- LLM-Inferenz: Modelle der 70B-Klasse in FP8 oder FP4, ein Modell pro GPU oder auf wenige verteilt. Siehe KI-Inferenz.
- KI-Video- und Bildgenerierung: ComfyUI und ähnliche Diffusions-Pipelines, bei denen der Speicher über Auflösung, Länge und Batchgröße entscheidet. Siehe KI-Videogenerierung.
- Rendering, VFX und Transcoding: siehe Medien und Unterhaltung.
Zur Dimensionierung lesen Sie 8 x 96 GB: was auf einen RTX PRO 6000 Blackwell-Knoten passt und ComfyUI und KI-Video auf dediziertem Bare Metal. Wenn 48 GB pro GPU genügen, ist die L40S auf Anfrage erhältlich; für die größten Modelle bietet HGX B300 270 GB pro GPU.
Was Kunden fragen
Was passt auf eine RTX PRO 6000 Blackwell-GPU?
96 GB fassen ein Modell mit 70B Parametern in FP8, etwa 70 GB Gewichte, und lassen Platz für den KV-Cache. Unser Artikel 8 x 96 GB: was auf einen RTX PRO 6000 Blackwell-Knoten passt geht die Dimensionierung durch.
Welche Ausführung der RTX PRO 6000 Blackwell verwenden Sie?
Die Angaben auf dieser Seite gelten für die Server Edition, die von NVIDIA angebotene, passiv gekühlte Rechenzentrumsversion, konfigurierbar bis zu 600 W pro GPU. Ausführung und Leistungseinstellung Ihrer Server werden in Ihrem Angebot bestätigt.
Sind die GPUs über NVLink verbunden?
Nein. Die RTX PRO 6000 Blackwell Server Edition ist über PCIe 5.0 x16 angebunden. Wenn Ihr Modell auf GPUs verteilt werden muss, die NVLink-Bandbreite brauchen, sehen Sie sich HGX B300 an.
Wo werden die Server gehostet?
In Montreal, Kanada, wo wir technischen Support vor Ort haben. Wenn Sie einen kanadischen Standort wählen, befinden sich die Server und ihr Storage in Kanada.
Können wir einen Server vor der Unterzeichnung testen?
Wir bieten keine Testphasen an. Jeder Server durchläuft vor der Übergabe ein Burn-in, und Sie erhalten die Ergebnisse in einem Abnahmebericht. Siehe Burn-in und Abnahme.
Welche Vertragslaufzeiten gibt es?
36, 48 oder 60 Monate, mit niedrigeren Preisen für längere Laufzeiten. Sie leisten bei Unterzeichnung eine Anzahlung und zahlen danach für die gesamte Laufzeit einen festen Monatspreis, ohne Egress-Gebühren.
Mieten Sie RTX PRO 6000-Server mit Laufzeiten von 36 bis 60 Monaten.
Nennen Sie uns die Hardware, die Anzahl der Server, die Laufzeit und das Startdatum. Sie erhalten ein schriftliches Angebot auf Grundlage unserer Lieferspezifikation.