NVIDIA GeForce RTX 5090

Die RTX 5090 ist für Pipelines gedacht, die einen Job pro GPU ausführen und schnellen Speicher dringender brauchen als großen: Bild- und Videogenerierung mit Diffusionsmodellen, GPU-Rendering und die Inferenz von Modellen, die in 32 GB passen. Jede GPU hat 32 GB GDDR7, 256 GB pro Server, auf der Blackwell-Architektur mit FP4-Unterstützung in den Tensor-Kernen der fünften Generation.

Teams, die Frames parallel rendern oder generieren, erhalten acht unabhängige GPUs pro Server, jede mit dem vollen Speicher und der vollen Bandbreite der Karte, und kein anderer Mandant nutzt die Maschine.

Herausragend ist die Speicherbandbreite. NVIDIA gibt für die RTX 5090 1.792 GB/s an einem 512-Bit-Bus mit 28 Gbit/s an, mehr pro GPU als die 1.597 GB/s der RTX PRO 6000 Blackwell Server Edition.

• Rechenleistung: 21.760 CUDA-Kerne und 104,8 TFLOPS FP32. Die von NVIDIA angegebenen 3.352 KI-TOPS gelten für FP4 mit Sparsity; ohne Sparsity erreicht FP4 1.676 TFLOPS.
• Tensor- und RT-Kerne: 680 Tensor-Kerne der fünften Generation und 170 RT-Kerne der vierten Generation mit einer Nennleistung von 318 TFLOPS für Raytracing.
• Video: drei NVENC-Engines der neunten Generation und zwei NVDEC-Engines der sechsten Generation pro GPU, mit AV1-Encoding und -Decoding.
• Leistungsaufnahme: laut NVIDIA-Angabe 575 W Grafikkarten-Gesamtleistung pro Karte, 4.600 W für acht GPUs.

Die RTX 5090 hat kein NVLink. Die GPUs kommunizieren über PCIe Gen 5. Das eignet sich besser für Arbeit, die unabhängig auf jeder GPU läuft, etwa ein Diffusionsjob pro Karte, als für Modelle, die auf mehrere GPUs verteilt sind.

RTX 5090-Server werden nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt, einschließlich Kartenmodell, CPU, Arbeitsspeicher, Storage und Netzwerk.

Jeder Server durchläuft vor der Übergabe ein Burn-in, und die Ergebnisse fließen in einen Abnahmebericht ein, wie unsere Seite Burn-in und Abnahme beschreibt.

RTX 5090-Server sind auf Anfrage erhältlich. Nennen Sie uns, wie viele Server Sie brauchen, für wie lange und ab wann, und wir bestätigen den Lieferplan in einem schriftlichen Angebot. Sie mieten ganze 8-GPU-Server mit einem Vertrag über 36, 48 oder 60 Monate, und längere Laufzeiten bedeuten niedrigere Preise.

Das Unternehmen, das die Server nutzen wird, füllt vor der Unterzeichnung drei Onboarding-Formulare aus. Auf eine Anzahlung bei Unterzeichnung folgt für die gesamte Laufzeit ein fester Monatspreis, ohne Egress-Gebühren für die Medien, die Sie übertragen. Wir bieten keine Testphasen an; an ihre Stelle treten das Burn-in und der Abnahmebericht. Unsere Seite So mieten Sie erklärt jeden Schritt.

Die RTX 5090 eignet sich für ComfyUI und ähnliche Diffusions-Pipelines, für Rendering und für Inferenz, bei der Gewichte und KV-Cache innerhalb von 32 GB pro GPU bleiben. Ein Modell mit 24B Parametern belegt in FP8 etwa 24 GB, sodass auf der Karte etwa 8 GB für den KV-Cache und den übrigen Speicherbedarf der Berechnung frei bleiben.

Unsere Seite KI-Videogenerierung behandelt Diffusions-Pipelines auf dedizierten Servern. Die tatsächlichen Kosten der RTX 5090 im großen Maßstab untersucht Datenbewegungen und Leerlaufzeiten, und ComfyUI und KI-Video auf dediziertem Bare Metal behandelt die Pipeline selbst.

Wenn 32 GB für Ihre Auflösung, Cliplänge oder Batchgröße zu klein sind, bietet die RTX PRO 6000 Blackwell 96 GB pro GPU mit ECC. Für Pipelines, die auf Ada Lovelace abgestimmt sind, sehen Sie sich die RTX 4090 an.