規格
| GPU | |
|---|---|
| 架構 | NVIDIA Blackwell（GB202） |
| 記憶體 | 32 GB GDDR7，512 位元，28 Gbps |
| 記憶體頻寬 | 1,792 GB/s |
| CUDA 核心 | 21,760 |
| Tensor 核心 | 680 個，第五代 |
| RT 核心 | 170 個，第四代，318 TFLOPS |
| FP4 Tensor（AI TOPS） | 稀疏 3,352 TFLOPS，密集 1,676 TFLOPS |
| FP8 Tensor，FP16 累加 | 稀疏 1,676 TFLOPS，密集 838 TFLOPS |
| FP32 | 104.8 TFLOPS |
| 加速時脈 | 2.41 GHz |
| 影片引擎 | 3 個 NVENC（第九代）、2 個 NVDEC（第六代），支援 AV1 編碼與解碼 |
| 互連 | PCIe Gen 5；無 NVLink |
| 顯示卡總功耗 | 575 W |
| 參考顯示卡 | 2 槽，304 mm x 137 mm（Founders Edition） |
| 交付時的伺服器配置 | |
|---|---|
| 每台伺服器的 GPU 數 | 8 |
| 每台伺服器的 GPU 記憶體 | 256 GB（8 x 32 GB） |
| 每台伺服器的 GPU 功耗 | 依 NVIDIA 額定值為 4,600 W（8 x 575 W） |
| 顯示卡型號 | 在您的提案書中確認 |
| CPU、系統記憶體、儲存與網路 | 依您的需求配置，並在您的提案書中確認 |
典型工作負載
- 擴散模型影像與影片生成，例如 ComfyUI 管線
- 可放入每顆 GPU 32 GB 的模型推論
- GPU 渲染與即時圖形
- AV1 影片編碼
租用配備八顆 NVIDIA GeForce RTX 5090 GPU 的專屬伺服器，用於生成式影像與影片、渲染及較小模型的推論。RTX 5090 伺服器依需求提供，依您的要求配置，採 36、48 或 60 個月合約。
RTX 5090 的適用對象
RTX 5090 適合每顆 GPU 執行一項工作、對記憶體速度的需求高於容量的管線：擴散模型影像與影片生成、GPU 渲染，以及可放入 32 GB 的模型推論。每顆 GPU 配備 32 GB GDDR7，每台伺服器共 256 GB，採用 Blackwell 架構，第五代 Tensor 核心支援 FP4。
平行渲染或生成影格的團隊，每台伺服器可獲得八顆獨立的 GPU，每顆都能使用整張顯示卡的完整記憶體與頻寬，且機器上沒有其他租戶。
它的優勢
記憶體頻寬是它最突出的規格。NVIDIA 標示 RTX 5090 在 512 位元匯流排、28 Gbps 速率下的頻寬為 1,792 GB/s，以每顆 GPU 計算，高於 RTX PRO 6000 Blackwell Server Edition 的 1,597 GB/s。
- 運算：21,760 個 CUDA 核心，FP32 效能 104.8 TFLOPS。NVIDIA 標示的 3,352 AI TOPS 為使用稀疏性的 FP4 數值；密集 FP4 為 1,676 TFLOPS。
- Tensor 與 RT 核心：680 個第五代 Tensor 核心與 170 個第四代 RT 核心，光線追蹤額定 318 TFLOPS。
- 影片：每顆 GPU 配備三個第九代 NVENC 與兩個第六代 NVDEC 引擎，支援 AV1 編碼與解碼。
- 功耗：依 NVIDIA 額定值，每張顯示卡總功耗 575 W，八顆 GPU 合計 4,600 W。
RTX 5090 沒有 NVLink。GPU 之間透過 PCIe Gen 5 通訊，比起分散到多顆 GPU 的模型，更適合在每顆 GPU 上獨立執行的工作，例如每張顯示卡執行一項擴散模型工作。
交付時的配置
RTX 5090 伺服器依您的要求配置，並在您的提案書中確認，包括顯示卡型號、CPU、系統記憶體、儲存與網路。
每台伺服器都會在交付前完成燒機測試，結果記錄於驗收報告中，如我們的燒機與驗收頁面所述。
租用方式
RTX 5090 伺服器依需求提供。請告訴我們您需要多少台伺服器、租用多久、從何時開始，我們會在書面提案書中確認交付時程。您以 36、48 或 60 個月的合約租用整台 8-GPU 伺服器，合約期越長，費率越低。
實際使用伺服器的公司須在簽約前填妥三份開戶表單。簽約時支付預付款，之後在整個合約期內支付單一固定月費，搬移媒體檔案不收取資料傳出費用。我們不提供試用，而是以燒機測試與驗收報告取代。我們的採購方式頁面說明每個步驟。
工作負載與替代方案
RTX 5090 適合 ComfyUI 與類似的擴散模型管線、渲染，以及權重與 KV 快取都在每顆 GPU 32 GB 以內的推論。24B 參數的模型以 FP8 執行約需 24 GB，顯示卡上約剩 8 GB 可供 KV 快取與工作記憶體使用。
我們的生成式影片頁面介紹在專屬伺服器上執行的擴散模型管線。大規模執行 RTX 5090 的真實成本探討資料搬移與閒置時間，在專屬裸機上執行 ComfyUI 與 AI 影片則介紹管線本身。
如果 32 GB 不足以應付您的解析度、片段長度或批次大小，RTX PRO 6000 Blackwell 每顆 GPU 配備 96 GB，並具備 ECC。針對 Ada Lovelace 調校的管線，請參閱 RTX 4090。
買方常見問題
RTX 5090 還是 RTX PRO 6000 Blackwell：我們該租用哪一款？
RTX PRO 6000 Blackwell 每顆 GPU 的記憶體為三倍（96 GB，對比 32 GB），具備 ECC 與被動散熱的伺服器設計，並已在蒙特婁開放預訂。RTX 5090 每顆 GPU 的記憶體頻寬較高（1,792 GB/s，對比 1,597 GB/s），適合可放入 32 GB 的工作。
3,352 AI TOPS 代表什麼？
這是 NVIDIA 在其 RTX Blackwell 架構白皮書中，為 RTX 5090 列出的使用稀疏性時 FP4 Tensor 峰值。不使用稀疏性時，數值為 1,676 TFLOPS。
這八顆 GPU 有透過 NVLink 互連嗎？
沒有。GeForce RTX 5090 沒有 NVLink，因此 GPU 之間透過 PCIe Gen 5 通訊。它最適合在每顆 GPU 上執行獨立工作的管線。
伺服器中使用哪款 RTX 5090 顯示卡？
顯示卡型號會在您的提案書中確認。本頁的 NVIDIA 數值以其 Founders Edition 或參考設計為準，而 NVIDIA 指出，板卡合作夥伴推出的顯示卡可能有所不同。
有哪些合約期可選擇？
36、48 或 60 個月，合約期越長，費率越低。您在簽約時支付預付款，之後在整個合約期內支付單一固定月費，且不收取資料傳出費用。