规格
| GPU | |
|---|---|
| 架构 | NVIDIA Blackwell（GB202） |
| 内存 | 32 GB GDDR7，512 位，28 Gbps |
| 显存带宽 | 1,792 GB/s |
| CUDA 核心 | 21,760 |
| Tensor Core | 680 个，第五代 |
| RT Core | 170 个，第四代，318 TFLOPS |
| FP4 Tensor（AI TOPS） | 稀疏 3,352 TFLOPS，稠密 1,676 TFLOPS |
| FP8 Tensor，FP16 累加 | 稀疏 1,676 TFLOPS，稠密 838 TFLOPS |
| FP32 | 104.8 TFLOPS |
| 加速频率 | 2.41 GHz |
| 视频引擎 | 3 个 NVENC（第九代）、2 个 NVDEC（第六代），支持 AV1 编码与解码 |
| 互联 | PCIe Gen 5；无 NVLink |
| 显卡总功耗 | 575 W |
| 参考显卡 | 2 槽，304 mm x 137 mm（Founders Edition） |
| 交付时的服务器配置 | |
|---|---|
| 每台服务器的 GPU 数 | 8 |
| 每台服务器的 GPU 显存 | 256 GB（8 x 32 GB） |
| 每台服务器的 GPU 功耗 | 按 NVIDIA 额定值为 4,600 W（8 x 575 W） |
| 显卡型号 | 在您的方案中确认 |
| CPU、系统内存、存储与网络 | 按您的需求配置，并在您的方案中确认 |
典型工作负载
- 扩散模型图像与视频生成，例如 ComfyUI 流水线
- 每块 GPU 32 GB 显存可容纳的模型推理
- GPU 渲染与实时图形
- AV1 视频编码
租用配备八块 NVIDIA GeForce RTX 5090 GPU 的专属服务器，用于生成式图像与视频、渲染及较小模型的推理。RTX 5090 服务器按需提供，根据您的要求配置，合同期为 36、48 或 60 个月。
RTX 5090 的适用对象
RTX 5090 适合每块 GPU 运行一个作业、对显存速度的需求高于容量的流水线：扩散模型图像与视频生成、GPU 渲染，以及 32 GB 显存可容纳的模型推理。每块 GPU 配备 32 GB GDDR7 显存，每台服务器共 256 GB，采用 Blackwell 架构，第五代 Tensor Core 支持 FP4。
并行渲染或生成帧的团队，每台服务器可获得八块独立的 GPU，每块都能使用整张显卡的全部显存与带宽，且机器上没有其他租户。
它的优势
显存带宽是它最突出的规格。NVIDIA 标称 RTX 5090 在 512 位总线、28 Gbps 速率下的带宽为 1,792 GB/s，按每块 GPU 计算，高于 RTX PRO 6000 Blackwell Server Edition 的 1,597 GB/s。
- 计算：21,760 个 CUDA 核心，FP32 性能 104.8 TFLOPS。NVIDIA 公布的 3,352 AI TOPS 为使用稀疏性的 FP4 数值；稠密 FP4 为 1,676 TFLOPS。
- Tensor Core 与 RT Core：680 个第五代 Tensor Core 与 170 个第四代 RT Core，光线追踪额定 318 TFLOPS。
- 视频：每块 GPU 配备三个第九代 NVENC 与两个第六代 NVDEC 引擎，支持 AV1 编码与解码。
- 功耗：按 NVIDIA 额定值，每张显卡总功耗 575 W，八块 GPU 合计 4,600 W。
RTX 5090 没有 NVLink。GPU 之间通过 PCIe Gen 5 通信，相比切分到多块 GPU 上的模型，更适合在每块 GPU 上独立运行的任务，例如每张显卡运行一个扩散模型作业。
交付时的配置
RTX 5090 服务器根据您的要求配置，并在您的方案中确认，包括显卡型号、CPU、系统内存、存储与网络。
每台服务器都会在交付前完成老化测试，结果记录于验收报告中，如我们的老化测试与验收页面所述。
租用方式
RTX 5090 服务器按需提供。请告诉我们您需要多少台服务器、租用多久、从何时开始，我们会在书面方案中确认交付时间表。您以 36、48 或 60 个月的合同租用整台 8-GPU 服务器，合同期越长，费率越低。
实际使用服务器的公司须在签约前填写三份开户表格。签约时支付预付款，之后在整个合同期内支付单一固定月费，传输媒体文件不收取数据传出费用。我们不提供试用，而是以老化测试与验收报告取代。我们的采购方式页面说明每个步骤。
工作负载与替代方案
RTX 5090 适合 ComfyUI 与类似的扩散模型流水线、渲染，以及权重与 KV 缓存都在每块 GPU 32 GB 以内的推理。24B 参数的模型以 FP8 运行约需 24 GB，显卡上还剩约 8 GB，可用于 KV 缓存与工作显存。
我们的生成式视频页面介绍在专属服务器上运行的扩散模型流水线。大规模运行 RTX 5090 的真实成本探讨数据传输与闲置时间，在专属裸金属上运行 ComfyUI 与 AI 视频则介绍流水线本身。
如果 32 GB 不足以满足您的分辨率、片段时长或批量大小，RTX PRO 6000 Blackwell 每块 GPU 配备 96 GB 显存，并支持 ECC。针对 Ada Lovelace 优化的流水线，请参阅 RTX 4090。
买方常见问题
RTX 5090 还是 RTX PRO 6000 Blackwell：我们该租用哪一款？
RTX PRO 6000 Blackwell 每块 GPU 的显存是 RTX 5090 的三倍（96 GB 对比 32 GB），支持 ECC，采用被动散热的服务器设计，并已在蒙特利尔开放预订。RTX 5090 每块 GPU 的显存带宽更高（1,792 GB/s 对比 1,597 GB/s），适合 32 GB 显存即可容纳的工作负载。
3,352 AI TOPS 代表什么？
这是 NVIDIA 在其 RTX Blackwell 架构白皮书中，为 RTX 5090 列出的使用稀疏性时 FP4 Tensor 峰值。不使用稀疏性时，数值为 1,676 TFLOPS。
这八块 GPU 之间有 NVLink 互联吗？
没有。GeForce RTX 5090 没有 NVLink，因此 GPU 之间通过 PCIe Gen 5 通信。它最适合每块 GPU 运行独立作业的流水线。
服务器中使用哪款 RTX 5090 显卡？
显卡型号会在您的方案中确认。本页的 NVIDIA 数值以其 Founders Edition 或参考设计为准，而 NVIDIA 指出，板卡合作伙伴推出的显卡可能有所不同。
有哪些合同期可选择？
36、48 或 60 个月，合同期越长，费率越低。您在签约时支付预付款，之后在整个合同期内支付单一固定月费，且不收取数据传出费用。