规格
| GPU | |
|---|---|
| 版本 | NVIDIA RTX PRO 6000 Blackwell Server Edition |
| 架构 | NVIDIA Blackwell |
| 内存 | 96 GB GDDR7，支持 ECC，512 位 |
| 显存带宽 | 1,597 GB/s |
| CUDA 核心 | 24,064 |
| Tensor Core | 752 个，第五代 |
| RT Core | 188 个，第四代 |
| FP4 峰值 | 4 PFLOPS（NVIDIA 未注明为稀疏还是稠密） |
| FP32 | 120 TFLOPS |
| RT Core 性能 | 355 TFLOPS |
| 媒体引擎 | 4 个 NVENC、4 个 NVDEC、4 个 JPEG |
| Multi-Instance GPU | 最多 4 个 24 GB 实例、2 个 48 GB 实例或 1 个 96 GB 实例 |
| GPU 互联 | PCIe 5.0 x16，无 NVLink |
| 每块 GPU 功耗 | 可配置，最高 600 W |
| 外形规格 | 双槽，全高，全长，被动散热 |
| 交付时的服务器配置 | |
|---|---|
| 每台服务器的 GPU 数 | 8 |
| 每台服务器的 GPU 显存 | 768 GB（8 x 96 GB） |
| CPU、系统内存与存储 | 按您的需求配置，并在您的方案中确认 |
| 网络 | 按您的需求配置，并在您的方案中确认 |
| 地点 | 加拿大蒙特利尔 |
典型工作负载
- 以 FP8 或 FP4 运行 70B 级模型的 LLM 推理
- 生成式视频与图像流水线，例如 ComfyUI
- 渲染、视觉特效与虚拟制作
- 视频转码与流媒体
租用配备八块 NVIDIA RTX PRO 6000 Blackwell GPU 的专属服务器，部署在蒙特利尔。现已开放预订，合同期为 36、48 或 60 个月，所有价格均列于书面方案中。
RTX PRO 6000 Blackwell 的适用对象
RTX PRO 6000 Blackwell 适合需要每块 GPU 大容量显存、功耗最高 600 W 而非 HGX 级功耗的团队：以 FP8 或 FP4 提供 70B 级模型服务的推理团队、生成式视频与图像工作室，以及负责渲染、编码与推流的媒体流水线。
每块 GPU 配备 96 GB 支持 ECC 的 GDDR7 显存，每台服务器共 768 GB。70B 参数模型的 FP8 权重约占 70 GB，因此模型可放入单块 GPU，并留有 KV 缓存的空间；同一模型的 4 比特版本则约剩 60 GB 可用。
它的优势
每块 GPU 96 GB
96 GB GDDR7 显存，512 位总线，带宽 1,597 GB/s；作业较小时，每块 GPU 最多可划分为四个 24 GB 的 MIG 实例。
Blackwell Tensor Core
752 个第五代 Tensor Core，支持 FP4。NVIDIA 公布的每块 GPU FP4 峰值为 4 PFLOPS，但未说明是稀疏还是稠密数值；FP32 则为 120 TFLOPS。
媒体引擎
每块 GPU 配备四个 NVENC、四个 NVDEC 与四个 JPEG 引擎，每台服务器共 32 个硬件编码器，适用于转码与视频流水线。
光线追踪
188 个第四代 RT Core，RT Core 性能 355 TFLOPS，适用于渲染、视觉特效与模拟。
GPU 之间通过 PCIe 5.0 x16 连接，没有 NVLink。可放入单块 GPU 或能干净地切分到少数几块 GPU 上的模型，适合 RTX PRO 6000；需要大量 GPU 间通信的模型，则应部署在 HGX 服务器上。
交付时的配置
服务器根据您的要求配置，并在您的方案中确认：CPU、系统内存、本地 NVMe 与网络。本页数值适用于 Server Edition，即 NVIDIA 推出的被动散热数据中心版显卡，每块 GPU 功耗最高可配置为 600 W。
我们的蒙特利尔站点提供现场工程支持。每台服务器都会在交付前完成老化测试，结果记录于验收报告中，我们的老化测试与验收页面说明各项测试。
租用方式
RTX PRO 6000 Blackwell 已在蒙特利尔开放预订。您以 36、48 或 60 个月的合同租用整台 8-GPU 服务器，合同期越长，费率越低。
实际使用服务器的公司须在签约前填写三份开户表格。您在签约时支付预付款，之后在整个合同期内支付单一固定月费，且不收取数据传出费用，这在您需要传入与传出大型视频文件时尤其重要。我们不提供试用，而是以老化测试与验收报告取代。蒙特利尔是加拿大的站点，1Legion 也是加拿大公司：请参阅加拿大 GPU 服务器，并在我们的采购方式页面了解每个步骤。
工作负载与替代方案
- LLM 推理：以 FP8 或 FP4 运行 70B 级模型，每块 GPU 运行一个模型，或切分到少数几块 GPU 上。请参阅 AI 推理。
- 生成式视频与图像：ComfyUI 与类似的扩散模型流水线，显存决定了分辨率、时长与批量大小。请参阅生成式视频。
- 渲染、视觉特效与转码：请参阅媒体与娱乐。
关于规模估算，请阅读 8 x 96 GB：RTX PRO 6000 Blackwell 节点能容纳哪些模型与在专属裸金属上运行 ComfyUI 与 AI 视频。若每块 GPU 48 GB 已足够，L40S 可按需提供；对于最大型的模型，HGX B300 每块 GPU 配备 270 GB 显存。
买方常见问题
单块 RTX PRO 6000 Blackwell GPU 能容纳哪些模型？
96 GB 可容纳以 FP8 运行的 70B 参数模型，权重约 70 GB，并留有 KV 缓存的空间。我们的文章 8 x 96 GB：RTX PRO 6000 Blackwell 节点能容纳哪些模型详细说明了规模估算。
使用的是哪个版本的 RTX PRO 6000 Blackwell？
本页数值适用于 Server Edition，即 NVIDIA 的被动散热数据中心版本，每块 GPU 功耗最高可配置为 600 W。您服务器的版本与功耗设置，会在您的方案中确认。
GPU 之间有 NVLink 连接吗？
没有。RTX PRO 6000 Blackwell Server Edition 通过 PCIe 5.0 x16 连接。如果您的模型必须切分到多块 GPU 上，且需要 NVLink 的带宽，请考虑 HGX B300。
服务器托管在哪里？
在加拿大蒙特利尔，我们在当地提供现场工程支持。当您选择加拿大的站点时，服务器及其存储都位于加拿大境内。
我们能在签约前试用服务器吗？
我们不提供试用。每台服务器都会在交付前完成老化测试，您会在验收报告中收到测试结果。请参阅老化测试与验收。
有哪些合同期可选择？
36、48 或 60 个月，合同期越长，费率越低。您在签约时支付预付款，之后在整个合同期内支付单一固定月费，且不收取数据传出费用。