
访问专用的NVIDIA GPU,这些GPU专为AI推理、渲染和媒体管道设计,无共享资源、无隐藏成本,并提供可预测的性能。
以下是我们三款最受欢迎的服务器在AI、渲染和媒体管线最关键的规格上的对比。所有价格均按每小时每块GPU计算,基于专用8块GPU裸金属服务器。
RTX 5090 | RTX Pro 6000 Max-Q | H100 SXM | |
|---|---|---|---|
架构 | 布莱克威尔 | 布莱克威尔 | 霍珀 |
CUDA 核心 | 21,760 | 24,064 | 16,896 |
Tensor 核心 | 680 (第五代) | 752 (第五代) | 528 (第四代) |
支持 FP4 | 是 | 是 | 否 |
显存 (每颗 GPU) | 32 GB GDDR7 | 96 GB GDDR7 ECC | 80 GB HBM3 |
总显存 (8x 服务器) | 256 GB | 768 GB | 640 GB |
内存带宽 | 1,792 GB/s | 1,792 GB/s | 3,350 GB/秒 |
TDP (每GPU) | 575 瓦 | 300 瓦 | 700 瓦 |
多GPU互连 | PCIe 5.0 | PCIe 5.0 | NVLink 4.0 |
MIG 支持 | 否 | 是 (4个实例) | 是 (7个实例) |
1Legion 价格(起,12个月) | $0.59/GPU/小时 | $1.34/GPU/小时 | $1.99/GPU/小时 |