繁
採購方式 申請報價

專屬 NVIDIA GPU 伺服器

整台伺服器與叢集，36 至 60 個月的合約期，依我們公開的交付規格書建置。

查看我們提供的所有 GPU 伺服器

依工作負載配置硬體

哪些伺服器適合訓練、推論、媒體管線與生成式影片，以及原因。

比較四種工作負載

我們帶來客戶

我們案源中的 GPU 伺服器需求，超過我們能自行部署的規模。由合作夥伴承接這些需求。

了解合作方式

依公開的規格書建置

每個叢集都在交付前完成燒機測試，並在書面維運承諾下運作。

閱讀交付規格書

工程筆記

規模估算指南、硬體比較，以及改用專屬伺服器後有哪些不同。

閱讀部落格

專屬於您的GPU 叢集。

1Legion 是裸機 GPU 雲端服務商。我們出租專屬 NVIDIA GPU 伺服器與叢集，合約期 36 至 60 個月，依公開的規格書建置，交付前完成燒機測試，並在書面維運承諾下運作。

申請報價 閱讀交付規格書
多倫多開放預訂
HGX B300
每顆 GPU 的 HBM3e
270 GB
每顆 GPU 的東西向網路
800 Gb/s
合約期，單一固定費率
36 至 60 個月

1Legion 叢集內部

整個叢集只屬於一位客戶

我們最大的參考設計將 288 個 HGX B300 節點連接在同一個軌道最佳化的無阻塞叢集網路上，並配備專屬的儲存、CPU 節點與控制平面。完全不共用：沒有其他租戶，沒有 hypervisor。

GPU 節點
288
NVIDIA B300 GPU
2,304
預估 IT 負載，約
4.39 MW

機櫃採用兩條供電路徑

氣冷式 HGX B300 伺服器只部署在承諾提供以下條件的機房：每個機櫃皆有 A/B 雙路供電、合約明定每個機櫃的功率上限，以及維持該上限所需的散熱能力。我們以每個 GPU 節點約 14 kW 進行規劃。

每個 GPU 節點（規劃值）
14 kW
每個機櫃的獨立供電路徑
2
每個節點的本機 NVMe，至少
9.2 TB

八顆 GPU，同一個 NVLink 網域

每台伺服器配備八顆 Blackwell Ultra GPU，每顆 GPU 搭載 270 GB 的 HBM3e。GPU 之間透過 NVSwitch 以第五代 NVLink 互連，每顆 GPU 都有專屬的 800 Gb/s 路徑連接叢集網路。

每台伺服器的 HBM3e
2.1 TB
每顆 GPU 的 NVLink
1.8 TB/s
每顆 GPU 的叢集網路頻寬
800 Gb/s

從 64 個節點起步。擴充至 288 個。

三種參考規模採用同一份規格，因此叢集擴充時無須重新設計。更大的叢集依個別需求設計，所有偏差項目都會在您的提案書中逐項編號。

64 個節點128 個節點288 個節點
NVIDIA B300 GPU5121,0242,304
可用儲存容量512 TB1,024 TB2,304 TB
IT 負載，約0.98 MW1.95 MW4.39 MW
查看參考叢集

客戶與合作夥伴

與我們合作的 AI 公司、GPU 雲端服務商、資料中心營運商、電信業者及硬體製造商。

查看全部 36 家
  • Akash Network
  • Vast.ai
  • Viggle AI
  • Dell Technologies
  • AudioShake
  • DDN
  • WEKA
  • Hewlett Packard Enterprise
  • Massed Compute
  • Compute Exchange
  • Zayo
  • Supermicro
  • Cogent
  • eStruxture Data Centers
  • Enovum Data Centers
  • Lenovo
  • CloudRift
  • Cocoon
  • Skyportal
  • Cisco
  • GenAI Works
  • DVEO
  • Computer Modules
  • ASUS
  • WiseDV
  • ISS Intelligent Security Systems
  • Templus
  • GIGABYTE
  • UK Servers
  • Glide
  • Inflect
  • Aivres
  • PodWarden
  • Ignite
  • Dacentec
  • AMAX

單一營運商，四種合作方式

租用伺服器；由我們在伺服器上維運軟體；將硬體放置在我們合作夥伴的機房；或交由我們營運您自有的叢集，並為它找到客戶。

GPU 伺服器與叢集

整台 NVIDIA 伺服器與專屬叢集，合約期為 36、48 或 60 個月。規模從單台 HGX B300 伺服器，到配備專屬叢集網路與儲存的 288 節點叢集。

瀏覽 GPU 伺服器專屬 GPU 叢集

代管 Kubernetes

我們在您的專屬伺服器上安裝 Kubernetes，搭配 NVIDIA GPU Operator 與 Network Operator，再負責維運、升級與監控。若您的團隊偏好 Slurm，也可選擇代管 Slurm。

了解代管 Kubernetes 運作方式

主機代管與維運

合作夥伴資料中心的空間與電力，以多年期合約按 kW 計價轉售，並為您自有的硬體提供 24/7 維運、現場代操作與監控。

查看兩種主機代管方案

為 GPU 投資人代營運

您擁有伺服器，或為伺服器提供融資。我們負責部署與維運，從我們的案源中找到客戶，與客戶簽約並開立帳單，並回報每台伺服器的收益。

了解我們如何營運投資人硬體

我們部署的 NVIDIA 伺服器

只提供整台伺服器：8-GPU HGX 系統、72-GPU 機櫃，以及用於推論與媒體的 PCIe 伺服器。每項配置都會在您的提案書中確認。

開放預訂Blackwell Ultra

NVIDIA HGX B300

八顆 Blackwell Ultra GPU，每顆搭載 270 GB 的 HBM3e，每顆 GPU 配有 800 Gb/s 網路。以整台伺服器或專屬叢集形式出租，依我們公開的交付規格書建置。

每台伺服器的 GPU 數
8
每顆 GPU 的記憶體
270 GB HBM3e
每台伺服器的 FP4 效能
108 PFLOPS（密集）
每顆 GPU 的網路
800 Gb/s
B300 伺服器 申請報價

查看所有 GPU 伺服器

交到您手上之前，已完成測試

每個叢集在交付前，都會通過 NVIDIA 為推論服務供應商制定的硬體驗證，共五項測試（HW-1 至 HW-5），您也會收到驗收報告。這正是我們不提供試用的原因：燒機測試本身就是證明。

  1. HW-1集合通訊輸送量。以 nccl-tests 確認 NCCL 輸送量達到基準值；若叢集網路支援，則搭配 SHARP 加速的集合通訊。
  2. HW-2每條網路軌道。以 ib_write_bw 測試每條 InfiniBand 或 RoCE 軌道。
  3. HW-3GPUDirect 與儲存。GPUDirect RDMA 與儲存的冒煙測試，包含 NVMe 讀取與寫入。
  4. HW-4NVLink 與 NVSwitch。以 nvbandwidth 檢查 NVLink 與 NVSwitch 的連結數量與頻寬。
  5. HW-524 小時持續負載測試。在持續維持的功率上限下，以具代表性的推論負載進行 24 小時持續負載測試。
了解燒機與驗收流程
burn-in hgx-b300 node 0172, 8 GPUs 示意
  1. HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
  2. HW-2 ib_write_bw, every rail queuedrunningpass
  3. HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
  4. HW-4 nvbandwidth queuedrunningpass
  5. HW-5 24 h, inference load, power cap queuedrunningpass
  6. acceptance report issued to customer

回應時間，以書面明定

我們的維運承諾以書面明定，而非默示。以下是發生問題時開始起算的時限，以及我們進行任何有風險的作業前，您會收到的事先通知。

  1. 5 分鐘資產清冊與狀態的變更即可供您查看。DDoS 流量清洗生效。
  2. 15 分鐘確認事件、指派事件指揮官、網路維運團隊介入處理。
  3. 45 分鐘機房工程人員或現場代操作人員著手處理問題。
  4. 60 分鐘事件未結案期間，至少每小時提供一次更新。
  5. 7 天提供書面事後檢討報告，高風險維護前亦提前七天通知。

閱讀維運承諾

您的伺服器在哪裡運作

目前的容量位於加拿大，接下來是德拉瓦州，芬蘭則在開發中，皆位於橫跨四大洲、共 49 座資料中心的合作夥伴網路之內。我們以城市名稱標示各資料中心。

  • 多倫多加拿大 營運中 NVIDIA HGX B300 伺服器與叢集。
  • 蒙特婁加拿大 營運中 RTX PRO 6000 Blackwell 及其他推論伺服器，並提供現場工程支援。
  • 德拉瓦州美國 即將上線 為需要在美國境內運算的客戶提供 HGX B300 容量。
  • 赫爾辛基芬蘭 開發中 一處開發中的既有工業場址，將作為資料中心，提供未來在歐洲的容量。
  • 合作夥伴網路26 座城市，12 個國家 49 座資料中心 北美、歐洲、非洲與澳洲，電力至少 313 MW。查看所有城市
資料中心

需求超過我們能自行部署的規模

我們的案源中，有數千台 GPU 伺服器的需求。投資人、資料中心業主與仲介和我們合作，共同滿足這些需求。

與 1Legion 合作

工程筆記

規模估算指南、硬體比較，以及改用專屬伺服器後有哪些不同。

所有文章
70GB of weights, four GPUs: what’s left for the KV cache at 80, 96, 141 and 270GB Load a 70B model in FP8 on 80, 96, 141 and 270GB GPUs and see how much memory each leaves for the KV cache, with the sizing arithmetic worked out. GPU 數量 閱讀時間 4 分鐘 8 x 270GB: what fits on a B300 node What fits on an NVIDIA B300 node: 270GB memory math for 405B and 70B model inference, KV cache sizing, bandwidth ceilings, and where a single GPU stops. GPU 數量 閱讀時間 6 分鐘 8 x 96GB: what fits on an RTX PRO 6000 Blackwell node What fits on an RTX PRO 6000 Blackwell node: the 96GB memory math for 70B model inference and QLoRA fine tuning, KV cache sizing, and where the limit sits. GPU 數量 閱讀時間 4 分鐘

告訴我們您需要執行什麼。

請提供硬體、伺服器數量、合約期與開始日期。您將收到以我們交付規格書為基礎的書面提案書。

申請報價 與工程師洽談