這是我們 HGX B300 叢集規格書的公開版,文件編號 1LG-DEL-SPEC-2026-001,日期為 2026 年 9 月 24 日。它是我們撰寫每份 HGX B300 提案書的基準:參考叢集規模、節點、儲存與網路,以及叢集隨附的維運承諾。您的叢集若有任何不同之處,都會在提案書中列為編號的偏差項目。
規格書的運作方式
規格書設定基準,您的提案書則將每項與基準不同的變更記錄為編號的偏差項目。文件中的每個項目不是「必要」就是「建議採用」。本頁中,最低要求寫作「至少」或「最低」,建議選項則標示為「建議採用」。
必要
屬於每份 HGX B300 提案書的基準。若您的叢集需要不同的配置,該變更會在提案書中列為編號的偏差項目。
建議採用
當文件允許多個選項時我們建議採用的選項,例如後端網路卡採用 NVIDIA ConnectX-8。
編號偏差項目
針對個別客戶的變更,會以專屬編號寫入您的提案書,讓您的工程師與採購團隊能在簽約前逐項檢查與此基準的差異。
參考叢集規模
規格書定義了三種參考叢集,分別為 64、128 與 288 個 GPU 節點,每種規模都包含相應的 CPU 節點、控制平面與儲存。
| 項目 | 64 個節點 | 128 個節點 | 288 個節點 |
|---|---|---|---|
| GPU 節點(每個 8 顆 GPU) | 64 | 128 | 288 |
| GPU 數量 | 512 | 1,024 | 2,304 |
| CPU 節點 | 24 | 48 | 108 |
| 控制平面節點 | 6 | 6 | 6 |
| 儲存:儲存設備方案(可用容量) | 512 TB | 1,024 TB | 2,304 TB |
| 儲存:儲存節點方案 | 9 個節點 | 17 個節點 | 38 個節點 |
| 預估 IT 負載 | 約 0.98 MW | 約 1.95 MW | 約 4.39 MW |
每種參考規模都有六個控制平面節點,規格書將控制平面設定為每 2,304 顆 GPU 配置 6 個節點。兩列儲存項目分別對應下方說明的兩種儲存方案:儲存設備列出可用容量,儲存節點則列出節點數量。
電力規劃
預估 IT 負載依下列規劃值計算:
| 項目 | 規劃值 |
|---|---|
| GPU 節點 | 約 14 kW(規劃假設值) |
| CPU 節點 | 1.0 kW |
| 控制平面節點 | 0.5 kW |
| 儲存節點 | 1.3 kW |
| 網路 | GPU 負載的 5% |
以 64 節點規模為例,即 64 個 GPU 節點(每個約 14 kW),加上 24 個 CPU 節點、6 個控制平面節點、9 個儲存節點,以及 GPU 負載 5% 的網路:合計約 0.98 MW。我們依這些數值規劃機房電力,而合約明定的每機櫃最大 kW,是我們對機房最關鍵的要求數字。其餘要求請見我們的資料中心頁面。
運算節點
除了儲存之外,叢集還有三種節點:執行您工作負載的 GPU 節點、負責周邊服務的 CPU 節點,以及負責管理叢集本身的控制平面。
GPU 節點
| 項目 | 規格 |
|---|---|
| 平台 | NVIDIA HGX B300,8 顆 GPU |
| GPU 記憶體 | 每顆 GPU 270 GB HBM3e,每個節點 2.1 TB,依 NVIDIA 公布的 HGX B300 規格 |
| 散熱 | 氣冷,在叢集規模下依 OEM 的建議 |
| CPU | 至少 128 個 vCPU |
| 系統記憶體 | 建議採用 3 TB;每顆 GPU 至少 240 GB(1.92 TB) |
| 開機硬碟 | 2 x 1 TB NVMe,鏡像配置(建議採用) |
| 本機資料儲存 | 至少 9.2 TB 原始 NVMe 容量,超過 GPU 記憶體的 4 倍 |
| 後端網路卡 | 每顆 GPU 800 Gb/s,可為 1 x 800、2 x 400 或 4 x 200 Gb/s;建議採用 NVIDIA ConnectX-8 |
| 前端網路卡 | NVIDIA BlueField-3;建議採用 2 x 400 Gb/s,最低 2 x 200 Gb/s |
- 記憶體。每顆 GPU 配備 270 GB 的 HBM3e,每個節點共有 2.1 TB 的 GPU 記憶體。每顆 GPU 至少 240 GB 的系統記憶體,讓主機有空間為 GPU 暫存資料與模型權重。
- 本機儲存。原始 NVMe 容量至少為節點 GPU 記憶體的四倍,讓資料集、檢查點與模型檔案就近存放在 GPU 旁。
- 網路卡。後端網路卡以三種連接埠配置之一,為每顆 GPU 提供進入東西向叢集網路的 800 Gb/s 頻寬。BlueField-3 前端網路卡將節點連接到南北向網路。
- 散熱。節點採用氣冷,因為 OEM 建議在叢集規模下使用氣冷。
CPU 節點
| 項目 | 規格 |
|---|---|
| 角色 | GPU 周邊的服務:模型服務、路由、批次作業 |
| 規模配置 | 叢集中每顆 GPU 至少對應 6 個硬體執行緒與 24 GB 記憶體 |
| 處理器 | x86,至少 128 個 vCPU,基礎時脈高於 3 GHz |
| 建議採用的 CPU | AMD EPYC 9565 或 9575F |
| 記憶體 | 每個執行緒 4 GB |
| 前端網路卡 | NVIDIA BlueField-3 |
CPU 節點負責 GPU 周邊的工作,例如模型服務、路由與批次作業,讓 GPU 節點不必承擔這些工作。由於 CPU 節點依 GPU 數量配置,會隨叢集一起擴充:512 顆 GPU 至少需要 3,072 個硬體執行緒,正好由 24 個 128 vCPU 節點提供。
控制平面
| 項目 | 規格 |
|---|---|
| 節點 | 每 2,304 顆 GPU 配置 6 個,分散於兩個機櫃 |
| 處理器 | 32 個 vCPU,時脈高於 3.65 GHz;建議採用 AMD EPYC 9175F |
| 記憶體 | 128 GB |
控制平面執行叢集的管理服務。其六個節點分散於兩個機櫃,因此不會全部集中在同一個機櫃。
儲存
您可從兩種儲存設計中擇一:由原廠代管的儲存設備(方案 A),或用於執行您自有儲存軟體的儲存節點(方案 B)。
| 方案 A:儲存設備 | 方案 B:儲存節點 | |
|---|---|---|
| 內容 | 依您的偏好,選擇由 VAST Data、WEKA 或 DDN 原廠代管的儲存設備 | 用於執行您自有儲存軟體的儲存節點 |
| 容量 | 每顆 GPU 至少 1 TB 可用容量 | 每顆 GPU 至少 3 TB 原始容量 |
| 硬碟 | 原廠支援的設計 | 30.72 TB NVMe PCIe 5.0;支援自我加密硬碟 |
| 參考規模下 | 可用容量 512、1,024 或 2,304 TB | 9、17 或 38 個節點,最低 9 個 |
採用方案 A 時,規格書中的儲存設備服務包括:具 24/7 升級處理的原廠支援設計、各層級承諾的輸送量與延遲、可查看的用量與配額,以及經過測試的復原機制。方案 B 適合已在執行自有儲存軟體,並希望以原始容量支撐該軟體的團隊。
叢集網路與邊緣網路
每個叢集都有專屬的東西向叢集網路承載 GPU 之間的流量,也有專屬的南北向網路;在邊緣,叢集享有備援的 IP Transit、DDoS 流量清洗、NAT 與專屬公用 IP 位址。
東西向叢集網路
| 項目 | 規格 |
|---|---|
| 拓撲 | 軌道最佳化,完全無阻塞 |
| 每顆 GPU 的頻寬 | 1 x 800 或 2 x 400 Gb/s 網路平面 |
| 交換器(建議採用) | NVIDIA Spectrum-X 或 Broadcom Tomahawk 6 |
| 交換器(可接受) | NVIDIA Quantum InfiniBand 或 Broadcom Tomahawk 5 |
| 租戶模式 | 專屬於單一客戶 |
軌道最佳化是指每個節點中各個位置的 GPU,都連接到自己的一組交換器,也就是它的軌道,讓對應位置 GPU 之間的路徑保持簡短。完全無阻塞是指叢集網路能同時承載每顆 GPU 的完整頻寬,交換器層級之間沒有超額訂閱。
南北向網路
| 項目 | 規格 |
|---|---|
| 每個節點的頻寬 | 建議採用 400 Gb/s,最低 200 Gb/s |
| 儲存葉交換器 | 無超額訂閱 |
| GPU 葉交換器 | 超額訂閱比低於 4:1 |
| 傳輸協定 | 支援 RoCEv2 |
| MTU | 9000 |
| 租戶模式 | 專屬 |
超額訂閱比,是葉交換器提供給節點的頻寬與其上行鏈路頻寬之間的比例。儲存葉交換器沒有超額訂閱,因此讀取與檢查點寫入不會受上行鏈路拖累;GPU 葉交換器則維持在 4:1 以下。RoCEv2 在這個乙太網路上承載 RDMA,而 9000 的 MTU(巨型訊框)可降低大型傳輸時每個封包的額外負擔。
邊緣與網際網路服務
| 項目 | 規格 |
|---|---|
| IP Transit | 兩家獨立供應商,每條線路 100 Gb/s,走實體分離的路徑 |
| 路由 | eBGP 搭配 BFD;一分鐘內完成容錯移轉 |
| 邊緣路由器 | 兩台,互為備援,採 A/B 雙路供電 |
| 邊緣 ACL | 依您的規則設定;一個工作天內完成變更 |
| DDoS 防護 | 由成熟供應商提供第 3 層與第 4 層的流量型清洗,透過 BGP 於 5 分鐘內啟動,容量至少 1 Tb/s |
| NAT 與傳出流量 | 備援 HA 配對,至少 1,000 萬個並行工作階段,專屬 SNAT 位址(通常四個) |
| 公用服務位址 | 專屬(通常八個);您可透過 BGP 宣告 VIP;5 秒內完成容錯移轉;IPv6 雙堆疊 |
| 您的 IP 位址空間與 ASN | 邊緣可宣告您的前綴與 ASN;遵循 RPKI ROA;BGP 工作階段驗證 |
| 網路遙測 | 兩台邊緣路由器皆將 NetFlow v9 或 IPFIX 傳送至您的收集器 |
- IP Transit 與路由。兩家獨立供應商走實體分離的路徑,因此單一線路被切斷或單一供應商中斷,都不會成為單點故障。BFD 能快速偵測失效的連結,eBGP 則在一分鐘內切換到另一家供應商。
- 邊緣路由器。兩台互為備援的路由器採 A/B 雙路供電,因此邊緣不會依賴單一路由器或單一供電線路。
- 邊緣 ACL。邊緣的存取控制清單依您的規則設定,我們會在一個工作天內完成變更。
- DDoS 防護。第 3 層與第 4 層的流量型攻擊,會透過 BGP 導向成熟的清洗服務供應商。清洗在 5 分鐘內啟動,容量至少 1 Tb/s。
- NAT 與傳出流量。對外流量經由一組備援配對送出,可維持至少 1,000 萬個並行工作階段,並使用僅供您使用的 SNAT 位址,讓合作夥伴能將您的流量加入允許清單。
- 公用服務位址。通常為您的服務提供八個專屬位址。您可透過 BGP 宣告虛擬 IP,容錯移轉在 5 秒內完成,IPv6 則以雙堆疊方式運作。
- 您的 IP 位址空間與 ASN。若您擁有自己的前綴與 ASN,邊緣可以宣告它們。我們遵循您的 RPKI 路由來源授權(ROA),它會告訴其他網路哪個 ASN 可以作為您前綴的起源;BGP 工作階段也經過驗證。
- 網路遙測。兩台邊緣路由器都會將 NetFlow v9 或 IPFIX 流量紀錄傳送到您的收集器,讓您看到自己的流量。
交付後的維運
規格書也涵蓋交付前後的事項:交付前的燒機測試,以及交付後的書面維運承諾。
交付前,每個叢集都會通過 NVIDIA 為推論服務供應商制定的硬體驗證(HW-1 至 HW-5 測試),結果會以驗收報告交給您。我們的燒機與驗收頁面說明每項測試證明什麼。
交付後,規格書第 15 節說明我們如何維運叢集,首先是以下承諾:
| 承諾 | 數值 |
|---|---|
| 確認事件並指派事件指揮官 | 15 分鐘內 |
| 事件未結案期間的更新 | 至少每 60 分鐘 |
| 網路維運團隊介入處理,不分時段 | 15 分鐘內 |
| 機房工程人員或現場代操作人員介入處理 | 45 分鐘內 |
| 影響客戶的事件後提交書面事後檢討報告 | 7 天內 |
| 高風險計畫性維護前的事先通知 | 至少 7 天 |
完整清單(包括資產清冊、變更管理與硬體故障處理)請見我們的維運承諾頁面。頻外硬體遙測資料透過 Redfish 從 BMC 取得,並在可取得時納入網路與機房遙測。維運遙測資料至少保存 30 天,事件與狀態歷史至少保存 12 個月。
下載規格書
買方常見問題
什麼是 1LG-DEL-SPEC-2026-001?
這是 1Legion 的 HGX B300 交付規格書,日期為 2026 年 9 月 24 日,也是我們撰寫每份 HGX B300 提案書的基準。本頁是它的公開版。
規格書可以針對我們的叢集調整嗎?
可以。針對個別客戶的變更會以編號偏差項目寫入您的提案書,讓您看清叢集與基準不同的每一處。
GPU 節點採用氣冷還是液冷?
在叢集規模下,HGX B300 節點依 OEM 的建議採用氣冷。我們要求機房具備為 GB300 NVL72 及後續系統導入晶片直接液冷的可行路徑。
我們可以選擇哪些儲存方案?
由原廠代管的 VAST Data、WEKA 或 DDN 儲存設備,每顆 GPU 至少 1 TB 可用容量;或用於執行您自有儲存軟體的儲存節點,每顆 GPU 至少 3 TB 原始容量,最低 9 個節點。
我們可以使用自己的 IP 位址與 ASN 嗎?
可以。邊緣可宣告您自己的前綴與 ASN,遵循您的 RPKI ROA,並使用 BGP 工作階段驗證。
規格書涵蓋 HGX B300 以外的 GPU 嗎?
不涵蓋。它涵蓋的是 HGX B300 伺服器與叢集。其他 GPU 伺服器的配置,會在您的書面提案書中載明。