我們的 HGX B300 交付規格書

我們撰寫的每份 HGX B300 提案書,都以同一份文件 1LG-DEL-SPEC-2026-001 為起點。本頁是它的公開版:每個叢集包含哪些內容、我們建議採用哪些選項,以及為您所做的變更如何記錄。

這是我們 HGX B300 叢集規格書的公開版,文件編號 1LG-DEL-SPEC-2026-001,日期為 2026 年 9 月 24 日。它是我們撰寫每份 HGX B300 提案書的基準:參考叢集規模、節點、儲存與網路,以及叢集隨附的維運承諾。您的叢集若有任何不同之處,都會在提案書中列為編號的偏差項目。

規格書的運作方式

規格書設定基準,您的提案書則將每項與基準不同的變更記錄為編號的偏差項目。文件中的每個項目不是「必要」就是「建議採用」。本頁中,最低要求寫作「至少」或「最低」,建議選項則標示為「建議採用」。

必要

屬於每份 HGX B300 提案書的基準。若您的叢集需要不同的配置,該變更會在提案書中列為編號的偏差項目。

建議採用

當文件允許多個選項時我們建議採用的選項,例如後端網路卡採用 NVIDIA ConnectX-8。

編號偏差項目

針對個別客戶的變更,會以專屬編號寫入您的提案書,讓您的工程師與採購團隊能在簽約前逐項檢查與此基準的差異。

參考叢集規模

規格書定義了三種參考叢集,分別為 64、128 與 288 個 GPU 節點,每種規模都包含相應的 CPU 節點、控制平面與儲存。

1Legion HGX B300 交付規格書中的參考配置。更大規模另行設計。
項目64 個節點128 個節點288 個節點
GPU 節點(每個 8 顆 GPU)64128288
GPU 數量5121,0242,304
CPU 節點2448108
控制平面節點666
儲存:儲存設備方案(可用容量)512 TB1,024 TB2,304 TB
儲存:儲存節點方案9 個節點17 個節點38 個節點
預估 IT 負載約 0.98 MW約 1.95 MW約 4.39 MW

每種參考規模都有六個控制平面節點,規格書將控制平面設定為每 2,304 顆 GPU 配置 6 個節點。兩列儲存項目分別對應下方說明的兩種儲存方案:儲存設備列出可用容量,儲存節點則列出節點數量。

電力規劃

預估 IT 負載依下列規劃值計算:

項目規劃值
GPU 節點約 14 kW(規劃假設值)
CPU 節點1.0 kW
控制平面節點0.5 kW
儲存節點1.3 kW
網路GPU 負載的 5%

以 64 節點規模為例,即 64 個 GPU 節點(每個約 14 kW),加上 24 個 CPU 節點、6 個控制平面節點、9 個儲存節點,以及 GPU 負載 5% 的網路:合計約 0.98 MW。我們依這些數值規劃機房電力,而合約明定的每機櫃最大 kW,是我們對機房最關鍵的要求數字。其餘要求請見我們的資料中心頁面。

運算節點

除了儲存之外,叢集還有三種節點:執行您工作負載的 GPU 節點、負責周邊服務的 CPU 節點,以及負責管理叢集本身的控制平面。

GPU 節點

GPU 節點,取自 1LG-DEL-SPEC-2026-001。
項目規格
平台NVIDIA HGX B300,8 顆 GPU
GPU 記憶體每顆 GPU 270 GB HBM3e,每個節點 2.1 TB,依 NVIDIA 公布的 HGX B300 規格
散熱氣冷,在叢集規模下依 OEM 的建議
CPU至少 128 個 vCPU
系統記憶體建議採用 3 TB;每顆 GPU 至少 240 GB(1.92 TB)
開機硬碟2 x 1 TB NVMe,鏡像配置(建議採用)
本機資料儲存至少 9.2 TB 原始 NVMe 容量,超過 GPU 記憶體的 4 倍
後端網路卡每顆 GPU 800 Gb/s,可為 1 x 800、2 x 400 或 4 x 200 Gb/s;建議採用 NVIDIA ConnectX-8
前端網路卡NVIDIA BlueField-3;建議採用 2 x 400 Gb/s,最低 2 x 200 Gb/s
  • 記憶體。每顆 GPU 配備 270 GB 的 HBM3e,每個節點共有 2.1 TB 的 GPU 記憶體。每顆 GPU 至少 240 GB 的系統記憶體,讓主機有空間為 GPU 暫存資料與模型權重。
  • 本機儲存。原始 NVMe 容量至少為節點 GPU 記憶體的四倍,讓資料集、檢查點與模型檔案就近存放在 GPU 旁。
  • 網路卡。後端網路卡以三種連接埠配置之一,為每顆 GPU 提供進入東西向叢集網路的 800 Gb/s 頻寬。BlueField-3 前端網路卡將節點連接到南北向網路。
  • 散熱。節點採用氣冷,因為 OEM 建議在叢集規模下使用氣冷。

CPU 節點

項目規格
角色GPU 周邊的服務:模型服務、路由、批次作業
規模配置叢集中每顆 GPU 至少對應 6 個硬體執行緒與 24 GB 記憶體
處理器x86,至少 128 個 vCPU,基礎時脈高於 3 GHz
建議採用的 CPUAMD EPYC 9565 或 9575F
記憶體每個執行緒 4 GB
前端網路卡NVIDIA BlueField-3

CPU 節點負責 GPU 周邊的工作,例如模型服務、路由與批次作業,讓 GPU 節點不必承擔這些工作。由於 CPU 節點依 GPU 數量配置,會隨叢集一起擴充:512 顆 GPU 至少需要 3,072 個硬體執行緒,正好由 24 個 128 vCPU 節點提供。

控制平面

項目規格
節點每 2,304 顆 GPU 配置 6 個,分散於兩個機櫃
處理器32 個 vCPU,時脈高於 3.65 GHz;建議採用 AMD EPYC 9175F
記憶體128 GB

控制平面執行叢集的管理服務。其六個節點分散於兩個機櫃,因此不會全部集中在同一個機櫃。

儲存

您可從兩種儲存設計中擇一:由原廠代管的儲存設備(方案 A),或用於執行您自有儲存軟體的儲存節點(方案 B)。

方案 A:儲存設備方案 B:儲存節點
內容依您的偏好,選擇由 VAST Data、WEKA 或 DDN 原廠代管的儲存設備用於執行您自有儲存軟體的儲存節點
容量每顆 GPU 至少 1 TB 可用容量每顆 GPU 至少 3 TB 原始容量
硬碟原廠支援的設計30.72 TB NVMe PCIe 5.0;支援自我加密硬碟
參考規模下可用容量 512、1,024 或 2,304 TB9、17 或 38 個節點,最低 9 個

採用方案 A 時,規格書中的儲存設備服務包括:具 24/7 升級處理的原廠支援設計、各層級承諾的輸送量與延遲、可查看的用量與配額,以及經過測試的復原機制。方案 B 適合已在執行自有儲存軟體,並希望以原始容量支撐該軟體的團隊。

叢集網路與邊緣網路

每個叢集都有專屬的東西向叢集網路承載 GPU 之間的流量,也有專屬的南北向網路;在邊緣,叢集享有備援的 IP Transit、DDoS 流量清洗、NAT 與專屬公用 IP 位址。

東西向叢集網路

項目規格
拓撲軌道最佳化,完全無阻塞
每顆 GPU 的頻寬1 x 800 或 2 x 400 Gb/s 網路平面
交換器(建議採用)NVIDIA Spectrum-X 或 Broadcom Tomahawk 6
交換器(可接受)NVIDIA Quantum InfiniBand 或 Broadcom Tomahawk 5
租戶模式專屬於單一客戶

軌道最佳化是指每個節點中各個位置的 GPU,都連接到自己的一組交換器,也就是它的軌道,讓對應位置 GPU 之間的路徑保持簡短。完全無阻塞是指叢集網路能同時承載每顆 GPU 的完整頻寬,交換器層級之間沒有超額訂閱。

軌道最佳化的東西向叢集網路:每個節點中的每個 GPU 位置,都有自己的一條交換器軌道。

南北向網路

項目規格
每個節點的頻寬建議採用 400 Gb/s,最低 200 Gb/s
儲存葉交換器無超額訂閱
GPU 葉交換器超額訂閱比低於 4:1
傳輸協定支援 RoCEv2
MTU9000
租戶模式專屬

超額訂閱比,是葉交換器提供給節點的頻寬與其上行鏈路頻寬之間的比例。儲存葉交換器沒有超額訂閱,因此讀取與檢查點寫入不會受上行鏈路拖累;GPU 葉交換器則維持在 4:1 以下。RoCEv2 在這個乙太網路上承載 RDMA,而 9000 的 MTU(巨型訊框)可降低大型傳輸時每個封包的額外負擔。

邊緣與網際網路服務

項目規格
IP Transit兩家獨立供應商,每條線路 100 Gb/s,走實體分離的路徑
路由eBGP 搭配 BFD;一分鐘內完成容錯移轉
邊緣路由器兩台,互為備援,採 A/B 雙路供電
邊緣 ACL依您的規則設定;一個工作天內完成變更
DDoS 防護由成熟供應商提供第 3 層與第 4 層的流量型清洗,透過 BGP 於 5 分鐘內啟動,容量至少 1 Tb/s
NAT 與傳出流量備援 HA 配對,至少 1,000 萬個並行工作階段,專屬 SNAT 位址(通常四個)
公用服務位址專屬(通常八個);您可透過 BGP 宣告 VIP;5 秒內完成容錯移轉;IPv6 雙堆疊
您的 IP 位址空間與 ASN邊緣可宣告您的前綴與 ASN;遵循 RPKI ROA;BGP 工作階段驗證
網路遙測兩台邊緣路由器皆將 NetFlow v9 或 IPFIX 傳送至您的收集器
  • IP Transit 與路由。兩家獨立供應商走實體分離的路徑,因此單一線路被切斷或單一供應商中斷,都不會成為單點故障。BFD 能快速偵測失效的連結,eBGP 則在一分鐘內切換到另一家供應商。
  • 邊緣路由器。兩台互為備援的路由器採 A/B 雙路供電,因此邊緣不會依賴單一路由器或單一供電線路。
  • 邊緣 ACL。邊緣的存取控制清單依您的規則設定,我們會在一個工作天內完成變更。
  • DDoS 防護。第 3 層與第 4 層的流量型攻擊,會透過 BGP 導向成熟的清洗服務供應商。清洗在 5 分鐘內啟動,容量至少 1 Tb/s。
  • NAT 與傳出流量。對外流量經由一組備援配對送出,可維持至少 1,000 萬個並行工作階段,並使用僅供您使用的 SNAT 位址,讓合作夥伴能將您的流量加入允許清單。
  • 公用服務位址。通常為您的服務提供八個專屬位址。您可透過 BGP 宣告虛擬 IP,容錯移轉在 5 秒內完成,IPv6 則以雙堆疊方式運作。
  • 您的 IP 位址空間與 ASN。若您擁有自己的前綴與 ASN,邊緣可以宣告它們。我們遵循您的 RPKI 路由來源授權(ROA),它會告訴其他網路哪個 ASN 可以作為您前綴的起源;BGP 工作階段也經過驗證。
  • 網路遙測。兩台邊緣路由器都會將 NetFlow v9 或 IPFIX 流量紀錄傳送到您的收集器,讓您看到自己的流量。

交付後的維運

規格書也涵蓋交付前後的事項:交付前的燒機測試,以及交付後的書面維運承諾。

交付前,每個叢集都會通過 NVIDIA 為推論服務供應商制定的硬體驗證(HW-1 至 HW-5 測試),結果會以驗收報告交給您。我們的燒機與驗收頁面說明每項測試證明什麼。

交付後,規格書第 15 節說明我們如何維運叢集,首先是以下承諾:

承諾數值
確認事件並指派事件指揮官15 分鐘內
事件未結案期間的更新至少每 60 分鐘
網路維運團隊介入處理,不分時段15 分鐘內
機房工程人員或現場代操作人員介入處理45 分鐘內
影響客戶的事件後提交書面事後檢討報告7 天內
高風險計畫性維護前的事先通知至少 7 天

完整清單(包括資產清冊、變更管理與硬體故障處理)請見我們的維運承諾頁面。頻外硬體遙測資料透過 Redfish 從 BMC 取得,並在可取得時納入網路與機房遙測。維運遙測資料至少保存 30 天,事件與狀態歷史至少保存 12 個月。

下載規格書

買方常見問題

什麼是 1LG-DEL-SPEC-2026-001?

這是 1Legion 的 HGX B300 交付規格書,日期為 2026 年 9 月 24 日,也是我們撰寫每份 HGX B300 提案書的基準。本頁是它的公開版。

規格書可以針對我們的叢集調整嗎?

可以。針對個別客戶的變更會以編號偏差項目寫入您的提案書,讓您看清叢集與基準不同的每一處。

GPU 節點採用氣冷還是液冷?

在叢集規模下,HGX B300 節點依 OEM 的建議採用氣冷。我們要求機房具備為 GB300 NVL72 及後續系統導入晶片直接液冷的可行路徑。

我們可以選擇哪些儲存方案?

由原廠代管的 VAST Data、WEKA 或 DDN 儲存設備,每顆 GPU 至少 1 TB 可用容量;或用於執行您自有儲存軟體的儲存節點,每顆 GPU 至少 3 TB 原始容量,最低 9 個節點。

我們可以使用自己的 IP 位址與 ASN 嗎?

可以。邊緣可宣告您自己的前綴與 ASN,遵循您的 RPKI ROA,並使用 BGP 工作階段驗證。

規格書涵蓋 HGX B300 以外的 GPU 嗎?

不涵蓋。它涵蓋的是 HGX B300 伺服器與叢集。其他 GPU 伺服器的配置,會在您的書面提案書中載明。

告訴我們您需要執行什麼。

請提供硬體、伺服器數量、合約期與開始日期。您將收到以我們交付規格書為基礎的書面提案書。