GPUサーバーとクラスター
NVIDIAサーバーをサーバー単位で、また専用クラスターとして、36カ月、48カ月、60カ月のいずれかの契約期間で提供します。HGX B300サーバー1台から、専用のファブリックとストレージを備えた288ノードのクラスターまで対応します。
当社最大のリファレンスデザインは、288ノードのHGX B300を、レール最適化されたノンブロッキングの単一ファブリックで接続し、クラスター専用のストレージ、CPUノード、コントロールプレーンを備えます。共有するものは一切ありません。他のテナントもハイパーバイザーも存在しません。
空冷式のHGX B300サーバーは、全ラックへのA系・B系電源、ラックごとの契約上の電力上限、その上限まで対応できる冷却能力を確約する施設にのみ設置します。GPUノードあたり約14 kWで計画しています。
各サーバーは、それぞれ270 GBのHBM3eを搭載したBlackwell Ultra GPUを8基備え、GPU同士はNVSwitchを介した第5世代NVLinkで相互に接続されています。さらに、すべてのGPUにクラスターファブリックへの専用の800 Gb/s経路を割り当てます。
3つのリファレンス規模は同一の仕様に基づくため、再設計なしでクラスターを拡張できます。それより大規模なクラスターは個別に設計し、すべての仕様差異には提案書の中で番号を付けます。
| 数値 | 64ノード | 128ノード | 288ノード |
|---|---|---|---|
| NVIDIA B300 GPU | 512 | 1,024 | 2,304 |
| 使用可能なストレージ | 512 TB | 1,024 TB | 2,304 TB |
| IT負荷(約) | 0.98 MW | 1.95 MW | 4.39 MW |
当社と取引のあるAI企業、GPUクラウド事業者、データセンター事業者、通信事業者、ハードウェアメーカー。
サーバーのレンタル、そのサーバー上のソフトウェア運用の委託、パートナー施設へのハードウェア設置、または自社所有のクラスターの運用と顧客確保の委託から選べます。
NVIDIAサーバーをサーバー単位で、また専用クラスターとして、36カ月、48カ月、60カ月のいずれかの契約期間で提供します。HGX B300サーバー1台から、専用のファブリックとストレージを備えた288ノードのクラスターまで対応します。
お客様の専用サーバーにNVIDIA GPU OperatorとNetwork Operatorを使ってKubernetesを導入し、その後の運用、アップグレード、監視を行います。チームのご希望に応じて、マネージドSlurmも提供します。
パートナーデータセンターのスペースと電力を、複数年の契約期間でkW単位で再販します。お客様所有のハードウェアに対して、24/7の運用、リモートハンド、監視を提供します。
サーバーの所有または資金提供はパートナー企業が担います。当社はそのサーバーを展開して運用し、当社の案件パイプラインから顧客を見つけ、契約と請求を行い、サーバーごとの収益を報告します。
提供はサーバー単位のみです。8基のGPUを搭載したHGXシステム、72基のGPUを搭載したラック、推論とメディア向けのPCIeサーバーを扱います。すべての構成は提案書で確定します。
すべてのクラスターは、引き渡し前に推論プロバイダー向けのNVIDIAハードウェア検証(HW-1〜HW-5の5つのテスト)に合格し、お客様には検収テスト報告書をお渡しします。当社がトライアルを行わないのはこのためです。バーンインそのものが証明になります。
当社の運用コミットメントは、暗黙の了解ではなく書面で定めています。以下は、問題の発生と同時に計測が始まる時間と、リスクを伴う作業の前にお客様へお送りする事前通知です。
キャパシティは現在カナダにあり、次はデラウェア州、フィンランドは開発中です。いずれも4大陸49カ所のデータセンターからなるパートナーネットワークの中にあります。データセンターは都市名で示しています。
当社の案件パイプラインには、数千台規模のGPUサーバーの依頼があります。投資家、データセンター所有者、ブローカーが当社と協力して、その需要に応えています。
サイジングガイド、ハードウェア比較、専用サーバーへの移行で何が変わるか。
すべての記事