自社専用のGPUクラスター。

1LegionはベアメタルGPUクラウドです。専用のNVIDIA GPUサーバーとクラスターを、36〜60カ月の契約期間でレンタル提供しています。公開仕様に沿って構築し、引き渡し前にバーンインを実施したうえで、書面による運用コミットメントのもとで運用します。

トロントで割り当て受付中
HGX B300
GPUあたりのHBM3e
270 GB
GPUあたりのEast-Westネットワーク
800 Gb/s
契約期間、一律の固定料金
36〜60カ月

1Legionクラスターの内部

クラスター全体を1社のお客様専用に

当社最大のリファレンスデザインは、288ノードのHGX B300を、レール最適化されたノンブロッキングの単一ファブリックで接続し、クラスター専用のストレージ、CPUノード、コントロールプレーンを備えます。共有するものは一切ありません。他のテナントもハイパーバイザーも存在しません。

GPUノード
288
NVIDIA B300 GPU
2,304
推定IT負荷(約)
4.39 MW

2系統の電源を備えたラック

空冷式のHGX B300サーバーは、全ラックへのA系・B系電源、ラックごとの契約上の電力上限、その上限まで対応できる冷却能力を確約する施設にのみ設置します。GPUノードあたり約14 kWで計画しています。

GPUノードあたり(計画値)
14 kW
ラックあたりの独立した電源系統
2
ノードあたりのローカルNVMe(最低)
9.2 TB

8基のGPU、1つのNVLinkドメイン

各サーバーは、それぞれ270 GBのHBM3eを搭載したBlackwell Ultra GPUを8基備え、GPU同士はNVSwitchを介した第5世代NVLinkで相互に接続されています。さらに、すべてのGPUにクラスターファブリックへの専用の800 Gb/s経路を割り当てます。

サーバーあたりのHBM3e
2.1 TB
GPUあたりのNVLink
1.8 TB/s
GPUあたりのファブリック帯域幅
800 Gb/s

64ノードで始め、288ノードまで拡張。

3つのリファレンス規模は同一の仕様に基づくため、再設計なしでクラスターを拡張できます。それより大規模なクラスターは個別に設計し、すべての仕様差異には提案書の中で番号を付けます。

数値64ノード128ノード288ノード
NVIDIA B300 GPU5121,0242,304
使用可能なストレージ512 TB1,024 TB2,304 TB
IT負荷(約)0.98 MW1.95 MW4.39 MW

お客様とパートナー

当社と取引のあるAI企業、GPUクラウド事業者、データセンター事業者、通信事業者、ハードウェアメーカー。

  • Akash Network
  • Vast.ai
  • Viggle AI
  • Dell Technologies
  • AudioShake
  • DDN
  • WEKA
  • Hewlett Packard Enterprise
  • Massed Compute
  • Compute Exchange
  • Zayo
  • Supermicro
  • Cogent
  • eStruxture Data Centers
  • Enovum Data Centers
  • Lenovo
  • CloudRift
  • Cocoon
  • Skyportal
  • Cisco
  • GenAI Works
  • DVEO
  • Computer Modules
  • ASUS
  • WiseDV
  • ISS Intelligent Security Systems
  • Templus
  • GIGABYTE
  • UK Servers
  • Glide
  • Inflect
  • Aivres
  • PodWarden
  • Ignite
  • Dacentec
  • AMAX

1つの事業者、4つの取引形態

サーバーのレンタル、そのサーバー上のソフトウェア運用の委託、パートナー施設へのハードウェア設置、または自社所有のクラスターの運用と顧客確保の委託から選べます。

GPUサーバーとクラスター

NVIDIAサーバーをサーバー単位で、また専用クラスターとして、36カ月、48カ月、60カ月のいずれかの契約期間で提供します。HGX B300サーバー1台から、専用のファブリックとストレージを備えた288ノードのクラスターまで対応します。

マネージドKubernetes

お客様の専用サーバーにNVIDIA GPU OperatorとNetwork Operatorを使ってKubernetesを導入し、その後の運用、アップグレード、監視を行います。チームのご希望に応じて、マネージドSlurmも提供します。

コロケーションと運用

パートナーデータセンターのスペースと電力を、複数年の契約期間でkW単位で再販します。お客様所有のハードウェアに対して、24/7の運用、リモートハンド、監視を提供します。

GPU投資家向けの運用

サーバーの所有または資金提供はパートナー企業が担います。当社はそのサーバーを展開して運用し、当社の案件パイプラインから顧客を見つけ、契約と請求を行い、サーバーごとの収益を報告します。

当社が展開するNVIDIAサーバー

提供はサーバー単位のみです。8基のGPUを搭載したHGXシステム、72基のGPUを搭載したラック、推論とメディア向けのPCIeサーバーを扱います。すべての構成は提案書で確定します。

割り当て受付中Blackwell Ultra

NVIDIA HGX B300

それぞれ270 GBのHBM3eを搭載したBlackwell Ultra GPUを8基備え、GPUあたり800 Gb/sのネットワークを提供します。サーバー単位または専用クラスターとしてレンタルでき、当社が公開する納品仕様書に沿って構築します。

サーバーあたりのGPU数
8
GPUあたりのメモリ
270 GB HBM3e
サーバーあたりのFP4性能
108 PFLOPS(密)
GPUあたりのネットワーク
800 Gb/s

すべてのGPUサーバーを見る

引き渡し前にテストを完了

すべてのクラスターは、引き渡し前に推論プロバイダー向けのNVIDIAハードウェア検証(HW-1〜HW-5の5つのテスト)に合格し、お客様には検収テスト報告書をお渡しします。当社がトライアルを行わないのはこのためです。バーンインそのものが証明になります。

  1. HW-1集団通信スループット:nccl-testsでベースラインのNCCLスループットを測定します。ファブリックが対応している場合は、SHARPで高速化した集団通信も対象とします。
  2. HW-2すべてのネットワークレール:InfiniBandまたはRoCEのすべてのレールをib_write_bwでテストします。
  3. HW-3GPUDirectとストレージ:NVMeの読み書きを含め、GPUDirect RDMAとストレージのスモークテストを実施します。
  4. HW-4NVLinkとNVSwitch:NVLinkとNVSwitchのリンク数と帯域幅をnvbandwidthで確認します。
  5. HW-524時間連続負荷テスト:代表的な推論負荷のもと、電力上限を一定に保った状態で24時間の連続負荷テストを実施します。
バーンインと検収の仕組み
burn-in hgx-b300 node 0172, 8 GPUs 表示例
  1. HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
  2. HW-2 ib_write_bw, every rail queuedrunningpass
  3. HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
  4. HW-4 nvbandwidth queuedrunningpass
  5. HW-5 24 h, inference load, power cap queuedrunningpass
  6. acceptance report issued to customer

応答時間を書面で

当社の運用コミットメントは、暗黙の了解ではなく書面で定めています。以下は、問題の発生と同時に計測が始まる時間と、リスクを伴う作業の前にお客様へお送りする事前通知です。

  1. 5分インベントリと状態の変化をお客様が確認できます。DDoSスクラビングが作動します。
  2. 15分インシデントの受付を確認し、インシデントコマンダーを任命して、ネットワーク運用チームが対応に加わります。
  3. 45分施設のエンジニアまたはリモートハンドが問題に対応しています。
  4. 60分インシデントが未解決の間は、1時間に1回以上、状況をお知らせします。
  5. 7日書面によるポストモーテム(事後報告書)を提出し、リスクを伴うメンテナンスは7日前までに事前通知します。

運用コミットメントを読む

お客様のサーバーが稼働する場所

キャパシティは現在カナダにあり、次はデラウェア州、フィンランドは開発中です。いずれも4大陸49カ所のデータセンターからなるパートナーネットワークの中にあります。データセンターは都市名で示しています。

  • トロントカナダ 稼働中 NVIDIA HGX B300サーバーとクラスター。
  • モントリオールカナダ 稼働中 RTX PRO 6000 Blackwellなどの推論サーバー。オンサイトのエンジニアリングサポート付き。
  • デラウェア州米国 稼働準備中 計算資源を米国内に置く必要があるお客様向けのHGX B300キャパシティ。
  • ヘルシンキフィンランド 開発中 欧州における将来のキャパシティに向けて開発中の、ブラウンフィールド型のデータセンター用地。
  • パートナーネットワーク26都市、12カ国 データセンター49カ所 北米、欧州、アフリカ、オーストラリアにまたがり、電力容量は313 MW以上です。すべての都市を見る
データセンター

当社単独では展開しきれないほどの需要

当社の案件パイプラインには、数千台規模のGPUサーバーの依頼があります。投資家、データセンター所有者、ブローカーが当社と協力して、その需要に応えています。

実行したいワークロードをお知らせください。

ハードウェア、サーバー台数、契約期間、開始日をお知らせください。当社の納品仕様書に基づいた提案書をお送りします。