割り当て受付中または予約制のサーバー
それぞれ270 GBのHBM3eを搭載したBlackwell Ultra GPUを8基備え、GPUあたり800 Gb/sのネットワークを提供します。サーバー単位または専用クラスターとしてレンタルでき、当社が公開する納品仕様書に沿って構築します。
- サーバーあたりのGPU数
- 8
- GPUあたりのメモリ
- 270 GB HBM3e
- サーバーあたりのFP4性能
- 108 PFLOPS（密）
- GPUあたりのネットワーク
- 800 Gb/s
- GPUあたりのメモリ
- 180 GB HBM3e
- サーバーあたりのGPU数
- 8
- GPUあたりのメモリ
- 279 GB HBM3e
- ラックあたりのGPU数
- 72
- GPUあたりのメモリ
- 288 GB HBM4
- サーバーあたりのGPU数
- 8
- GPUあたりのメモリ
- 96 GB GDDR7
- サーバーあたりのGPU数
- 8
ご要望に応じて提供
同じ契約条件でレンタルできる、さらに7機種のNVIDIAサーバーです。見積もりのご依頼時に機種をご指定いただければ、提案書で構成と設置場所を確定します。
| サーバー | アーキテクチャ | GPUあたりのメモリ | サーバーあたりのGPU数 | 適した用途 |
|---|---|---|---|---|
| NVIDIA L40S | Ada Lovelace | 48 GB GDDR6 | 8基のGPU（サーバーあたり） | 推論とファインチューニング |
| NVIDIA GeForce RTX 5090 | Blackwell | 32 GB GDDR7 | 8基のGPU（サーバーあたり） | グラフィックス、メディア、小規模モデル |
| NVIDIA GeForce RTX 4090 | Ada Lovelace | 24 GB GDDR6X | 8基のGPU（サーバーあたり） | グラフィックス、メディア、小規模モデル |
| NVIDIA A100 80GB | Ampere | 80 GB HBM2e | 8基のGPU（サーバーあたり） | 学習と大規模推論 |
| NVIDIA RTX A6000 | Ampere | 48 GB GDDR6 | 8基のGPU（サーバーあたり） | グラフィックス、メディア、小規模モデル |
| NVIDIA RTX 4000 Ada Generation | Ada Lovelace | 20 GB GDDR6 | 4基のGPU（サーバーあたり） | グラフィックス、メディア、小規模モデル |
| NVIDIA RTX A4000 | Ampere | 16 GB GDDR6 | 4基のGPU（サーバーあたり） | グラフィックス、メディア、小規模モデル |
1LegionのGPUサーバーレンタルでは、NVIDIAサーバーを丸ごと、またはそのクラスターを、お客様だけが使用します。ハイパーバイザーもGPUの共有もありません。上のカタログには、8基のGPUを搭載したHGX B300から4基のGPUを搭載したRTX A4000まで、12機種を掲載しています。いずれも36カ月、48カ月、60カ月のいずれかの期間、提案書で定める一律の固定料金でレンタルします。
ベアメタルGPUサーバーのレンタル方式
専用GPUサーバーを丸ごと長期契約でレンタルし、すべての価格はご契約前に提案書で提示します。
サーバー単位のレンタルのみ
HGXサーバーとPCIeサーバーは8基、RTX 4000 AdaとRTX A4000のサーバーは4基のGPUを搭載し、GB300 NVL72は72基のGPUを搭載したラックで提供します。サーバーを複数のお客様で分割することはありません。
36カ月、48カ月、60カ月
契約期間が長いほど料金は低くなります。GPUサーバーの1年または2年のレンタル、月単位のレンタル、短期レンタルは提供していません。
トライアルに代わるバーンイン
トライアルやPoC（概念実証）は提供していません。すべてのクラスターは引き渡し前にNVIDIAのハードウェア検証テストHW-1〜HW-5に合格しており、その結果は検収テスト報告書でお受け取りいただけます。
専用ハードウェアによって本番環境で何が変わるかは、ベアメタルと共有GPUインフラの比較で説明しています。
GPUサーバーの4つのカテゴリ
カタログは、ハードウェアの設計用途によって、学習、ラックスケールシステム、推論、グラフィックスとメディアの4つのグループに分かれます。
| カテゴリ | サーバー | ステータス | 設計用途 |
|---|---|---|---|
| 学習 | HGX B300、HGX B200、Vera Rubin | 割り当て受付中（B300、B200）、予約制（Vera Rubin） | 事前学習、事後学習、大規模モデルの推論 |
| ラックスケール | GB300 NVL72 | 予約制 | 72基のGPUによる単一のNVLinkドメインで実行する最大規模のジョブ |
| 推論 | RTX PRO 6000 Blackwell、L40S | 割り当て受付中（RTX PRO 6000）、要相談（L40S） | GPUあたり96 GBまたは48 GBに収まるモデルのサービングとファインチューニング |
| グラフィックスとメディア | RTX 5090、RTX 4090、RTX A6000、RTX 4000 Ada、RTX A4000 | 要相談 | レンダリング、VFX、トランスコード、画像・動画生成 |
HGXボードに8基のGPUを搭載したA100 80GB SXMサーバーも、ご要望に応じて提供します。
学習：HGX B300とHGX B200
HGX B300は当社の主力製品です。8基のBlackwell Ultra GPUがそれぞれ270 GBのHBM3eを搭載し（サーバーあたり2.1 TB）、GPUあたり1.8 TB/sの第5世代NVLinkで接続されています。当社のリファレンスGPUクラスターはこのサーバーを基に、GPUあたり800 Gb/sのファブリックで構築しています。HGX B200はGPUあたり180 GB、サーバーあたり1,440 GBのHBM3eを搭載し、はるかに高い倍精度性能を維持しています。NVIDIAの公表値では、FP64性能は8基のGPUを搭載したボードあたり296 TFLOPSで、HGX B300は10 TFLOPSです。シミュレーションなどのFP64処理をAIと同じクラスターで実行する場合はB200をお選びください。8 x 270GB：B300ノードに何が収まるかでは、405Bと70Bのモデルについて検討しています。
予約制：GB300 NVL72とVera Rubin
GB300 NVL72は、72基のBlackwell Ultra GPUと36基のGrace CPUを単一のNVLinkドメインに収めた液冷式のラックで、NVIDIAの公表値では20 TBのHBM3eと合計130 TB/sのNVLink帯域幅を備えます。Vera RubinはNVIDIAの次世代プラットフォームで、Rubin GPUあたり288 GBのHBM4を搭載します。当社はRubinサーバーを発注済みです。いずれも予約制です。当社の施設要件には、GB300 NVL72以降のシステム向けに、ダイレクト・ツー・チップ方式の液冷への移行経路も含まれます。
推論：RTX PRO 6000 BlackwellとL40S
RTX PRO 6000 Blackwellサーバーは、それぞれ96 GBのGDDR7を備えた8基のGPU（サーバーあたり768 GB）を搭載し、モントリオールから提供します。L40Sサーバーは、それぞれ48 GBのGDDR6を備えた8基のGPUを搭載します。どちらのカードにもNVLinkはないため、GPU間のデータ交換はPCIeを介して行います。そのため、FP8の70Bモデルを96 GBのカード1枚で動かす場合のように、各レプリカが1基または少数のGPUに収まるモデルに適しています。メモリの計算については、8 x 96GB：RTX PRO 6000 Blackwellノードに何が収まるかで詳しく説明しています。
グラフィックスとメディア：GeForceとRTXワークステーションカード
RTX 5090（32 GB）、RTX 4090（24 GB）、RTX A6000（48 GB）のサーバーは8基、RTX 4000 Ada（20 GB）とRTX A4000（16 GB）のサーバーは4基のGPUを搭載しています。
ステータス表示の意味
各サーバーには3種類のステータスのいずれかが表示され、そのハードウェアの現在の状況を示しています。
| ステータス | 意味 | サーバー |
|---|---|---|
| 割り当て受付中 | 現在ご注文を受け付けています。納品スケジュールは提案書で定めます。 | HGX B300、HGX B200、RTX PRO 6000 Blackwell |
| 予約制 | 展開に先立ち予約を受け付けています。時期は書面で確定します。 | GB300 NVL72、Vera Rubin |
| 要相談 | お客様の要件に合わせて構成し、提案書で確定します。 | L40S、RTX 5090、RTX 4090、A100 80GB、RTX A6000、RTX 4000 Ada、RTX A4000 |
GPUサーバーの選び方
選択肢は4つの問いで絞り込めます。各GPUに必要なメモリ量、GPU同士の通信方法、ジョブが何台のサーバーにまたがるか、そしてワークロードの種類です。
GPUあたりのメモリ
何が収まるかはメモリで決まります。重みに加えて、推論ではKVキャッシュ、学習ではオプティマイザーの状態とアクティベーションをGPUメモリに置く必要があり、FP8の70Bパラメーターモデルでは重みだけで約70 GBが必要です。各メモリ容量でKVキャッシュにどれだけ残るかは、70GBの重みと4基のGPUで紹介しています。
| サーバー | GPUあたりのメモリ | サーバーあたりのGPU数 | サーバーあたりのメモリ |
|---|---|---|---|
| HGX B300 | 270 GB | 8 | 2.1 TB |
| HGX B200 | 180 GB | 8 | 1,440 GB |
| RTX PRO 6000 Blackwell | 96 GB | 8 | 768 GB |
| A100 80GB SXM | 80 GB | 8 | 640 GB |
| L40S | 48 GB | 8 | 384 GB |
| RTX A6000 | 48 GB | 8 | 384 GB |
| RTX 5090 | 32 GB | 8 | 256 GB |
| RTX 4090 | 24 GB | 8 | 192 GB |
| RTX 4000 Ada | 20 GB | 4 | 80 GB |
| RTX A4000 | 16 GB | 4 | 64 GB |
| GB300 NVL72 | 279 GB | ラックあたり72基 | ラックあたり約20 TB |
インターコネクト
単一のモデルを複数のGPUに分割する場合、処理速度を決めるのはGPU間の帯域幅です。HGX B300とB200のサーバーは各GPUに1.8 TB/sのNVLinkを提供し、GB300 NVL72は72基のGPUを単一のNVLinkドメインに統合します。一方、PCIeサーバーはPCIeバスに依存し、L40Sでは64 GB/sです。サーバー間では、HGX B300クラスターがGPUあたり800 Gb/sのレール最適化された完全ノンブロッキングのファブリックを使用します。
クラスター規模
単一のサーバーを超える規模では、当社のリファレンスクラスターが64ノード、128ノード、288ノードのいずれかのHGX B300ノードで構成され、単一の専用ファブリック上で最大2,304基のGPUを接続します。設計はさらに大規模な構成にも対応します。詳しくはGPUクラスターと納品仕様書をご覧ください。
ワークロード
AI推論
最大規模のモデルと最長のコンテキストにはB300、FP8またはFP4の70BクラスのモデルにはRTX PRO 6000 Blackwell、より小規模なモデルにはL40S。
メディア・エンターテインメント
RTX PRO 6000 Blackwell、L40S、GeForceおよびRTXワークステーションカードによるレンダリング、VFX、バーチャルプロダクション、トランスコード。
サーバーの設置場所
現在、トロントとモントリオールでGPUサーバーを運用しています。デラウェア州ではHGX B300のキャパシティが稼働準備中で、フィンランドでは用地を開発中です。さらに、4大陸のより多くの都市にパートナーデータセンターのネットワークがあります。
トロント
稼働中NVIDIA HGX B300サーバーとクラスター。
モントリオール
稼働中RTX PRO 6000 Blackwellなどの推論サーバー。オンサイトのエンジニアリングサポート付き。
デラウェア州
稼働準備中計算資源を米国内に置く必要があるお客様向けのHGX B300キャパシティ。
ヘルシンキ
開発中欧州における将来のキャパシティに向けて開発中の、ブラウンフィールド型のデータセンター用地。
パートナーネットワーク：北米、欧州、アフリカ、オーストラリアの26都市にある49カ所のデータセンター。 すべての拠点を見る
設置場所の選定方法はデータセンターで、カナダの拠点についてはカナダのGPUクラウドで説明しています。
導入検討時のよくあるご質問
GPUサーバーの最小レンタル単位は何ですか？
サーバー1台を丸ごと36カ月です。ほとんどのサーバーは8基のGPUを搭載し、RTX 4000 AdaとRTX A4000のサーバーは4基を搭載しています。
GPU単体やサーバーの一部だけをレンタルすることはできますか？
いいえ。サーバーは丸ごとレンタルし、複数のお客様で分割することはないため、サーバー内のすべてのGPU、NIC、ドライブはお客様の処理だけを実行します。
これらはベアメタルサーバーですか？
はい。各サーバーはハイパーバイザーのないシングルテナントで、当社のHGX B300クラスターは単一のお客様専用のファブリック上で稼働します。
H100やH200のサーバーは提供していますか？
いいえ。当社の学習向けラインナップはHGX B300とHGX B200です。世代を比較している場合は、B300とH200の比較：ワークロードに必要なノードの選び方をお読みください。
GPUサーバーはどこに設置されていますか？
HGX B300サーバーはトロントで、RTX PRO 6000 Blackwellなどの推論サーバーはモントリオールで稼働しています。米国デラウェア州のHGX B300キャパシティは稼働準備中で、フィンランドの用地は開発中です。
価格はどのように確認できますか？
見積もりを依頼してください。ハードウェア、サーバー台数、契約期間、設置場所に応じた提案書を提出します。価格は公開していません。