このGPUインフラ用語集では、GPUサーバーの仕様、クラスター設計、データセンター要件、契約に登場する用語を定義しています。当サイトのページで詳しく扱っているテーマについては、定義からそのページにリンクしています。
A
検収テスト報告書Acceptance report
サーバーまたはクラスターが引き渡し前に合格したテストとその結果を記録した文書です。1Legionのすべてのクラスターには、NVIDIAのハードウェア検証テストHW-1〜HW-5を対象とする検収テスト報告書が付属します。詳しくはバーンインと検収をご覧ください。
ASN
Autonomous System Number（自律システム番号）の略で、地域インターネットレジストリを通じて割り当てられ、ネットワークがBGPで他のネットワークと経路を交換する際に使う識別子です。当社の納品仕様書に沿って構築したHGX B300クラスターでは、エッジから自社のIPプレフィックスを自社のASNで広報できます。詳しくはストレージとネットワークをご覧ください。
B
ベアメタルBare metal
単一の顧客専用の物理サーバーで、ワークロードとハードウェアの間にハイパーバイザーがないため、顧客はそのサーバーのCPU、メモリ、GPU、ネットワークインターフェースをすべて利用できます。1LegionのGPUサーバーはすべてこの形態で、サーバー単位でレンタルしています。
BGP
Border Gateway Protocolの略で、インターネット上でネットワーク同士が到達性情報を交換するために使うルーティングプロトコルです。当社のHGX B300のエッジは、各トランジット事業者との間で外部BGP（eBGP）を運用し、双方向フォワーディング検出（BFD）によって、リンクがダウンしたときに1分以内にフェイルオーバーします。詳しくはストレージとネットワークをご覧ください。
Blackwell Ultra
HGX B300とGB300 NVL72に採用されているNVIDIAのGPUアーキテクチャです。Blackwell（B200）と比べて、GPUあたりのHBM3eが多く、FP4（密）のスループットも高い一方、FP64のスループットは大幅に低いため、倍精度のHPCではなくAI学習と推論に向けて設計されています。
BlueField-3
NVIDIAのデータ処理ユニット（DPU）で、独自のArmコアを備え、ネットワーク、ストレージ、セキュリティの処理をホストCPUからオフロードできるネットワークアダプターです。当社のHGX B300向け納品仕様書では、GPUノードとCPUノードのフロントエンドネットワークインターフェースとしてBlueField-3を採用しています。GPUノードでは2 x 400 Gb/sを推奨し、2 x 200 Gb/sを最低要件としています。
バーンインBurn-in
新しいハードウェアを稼働前に持続的な負荷のもとで動作させ、初期故障がお客様のワークロードの稼働前に起きるようにすることです。1Legionは、代表的な推論負荷のもとでの24時間連続負荷テストを含むNVIDIAのハードウェア検証テストHW-1〜HW-5で、すべてのクラスターのバーンインを実施します。詳しくはバーンインと検収をご覧ください。
C
コロケーションColocation
自社が所有するサーバーのために、データセンターのスペース、電力、冷却、接続環境を借りることです。価格は電力のkW単位で設定されることが多くあります。1Legionはパートナー施設のコロケーションを複数年の契約期間で再販しています。詳しくはコロケーションと運用をご覧ください。
ConnectX-8
最大800 Gb/sの帯域幅を持ち、InfiniBandとEthernetのどちらでも動作するNVIDIAのSuperNICです。当社の納品仕様書では、HGX B300ノードのバックエンド（East-West）ネットワーク用として、GPUあたり800 Gb/sでの使用を推奨しています。
コントロールプレーンControl plane
Kubernetes APIサーバーとetcd、あるいはSlurmコントローラーなど、クラスターの管理サービスを実行するサーバーで、ワークロードを実行するノードとは分離されています。当社のHGX B300クラスターでは、コントロールプレーンノードをGPU 2,304基あたり6ノード配置し、2ラックに分散しています。詳しくは納品仕様書をご覧ください。
CPUノードCPU node
GPUを搭載せず、モデルサービングのフロントエンド、リクエストルーティング、バッチジョブなど、GPUノードの周辺サービスを実行するサーバーです。当社のHGX B300クラスターでは、クラスター内のGPUごとに、CPUノード上で6以上のハードウェアスレッドと24 GB以上のメモリを提供します。詳しくはGPUクラスターをご覧ください。
D
データセンターティアData center tier
データセンターの電源と冷却がどの程度の冗長性を備えているかを示す格付けです。最もよく知られているのはUptime InstituteのTier I〜Tier IVで、設計文書、竣工した施設、運用の持続性について個別に認証されます。TIA-942とEN 50600にも、それぞれ独自の4段階の格付けがあります。詳しくはセキュリティとコンプライアンスをご覧ください。
DDoSスクラビングDDoS scrubbing
分散型サービス妨害（DDoS）攻撃を受けている間、トラフィックを事業者のフィルタリング設備に通して攻撃トラフィックを除去し、正常なトラフィックだけをネットワークに届けることです。当社のHGX B300仕様では、レイヤー3・4のボリューム型攻撃に対するスクラビングをBGP経由で5分以内に有効化し、1 Tb/s以上のキャパシティを確保しています。詳しくはストレージとネットワークをご覧ください。
頭金Down payment
顧客が契約締結時に支払う金額です。1Legionでは契約締結時に頭金をお支払いいただき、残額は契約期間を通じて一律の固定料金で月次請求します。また、大規模な割り当てでは、銀行保証や信用状（L/C）などの支払保証が必要になる場合があります。詳しくは導入の流れをご覧ください。
E
East-WestファブリックEast-west fabric
クラスターのGPUノード間を結ぶネットワークで、分散学習と分散推論の集団通信を担います。当社のHGX B300クラスターでは、レール最適化された完全ノンブロッキング構成で、GPUあたり800 Gb/sで動作し、単一のお客様専用です。詳しくはGPUクラスターをご覧ください。
ECCエラーECC error
誤り訂正符号（ECC）によって検出されるメモリエラーです。シングルビットエラーはその場で訂正されますが、ダブルビットエラーは訂正できません。そのため1Legionは、GPUでダブルビットエラーが発生した場合は致命的な障害として扱い、直ちにハードウェアを隔離します。詳しくは運用コミットメントをご覧ください。
エグレスEgress
計算結果、チェックポイント、お客様が外部に移すメディアなど、事業者のネットワークから出ていくデータです。多くのクラウドはギガバイト単位で課金しますが、導入の流れで説明しているとおり、1Legionの契約にエグレス料金はかかりません。
F
FP4
モデルの重み（場合によってはアクティベーションも）をFP8の半分のメモリで格納する4ビット浮動小数点形式で、精度はある程度犠牲になります。NVIDIA BlackwellのTensorコアはこの形式をハードウェアで実行し、精度を保つためにきめ細かなスケーリングを加えたNVIDIAの派生形式NVFP4にも対応しています。詳しくはAI推論向けGPUサーバーをご覧ください。
FP8
E4M3とE5M2の形式がある8ビット浮動小数点形式で、FP16やBF16と比べて値あたりのメモリを半分にします。NVIDIA Ada Lovelace、Hopper、BlackwellのGPUのTensorコアが、学習と推論でこの形式を実行します。詳しくはAI推論向けGPUサーバーをご覧ください。
G
GB300 NVL72
72基のBlackwell Ultra GPUと36基のGrace CPUを単一のNVLinkドメインに統合し、全体を液冷で冷却するNVIDIAのラックスケールシステムです。1Legionは72基のGPUを搭載したラックを丸ごと、予約制でレンタルしています。詳しくはNVIDIA GB300 NVL72をご覧ください。
GDDR7
NVIDIAのBlackwell世代RTXカードに採用されているグラフィックスメモリの世代です。HBMのようにGPUの隣に積層するのではなく、GPUの周囲の回路基板上に実装されます。RTX PRO 6000 Blackwellは96 GBのGDDR7を、GeForce RTX 5090は32 GBを搭載しています。
GPU Operator
すべてのGPUノードで、GPUドライバー、コンテナツールキット、デバイスプラグイン、監視コンポーネントをインストールして管理する、NVIDIAのKubernetesオペレーターです。当社のマネージドKubernetesサービスでは、NVIDIA Network Operatorとあわせてインストールします。
GPUDirect RDMA
ネットワークアダプターが、ホストメモリを介したデータのコピーなしにGPUメモリを直接読み書きできるようにするNVIDIAのテクノロジーです。異なるノード上のGPU間の通信やストレージとの通信で、レイテンシとCPU負荷を削減します。引き渡し前にはテストHW-3で検証します。詳しくはバーンインと検収をご覧ください。
H
HBM3e
高帯域幅メモリ規格HBM3の拡張版で、GPUと同じパッケージ上にDRAMダイを積層し、GPUあたり毎秒数テラバイトの帯域幅を実現します。NVIDIAはHGX B300について、GPUあたり270 GB、8基のGPUを搭載したサーバーあたり2.1 TBのHBM3eと公表しています。詳しくはNVIDIA HGX B300をご覧ください。
HGX
単一のベースボード上のSXM GPUをNVSwitchチップ経由のNVLinkで接続したNVIDIAのサーバープラットフォームで、サーバーメーカーがこれを完成したシステムに組み込みます。現行のボードは8基のGPUを搭載しています。1LegionはHGX B300とHGX B200のシステムを、8基のGPUを搭載したサーバー単位でレンタルしています。
I
インシデントコマンダーIncident commander
インシデント対応を指揮する担当者で、サービスが復旧するまで、対応者の調整、対応策の決定、コミュニケーションを担います。1Legionはインシデントの受付確認とインシデントコマンダーの任命を15分以内に行い、その後は少なくとも60分ごとに状況を報告します。詳しくは運用コミットメントをご覧ください。
InfiniBand
リモートダイレクトメモリアクセス（RDMA）とインネットワークコンピューティングを標準で備えた、ロスレスで低レイテンシのネットワークテクノロジーで、GPUクラスターのファブリックに広く使われています。NVIDIAのQuantumスイッチがこれを実装しており、当社のHGX B300クラスターではEast-WestファブリックにQuantum InfiniBandも使用できますが、Spectrum-XまたはBroadcom Tomahawk 6のEthernetを推奨しています。
ISO 27001
情報セキュリティマネジメントシステムに関する国際規格ISO/IEC 27001のことで、この規格のもとで、公認の審査機関が外部監査を経て組織を認証します。当社はSOC 2およびISO 27001の取得に向けて取り組んでいます。現在のセキュリティ関連資料はNDAに基づき提供しています。
K
KVキャッシュKV cache
Transformerモデルがコンテキスト内のトークンごとに保存するキーとバリューで、新しいトークンを生成するたびにそれらを再計算せずに済むようにします。コンテキスト長と同時リクエスト数に応じて増大するため、推論のサイジングでは、重みに加えてキャッシュ用のGPUメモリも確保しておく必要があります。詳しくはAI推論向けGPUサーバーをご覧ください。
KYC
Know Your Customer（顧客確認）の略で、顧客が誰であるか、誰がその顧客を所有・支配しているか、誰が顧客を代表して署名するかを確認するために事業者が行う審査です。1Legionでは、サーバーを実際に使用する企業が契約締結前に、実質的支配者を含めた顧客オンボーディングおよびデューデリジェンス書類に記入します。詳しくは導入の流れをご覧ください。
L
液冷Liquid cooling
空気の代わりに液体で熱を除去する冷却方式です。ダイレクト・ツー・チップ方式の液冷は、GPUとCPUに取り付けたコールドプレートに冷却液を送り込む方式で、GB300 NVL72などのラックスケールシステムには必須です。一方、1LegionのHGX B300サーバーは現時点では空冷式です。詳しくは当社のデータセンターをご覧ください。
M
マネージドKubernetesManaged Kubernetes
事業者がKubernetesクラスターのインストール、運用、アップグレード、監視を行い、オンコール対応も担うサービスで、お客様はその上で自社のワークロードを実行します。1Legionはお客様の専用サーバー上にこのサービスを構築し、代替としてマネージドSlurmも提供しています。詳しくはマネージドKubernetesをご覧ください。
MTU
Maximum Transmission Unit（最大転送単位）の略で、ネットワークリンクが分割せずに転送できる最大のパケットサイズです。標準のEthernetでは1,500バイトですが、データセンターのネットワークではパケットごとのオーバーヘッドを減らすために9,000バイトのジャンボフレームがよく使われます。当社のHGX B300仕様では、North-SouthネットワークのMTUを9000に設定しています。詳しくはストレージとネットワークをご覧ください。
N
NCCL
NVIDIA Collective Communications Libraryの略で、NVLink、InfiniBand、Ethernetを介して、GPU間でall-reduce、all-gatherなどの集団通信を実行するライブラリです。PyTorchなどのフレームワークが分散学習に使用しています。引き渡し前には、テストHW-1でnccl-testsを使ってNCCLのスループットを測定します。詳しくはバーンインと検収をご覧ください。
ネオクラウドNeocloud
汎用のハイパースケールクラウドとは異なり、AI向けのGPU計算資源に特化したクラウド事業者で、通常は専用またはベアメタルのキャパシティを提供します。ネオクラウドになることを目指す企業に対し、1Legionはコロケーション、24/7の運用、顧客を提供します。詳しくはコロケーションと運用をご覧ください。
North-SouthネットワークNorth-south network
GPUノード間のEast-Westファブリックに対し、クラスターをストレージ、クラスター外のサービス、インターネットに接続するネットワークです。当社のHGX B300仕様では、ノードあたり400 Gb/sを推奨し、ストレージリーフではオーバーサブスクリプションなし、GPUリーフでは4:1未満としています。詳しくはストレージとネットワークをご覧ください。
NVLink
GPU同士を直接接続するNVIDIAのインターコネクトです。第5世代NVLinkは、各Blackwell GPUに対し、同じNVLinkドメイン内の他のGPUとの間で1.8 TB/sの帯域幅を提供します。これに対し、PCIe Gen6 x16接続では256 GB/sです。詳しくはNVIDIA HGX B300をご覧ください。
NVSwitch
多数のGPUのNVLinkポートを接続し、どのGPUも他のGPUとNVLinkの最大帯域幅で通信できるようにするNVIDIAのスイッチチップです。HGXボードは8基のGPU向けにNVSwitchチップを搭載し、GB300 NVL72はNVLinkスイッチトレイを介して72基のGPUを接続します。テストHW-4では、nvbandwidthを使ってリンク数と帯域幅を確認します。詳しくはバーンインと検収をご覧ください。
O
アウトオブバンド管理Out-of-band management
IPMIやRedfishなどのインターフェースを通じて、OSから独立してサーバーのハードウェアを管理するための、独立したネットワークとコントローラー（ベースボード管理コントローラー、BMC）です。電源制御、コンソール、ファームウェア、ハードウェアテレメトリを扱います。当社の運用コミットメントでは、アウトオブバンドでのアクセスを監査対象とすることを定めています。詳しくは運用コミットメントをご覧ください。
オーバーサブスクリプションOversubscription
サーバーがスイッチに送信できる帯域幅と、そのスイッチがネットワークの他の部分に向けて持つ帯域幅との比率です。1:1であればネットワークはノンブロッキングです。当社のHGX B300仕様では、ストレージリーフでのオーバーサブスクリプションを認めず、GPUリーフでは4:1未満としています。詳しくはストレージとネットワークをご覧ください。
P
PCIeサーバーPCIe server
GPUがHGXベースボード上のSXMモジュールではなく、PCI Expressスロットに挿す拡張カードとして搭載されたサーバーです。そのため、GPU同士は完全なNVLinkドメインではなく、PCIeとネットワークを介して通信します。1Legionは、RTX PRO 6000 BlackwellやL40SなどのPCIeサーバーを8基のGPUを搭載したサーバー単位で、RTX 4000 AdaとRTX A4000を4基のGPUを搭載したサーバーとしてレンタルしています。詳しくはGPUサーバーをご覧ください。
ポストモーテムPostmortem
インシデント後に作成する書面での振り返り（事後報告書）で、時系列の経過、根本原因、影響、再発防止策を記載します。1Legionは、お客様に影響を与えたすべてのインシデントについて、7暦日以内にポストモーテムを提出します。詳しくは運用コミットメントをご覧ください。
Q
隔離Quarantine
問題が疑われるノードをサービスから外し、修理または交換と再テストが完了するまでワークロードを実行させないことです。1Legionは、致命的なGPU障害（XID 79、XID 48、ダブルビットECCエラー、行リマッピングの失敗）が発生すると直ちにハードウェアを隔離し、サイレントデータ破損が疑われるノードも隔離しておきます。詳しくは運用コミットメントをご覧ください。
R
ラック密度Rack density
データセンターがラックごとに供給でき、熱として除去できる電力（kW）です。GPUホスティングでは鍵となる数値で、当社はHGX B300ノードあたり約14 kWを想定しています。また、1Legionはすべての施設に対し、ラックあたりの契約上の最大kWを求めています。詳しくはコロケーションと運用をご覧ください。
レール最適化ファブリックRail-optimized fabric
各サーバーのn番目のGPUのネットワークインターフェースが、レールと呼ばれる同じリーフスイッチに接続されるクラスターネットワークです。これにより、異なるサーバーにある同じ番号のGPU間の通信は、単一のスイッチを経由するだけで済みます。当社のGPUクラスターは、レール最適化された完全ノンブロッキングのEast-Westファブリックを採用しています。
リモートハンドRemote hands
ドライブの交換、ケーブルの差し直し、部品の交換など、所有者に代わってサーバーの物理的な作業を行うデータセンターの技術者です。1Legionは、障害に対し、45分以内に施設のエンジニアリング担当またはリモートハンドが対応に着手することをコミットしています。詳しくは運用コミットメントをご覧ください。
RoCEv2
RDMA over Converged Ethernetのバージョン2で、リモートダイレクトメモリアクセスをUDP/IPパケットで伝送し、Ethernetネットワーク上でルーティングできるようにしたものです。ロスレスまたは輻輳制御されたネットワークが必要で、当社のHGX B300仕様では、North-SouthネットワークがRoCEv2に対応していることを必須としています。詳しくはストレージとネットワークをご覧ください。
RPKI
Resource Public Key Infrastructure（リソース公開鍵基盤）の略で、どのASNがIPプレフィックスを発信してよいかを示す、ROA（Route Origin Authorization）と呼ばれる署名付きレコードの仕組みです。これにより、ルーターはハイジャックされた経路や誤った経路を拒否できます。当社のエッジは、お客様所有のプレフィックスを広報する際にRPKIのROAに従います。詳しくはストレージとネットワークをご覧ください。
S
SHARP
NVIDIAのScalable Hierarchical Aggregation and Reduction Protocolの略で、all-reduceなどのリダクション処理をGPU上ではなくネットワークスイッチ内で実行します。NVIDIA Quantum InfiniBandスイッチで動作するほか、NVLink SHARPとしてNVSwitchでも動作し、ファブリックが対応している場合はテストHW-1でも使用します。詳しくはバーンインと検収をご覧ください。
サイレントデータ破損Silent data corruption
エラーを発生させずに誤った結果を生むハードウェア障害で、GPUやメモリセルの欠陥などが原因となります。クラッシュが起きないため結果の検証によって発見されます。1Legionは、これが疑われるノードを隔離状態に置きます。詳しくは運用コミットメントをご覧ください。
Slurm
クラスター全体でバッチジョブをキューに入れてスケジューリングするオープンソースのワークロードマネージャーで、ハイパフォーマンスコンピューティングや大規模な学習ジョブで広く使われています。1LegionはマネージドKubernetesの代替としてマネージドSlurmを提供しています。
SOC 2
独立した監査人が、AICPAのトラストサービス規準（Trust Services Criteria）に照らしてサービス提供組織の内部統制を検証する保証報告書です。Type 2報告書では、一定期間にわたる統制の運用状況もテストします。当社はSOC 2およびISO 27001の取得に向けて取り組んでいます。現在のセキュリティ関連資料はNDAに基づき提供しています。
Spectrum-X
NVIDIA SpectrumスイッチとNVIDIA SuperNICを組み合わせ、RoCEトラフィックにアダプティブルーティングと輻輳制御を加える、NVIDIAのAI向けEthernetネットワーキングプラットフォームです。当社のHGX B300仕様では、East-WestファブリックにSpectrum-XまたはBroadcom Tomahawk 6を推奨しています。詳しくはGPUクラスターをご覧ください。
T
テイク・オア・ペイTake-or-pay
買い手が、自社専用に確保されたキャパシティと引き換えに、そのすべてを使用するかどうかにかかわらず、契約期間全体にわたって一定量のキャパシティ分を支払うことを約束する契約です。1LegionのGPUサーバー契約は、36カ月、48カ月、60カ月のいずれかの期間、一律の固定料金で双方を拘束し、頭金の支払い後は月次で請求します。詳しくは導入の流れをご覧ください。
TensorコアTensor core
ニューラルネットワークの中核となる計算である行列の積和演算を、汎用のCUDAコアよりはるかに高いスループットで実行する、NVIDIA GPU内部のユニットです。世代ごとにより低精度の形式が追加されており、HopperとAda LovelaceではFP8が、BlackwellではFP6とFP4が追加されました。詳しくはGPUサーバーをご覧ください。
Tier III
Uptime Instituteのティアのうち、同時保守が可能なデータセンターに対応するもので、電源と冷却の経路上にあるどのコンポーネントも、IT機器を停止することなく計画メンテナンスのために取り外すことができます。1Legionは各施設に対し、NDAに基づき、Tier IIIの設計文書と、Uptime Institute認証がある場合はその正確な内容の提示を求めています。詳しくはセキュリティとコンプライアンスをご覧ください。
トランジット事業者Transit provider
顧客のネットワークをインターネットの他の部分に接続し、BGPを使って他のネットワークとの間でそのトラフィックを伝送するネットワーク事業者です。当社のHGX B300仕様では、物理的に異なる経路を通る、回線あたり100 Gb/sの独立した2社のトランジット事業者を使用します。詳しくはストレージとネットワークをご覧ください。
V
Vera Rubin
Blackwellの後継となるNVIDIAのプラットフォームで、Rubin GPU（288 GBのHBM4）とVera CPUを組み合わせ、Vera Rubin NVL72ラックと、8基のGPUを搭載したHGX Rubin NVL8サーバーとして構成されます。1LegionはRubinサーバーを発注済みで、予約を受け付けています。詳しくはNVIDIA Vera Rubinをご覧ください。
X
XIDエラーXID error
GPU障害が発生したときにNVIDIAドライバーがシステムログに書き込むエラーコードで、種類ごとに番号が付いています。XID 79（GPUがバスから脱落）とXID 48（ダブルビットECCエラー）は致命的ですが、XID 13とXID 31はアプリケーションが原因であることが多いため、1Legionは合意した回数を超えて再発した場合に対処します。詳しくは運用コミットメントをご覧ください。