本 GPU 基础设施术语表定义了 GPU 服务器规格、集群设计、数据中心要求与合同中出现的术语。若本网站有页面深入介绍某个主题，相应定义会链接到该页面。
A
B
裸金属Bare metal
专属于单一客户的物理服务器，工作负载与硬件之间没有 hypervisor，因此客户可以使用服务器的全部 CPU、内存、GPU 与网络接口。1Legion 的所有 GPU 服务器都以这种方式出租，且以整台服务器为单位。
BGP
Border Gateway Protocol（边界网关协议），网络在互联网上交换可达性信息所使用的路由协议。我们的 HGX B300 边缘网络与每家 IP Transit 供应商之间运行外部 BGP（eBGP），并使用双向转发检测（BFD），在链路中断时于一分钟内完成故障切换；请参阅存储与网络。
Blackwell Ultra
HGX B300 与 GB300 NVL72 所采用的 NVIDIA GPU 架构。与 Blackwell（B200）相比，它每块 GPU 的 HBM3e 显存更大，稠密 FP4 吞吐量更高，但 FP64 吞吐量低得多，因此是为 AI 训练与推理而设计，而非双精度 HPC。
BlueField-3
NVIDIA 的数据处理器（DPU）：一种自带 Arm 核心的网卡，可从主机 CPU 卸载网络、存储与安全任务。我们的 HGX B300 交付规格书采用 BlueField-3 作为 GPU 节点与 CPU 节点的前端网络接口；GPU 节点建议采用 2 x 400 Gb/s，最低为 2 x 200 Gb/s。
老化测试Burn-in
在新硬件投入使用前让它在持续负载下运行，使早期故障发生在您的工作负载上线之前。1Legion 使用 NVIDIA 的硬件验证测试 HW-1 至 HW-5 对每个集群进行老化测试，其中包括在有代表性的推理负载下进行的 24 小时持续负载测试；请参阅老化测试与验收。
C
主机托管Colocation
在数据中心租用空间、电力、散热与网络连接，用于放置您自有的服务器，通常按 kW 计价。1Legion 在合作伙伴的机房以多年期合同转售主机托管服务；请参阅主机托管与运维。
ConnectX-8
NVIDIA 的一款 SuperNIC，带宽最高 800 Gb/s，可在 InfiniBand 或以太网模式下运行。我们的交付规格书建议 HGX B300 节点的后端（东西向）网络采用该网卡，每块 GPU 800 Gb/s。
控制平面Control plane
运行集群管理服务的服务器，例如 Kubernetes API 服务器与 etcd，或 Slurm 控制器，与运行工作负载的节点分开。我们的 HGX B300 集群每 2,304 块 GPU 配置六个控制平面节点，分布在两个机柜中；请参阅交付规格书。
CPU 节点CPU node
不含 GPU 的服务器，负责运行 GPU 节点周边的服务，例如模型服务前端、请求路由与批处理作业。我们的 HGX B300 集群在 CPU 节点上为集群中的每块 GPU 提供至少 6 个硬件线程与 24 GB 内存；请参阅 GPU 集群。
D
数据中心等级Data center tier
衡量数据中心电力与散热冗余程度的评级。最知名的是 Uptime Institute 的 Tier I 至 Tier IV，对设计文档、建成的机房与运营可持续性分别进行认证；TIA-942 与 EN 50600 则各有自己的四级评级；请参阅安全与合规。
DDoS 流量清洗DDoS scrubbing
在分布式拒绝服务攻击期间，将流量引导经过供应商的过滤设施，清除攻击流量，只让干净的流量到达网络。在我们的 HGX B300 规格书中，第 3 层与第 4 层的流量型攻击清洗在 5 分钟内通过 BGP 启用，清洗容量至少 1 Tb/s；请参阅存储与网络。
预付款Down payment
客户签约时支付的款项。1Legion 在签约时收取预付款，其余款项在整个合同期内以单一固定费率按月计费；租用规模较大时，可能需要银行保函或信用证等付款担保；请参阅采购方式。
E
东西向集群网络East-west fabric
集群中 GPU 节点之间的网络，承载分布式训练与推理的集合通信操作。在我们的 HGX B300 集群中，该网络采用轨道优化设计，完全无阻塞，每块 GPU 800 Gb/s，并专属于单一客户；请参阅 GPU 集群。
ECC 错误ECC error
由纠错码检测到的内存错误。单比特错误可就地纠正，但双比特错误无法纠正，因此 1Legion 将 GPU 上出现的双比特错误视为致命故障，并立即隔离该硬件；请参阅运维承诺。
数据传出Egress
离开供应商网络的数据，例如您移出的结果、检查点或媒体文件。许多云服务商按 GB 收取这项费用；1Legion 的合同不收取数据传出费用，如采购方式所述。
F
FP4
一种 4 比特浮点格式，存储模型权重（某些情况下也包括激活值）所需的内存仅为 FP8 的一半，但会损失部分精度。NVIDIA Blackwell 的 Tensor Core 在硬件层面支持该格式，包括 NVIDIA 的 NVFP4 变体，该变体增加了细粒度缩放以保持准确度；请参阅用于 AI 推理的 GPU 服务器。
FP8
一种 8 比特浮点格式，有 E4M3 与 E5M2 两种变体，与 FP16 或 BF16 相比，每个数值所需的内存减半。NVIDIA Ada Lovelace、Hopper 与 Blackwell GPU 的 Tensor Core 支持以该格式进行训练与推理；请参阅用于 AI 推理的 GPU 服务器。
G
GB300 NVL72
NVIDIA 的机柜级系统，将 72 块 Blackwell Ultra GPU 与 36 颗 Grace CPU 连接在单个 NVLink 域中，完全采用液冷。1Legion 以整个 72-GPU 机柜为单位出租，需提前预订；请参阅 NVIDIA GB300 NVL72。
GDDR7
NVIDIA Blackwell RTX 显卡采用的这一代显存，安装在 GPU 周围的电路板上，而不是像 HBM 那样堆叠在 GPU 旁边。RTX PRO 6000 Blackwell 配备 96 GB GDDR7，GeForce RTX 5090 则配备 32 GB。
GPU Operator
NVIDIA 的 Kubernetes Operator，负责在每个 GPU 节点上安装并管理 GPU 驱动程序、容器工具包、设备插件与监控组件。我们的托管 Kubernetes 服务会将其与 NVIDIA Network Operator 一同安装。
GPUDirect RDMA
NVIDIA 的一项技术，让网卡直接读写 GPU 显存，无需通过主机内存复制数据。它可降低不同节点上 GPU 之间以及 GPU 与存储之间流量的延迟与 CPU 负载，交付前会通过 HW-3 测试对其进行检查；请参阅老化测试与验收。
H
HBM3e
HBM3 高带宽内存标准的扩展版本：在与 GPU 相同的封装上堆叠多层 DRAM 裸片，为每块 GPU 提供每秒数 TB 的带宽。NVIDIA 公布的 HGX B300 规格为每块 GPU 270 GB HBM3e 显存，每台 8-GPU 服务器 2.1 TB；请参阅 NVIDIA HGX B300。
HGX
NVIDIA 的服务器平台：多块 SXM GPU 安装在同一块基板上，通过 NVSwitch 芯片以 NVLink 互联，再由服务器厂商集成为完整系统；当前的基板搭载八块 GPU。1Legion 以整台 8-GPU 服务器的形式出租 HGX B300 与 HGX B200 系统。
I
事件指挥官Incident commander
主导事件响应的人：协调响应人员、决定处置措施，并负责沟通，直至服务恢复。1Legion 会在 15 分钟内确认事件并指派事件指挥官，之后至少每 60 分钟发送一次更新；请参阅运维承诺。
InfiniBand
一种无损、低延迟的网络技术，内置远程直接内存访问（RDMA）与网内计算，广泛用于 GPU 集群网络。NVIDIA 的 Quantum 交换机实现了该技术；我们的 HGX B300 集群的东西向网络可接受 Quantum InfiniBand，但建议采用 Spectrum-X 或 Broadcom Tomahawk 6 以太网。
ISO 27001
ISO/IEC 27001 是信息安全管理体系的国际标准，获认可的认证机构依据该标准，在外部审计后为组织颁发认证。我们正在努力达到 SOC 2 与 ISO 27001 的要求。我们目前的安全文档可在签署保密协议后提供。
K
KV 缓存KV cache
Transformer 模型为上下文中每个 token 存储的键与值，使模型在生成每个新 token 时无需重新计算它们。KV 缓存会随上下文长度与并发请求数增长，因此规划推理容量时，除了权重之外，还必须为缓存预留 GPU 显存；请参阅用于 AI 推理的 GPU 服务器。
KYC
了解您的客户：供应商为确认客户身份、客户由谁拥有和控制以及由谁代表客户签约而进行的核查。在 1Legion，实际使用服务器的公司须在签约前填写《客户开户与尽职调查表》，其中包括其实际受益人；请参阅采购方式。
L
液冷Liquid cooling
用液体而非空气带走热量。冷板式液冷用泵驱动冷却液流经 GPU 与 CPU 上的冷板，GB300 NVL72 等机柜级系统必须采用这种方式；1Legion 的 HGX B300 服务器目前则采用风冷；请参阅我们的数据中心。
M
托管 KubernetesManaged Kubernetes
一种服务：由供应商安装、运维、升级并监控 Kubernetes 集群，并为其提供值班支持，您则在集群上运行自己的工作负载。1Legion 会将其安装在您的专属服务器上，并提供托管 Slurm 作为替代方案；请参阅托管 Kubernetes。
MTU
最大传输单元：网络链路在不分片的情况下能承载的最大数据包。标准以太网为 1,500 字节，数据中心网络常使用 9,000 字节的巨型帧以降低每个数据包的开销；我们的 HGX B300 规格书在南北向网络上设置 MTU 9000；请参阅存储与网络。
N
NCCL
NVIDIA Collective Communications Library（NVIDIA 集合通信库），通过 NVLink、InfiniBand 与以太网在多块 GPU 之间执行 all-reduce、all-gather 等集合通信操作。PyTorch 等框架使用它进行分布式训练；交付前，HW-1 测试会使用 nccl-tests 测量 NCCL 吞吐量；请参阅老化测试与验收。
新兴云服务商Neocloud
专注于为 AI 提供 GPU 算力的云服务商，通常提供专属或裸金属容量，有别于通用型超大规模云服务商。对于想成为新兴云服务商的公司，1Legion 提供主机托管与 7×24 小时运维，并带来客户；请参阅主机托管与运维。
南北向网络North-south network
将集群连接到存储、集群外部服务与互联网的网络，区别于 GPU 节点之间的东西向网络。我们的 HGX B300 规格书建议每个节点 400 Gb/s，存储 Leaf 交换机不做超额订阅，GPU Leaf 交换机的超额订阅比低于 4:1；请参阅存储与网络。
NVLink
NVIDIA 的 GPU 间直接互联技术。第五代 NVLink 为每块 Blackwell GPU 提供 1.8 TB/s 带宽，用于连接所在 NVLink 域中的其他 GPU；相比之下，PCIe Gen6 x16 连接为 256 GB/s；请参阅 NVIDIA HGX B300。
NVSwitch
NVIDIA 的交换芯片，连接多块 GPU 的 NVLink 端口，使任意一块 GPU 都能以完整的 NVLink 带宽访问其他任意一块 GPU。HGX 基板搭载 NVSwitch 芯片，连接板上的八块 GPU；GB300 NVL72 通过 NVLink 交换机托盘连接 72 块 GPU；HW-4 测试则使用 nvbandwidth 检查链路数量与带宽；请参阅老化测试与验收。
O
P
PCIe 服务器PCIe server
GPU 以扩展卡形式插在 PCI Express 插槽中（而非以 SXM 模块形式安装在 HGX 基板上）的服务器，因此 GPU 之间通过 PCIe 与网络通信，而不是通过完整的 NVLink 域。1Legion 出租的 PCIe 服务器中，RTX PRO 6000 Blackwell 与 L40S 以整台 8-GPU 服务器出租，RTX 4000 Ada 与 RTX A4000 则以 4-GPU 服务器出租；请参阅 GPU 服务器。
复盘报告Postmortem
事件发生后撰写的书面复盘，列明时间线、根本原因、影响，以及防止再次发生的措施。每次发生影响客户的事件后，1Legion 会在 7 个自然日内提交复盘报告；请参阅运维承诺。
Q
隔离Quarantine
将可疑节点下线，在其修复或更换并重新测试之前，不让任何工作负载在其上运行。发生致命 GPU 故障（XID 79、XID 48、双比特 ECC 错误与行重映射失败）后，1Legion 会立即隔离相关硬件，并将疑似存在静默数据损坏的节点保持在隔离状态；请参阅运维承诺。
R
机柜密度Rack density
数据中心能够为单个机柜提供并以热量形式带走的功率，以 kW 计。这是 GPU 托管的关键指标：我们按每个 HGX B300 节点约 14 kW 进行规划，1Legion 也要求每个机房在合同中写明每个机柜的最大 kW 数；请参阅主机托管与运维。
轨道优化集群网络Rail-optimized fabric
一种集群网络：每台服务器中第 n 号 GPU 的网络接口都连接到同一台 Leaf 交换机（称为一条轨道），使不同服务器中相同编号的 GPU 之间的流量只需经过一台交换机。我们的 GPU 集群采用轨道优化、完全无阻塞的东西向网络。
现场代操作Remote hands
代替服务器所有者对服务器进行物理操作的数据中心技术人员，例如更换硬盘、重新插拔线缆或调换部件。1Legion 承诺在 45 分钟内让机房工程人员或现场代操作人员介入处理故障；请参阅运维承诺。
RoCEv2
RDMA over Converged Ethernet 第 2 版：通过 UDP/IP 数据包承载的远程直接内存访问，因此可以在以太网中路由。它需要无损或具备拥塞控制的网络；我们的 HGX B300 规格书要求南北向网络必须支持 RoCEv2；请参阅存储与网络。
RPKI
Resource Public Key Infrastructure（资源公钥基础设施）：称为路由起源授权（ROA）的签名记录，指明哪个 ASN 可以作为某个 IP 前缀的起源，使路由器能够拒绝被劫持或错误的路由。我们的边缘网络在宣告客户自有的前缀时，会遵循 RPKI ROA；请参阅存储与网络。
S
SHARP
NVIDIA 的 Scalable Hierarchical Aggregation and Reduction Protocol（可扩展分层聚合与归约协议），在网络交换机内部而非 GPU 上执行 all-reduce 等归约操作。它在 NVIDIA Quantum InfiniBand 交换机中运行，也以 NVLink SHARP 的形式在 NVSwitch 中运行；在集群网络支持的情况下，HW-1 测试会使用它；请参阅老化测试与验收。
静默数据损坏Silent data corruption
一种会产生错误结果却不会报错的硬件故障，例如由有缺陷的 GPU 或内存单元引起。由于不会出现崩溃，这类故障要通过检查结果来发现；1Legion 会将任何疑似存在此问题的节点保持在隔离状态；请参阅运维承诺。
Slurm
一款开源的工作负载管理器，可在集群中对批处理作业进行排队和调度，广泛用于高性能计算与大型训练任务。1Legion 提供托管 Slurm，作为托管 Kubernetes 的替代方案。
SOC 2
一种鉴证报告：由独立审计师依据 AICPA 信任服务准则（Trust Services Criteria）审查服务机构的控制措施；Type 2 报告还会测试这些控制措施在一段时期内的运行情况。我们正在努力达到 SOC 2 与 ISO 27001 的要求。我们目前的安全文档可在签署保密协议后提供。
Spectrum-X
NVIDIA 面向 AI 的以太网网络平台，将 NVIDIA Spectrum 交换机与 NVIDIA SuperNIC 搭配使用，为 RoCE 流量增加自适应路由与拥塞控制。我们的 HGX B300 规格书建议东西向网络采用 Spectrum-X 或 Broadcom Tomahawk 6；请参阅 GPU 集群。
T
照付不议Take-or-pay
一种合同：买方承诺在整个合同期内为约定数量的容量付费，无论是否全部使用，以换取专为其保留的容量。1Legion 的 GPU 服务器合同约定双方在 36、48 或 60 个月的合同期内履约，采用单一固定费率，在支付预付款后按月计费；请参阅采购方式。
Tensor Core
NVIDIA GPU 内部执行矩阵乘累加运算（神经网络的核心数学运算）的单元，吞吐量远高于通用的 CUDA 核心。每一代都会新增更低精度的格式：Hopper 与 Ada Lovelace 新增了 FP8，Blackwell 则新增了 FP6 与 FP4；请参阅 GPU 服务器。
Tier III
Uptime Institute 为“可并行维护”的数据中心划定的等级：电力与散热路径上的任何组件都可以在不关闭 IT 设备的情况下退出运行，进行计划内维护。1Legion 要求各机房在签署保密协议后提供 Tier III 设计文档，并准确说明其持有的任何 Uptime Institute 认证；请参阅安全与合规。
IP Transit 供应商Transit provider
将客户网络连接到互联网其余部分，并通过 BGP 承载客户网络与其他网络之间往来流量的网络运营商。我们的 HGX B300 规格书采用两家独立的 IP Transit 供应商，每条线路 100 Gb/s，通过物理上相互分离的路径接入；请参阅存储与网络。
V
Vera Rubin
继 Blackwell 之后的 NVIDIA 平台，将 Rubin GPU（288 GB HBM4）与 Vera CPU 搭配，有 Vera Rubin NVL72 机柜与 8-GPU HGX Rubin NVL8 服务器两种形式。1Legion 已订购 Rubin 服务器，现接受预订；请参阅 NVIDIA Vera Rubin。
X
XID 错误XID error
GPU 发生故障时，NVIDIA 驱动程序写入系统日志的错误代码，按类型编号。XID 79（GPU 已从总线上掉线）与 XID 48（双比特 ECC 错误）属于致命错误；XID 13 与 XID 31 则常由应用程序引起，因此 1Legion 会在这类错误重复出现、超过约定次数时进行处理；请参阅运维承诺。