我们的运维承诺以书面形式写明:我们的响应速度、如何让您随时了解情况、提前多久通知,以及如何处理硬件故障。这些承诺列于我们交付规格书的第 15 节,而这份规格书是每份 HGX B300 方案的基准。
承诺一览表
每项承诺都是以分钟、天或月为单位的具体数字,您可以据此检验我们的执行情况。
| 承诺 | 指标 |
|---|---|
| 确认事件并指派事件指挥官 | 15 分钟内 |
| 事件未关闭期间的更新 | 至少每 60 分钟 |
| 网络运维团队介入处理,不分时段 | 15 分钟内 |
| 机房工程人员或现场代操作人员介入处理 | 45 分钟内 |
| 影响客户的事件后提交书面复盘报告 | 7 天内 |
| 高风险计划内维护的提前通知 | 至少 7 天 |
| 资产清单与状态变更对您可见 | 5 分钟内 |
| 通过 BGP 启动 DDoS 流量清洗 | 5 分钟内 |
| 边缘防火墙规则变更 | 1 个工作日内 |
| 运维遥测数据,以及事件与状态历史记录的保存期限 | 30 天,以及 12 个月 |
我们不公布可用性百分比。我们公布的是出现问题时我们会做什么,以及多快做到。
支持:共享频道与指定负责人
您可以在随时开放的共享 Slack 频道中,直接与运维您集群的人员合作。
共享 Slack 频道
随时开放,频道成员包括我们的事件指挥官、网络运维、机房运维与现场代操作人员。
指定的技术客户经理
1Legion 指定一位专人负责您的账户。
两种联系值班人员的方式
两种相互独立且经过测试的方式,可联系到合格的值班人员,每天 24 小时、全年无休。
频道让受问题影响的人与负责修复的人聚在同一处。第二条独立的值班联系渠道,则是为第一条渠道本身出问题的情况准备的。
事件:从首条告警到复盘报告
事件处理遵循同一套流程:15 分钟内确认受理并指派事件指挥官、工程师投入处理、至少每 60 分钟更新一次,并在每起影响客户的事件发生后 7 个自然日内提供书面复盘报告。
确认受理
我们会在 15 分钟内确认受理事件并指派事件指挥官。事件指挥官是统一协调响应工作的唯一负责人。
投入处理
无论何时,网络运维团队都会在 15 分钟内投入处理,机房工程或现场代操作人员则在 45 分钟内投入处理。
更新
事件处理期间,您至少每 60 分钟会收到一次更新。
复盘报告
每起影响客户的事件发生后 7 个自然日内,您会收到书面复盘报告。
复盘报告是对事件的书面说明:发生了什么、为什么会发生,以及正在采取哪些措施防止再次发生。
维护、变更与资产清单
有风险的计划内操作至少提前 7 个自然日通知,变更须经过书面变更管理流程,资产清单则记录您的集群,细到每一根线缆。
维护提前通知
提前通知适用于高风险的非紧急维护,让您在操作开始前有时间迁移作业或保存检查点。紧急操作不在此通知期范围内。在机房方面,我们要求所使用的数据中心对有风险的维护提前 14 天通知。
变更管理与访问
书面变更管理是指,对您集群的变更都遵循文档化的流程,并留下书面记录。带外访问(在操作系统之下、通过 BMC 访问服务器的管理路径)均经过审计。
资产清单
我们维护一份资产清单,记录每个机柜、节点、GPU、网卡、硬盘、交换机、端口、光模块与线缆,并为您提供机器可读的导出文件。状态变更在 5 分钟内即可看到。漂移检测会将集群与约定基准进行比对,因此任何计划外的变更都会被发现。
我们正在基于开源组件开发自有平台软件,用于资产清单管理、监控与老化测试自动化。客户门户与公开 API 也是这项工作的一部分,目前尚未推出。
硬件故障处理
我们负责找出并修复硬件、机房、散热与集群网络的故障,并立即隔离出现致命故障的 GPU。
| 故障 | 含义 | 我们的处理方式 |
|---|---|---|
| XID 79 | GPU 已从总线上掉线,不再响应 | 立即隔离 |
| XID 48 | 驱动程序报告了双比特 ECC 错误 | 立即隔离 |
| 双比特 ECC 错误 | GPU 显存中出现不可纠正的错误 | 立即隔离 |
| 行重映射失败 | GPU 无法将故障显存行重映射到备用行 | 立即隔离 |
| 反复出现的 XID 13 或 XID 31 | 图形引擎异常或 GPU 显存页错误 | 达到约定次数后处理 |
| NVMe 硬盘磨损 | 闪存硬盘会随数据写入而磨损 | 在达到耐久度上限前更换 |
| NCCL 停滞 | 集合通信操作不再推进 | 与集群网络事件进行关联分析 |
| 疑似静默数据损坏 | 结果错误,但没有报告任何错误 | 将节点保持隔离 |
隔离会让受影响的硬件退出服务,直到故障修复为止,因此不会有作业被调度到该硬件上。XID 13 与 XID 31 可能源自应用程序而非 GPU,因此我们会在其反复出现并超过约定次数后才处理。当 NCCL 作业停滞时,我们会检查同一时刻的集群网络事件,以便找出导致停滞的链路或交换机故障。静默数据损坏是最难发现的故障之一,因为没有任何机制会报告它,这也是疑似节点会一直保持隔离的原因。NVMe 硬盘会在达到耐久度上限前更换,而不是等到出现故障之后。
存储设备服务
如果您的集群使用由原厂托管的存储设备,规格书承诺提供:原厂支持的设计、7×24 小时升级处理、每个层级承诺的吞吐量与延迟、可见的使用量与配额,以及经过测试的恢复能力。
- 原厂支持的设计。存储设备来自 VAST Data、WEKA 或 DDN,按其原厂支持的设计构建。
- 7×24 小时升级处理。存储问题可在任何时间升级处理。
- 每个层级的吞吐量与延迟。每个存储层级都有承诺的吞吐量与延迟,您可以依据已知数值规划作业与检查点。
- 使用量与配额。使用量与配额清楚可见,容量不会在无人察觉的情况下耗尽。
- 经过测试的恢复。恢复流程经过实际测试,而不只是写成文档。
两种存储方案,即存储设备与供您自有软件使用的存储节点,在我们的存储与网络页面中都有介绍。
遥测与历史记录
我们以带外方式收集硬件遥测数据,运维遥测数据至少保存 30 天,事件与状态历史记录至少保存 12 个月。
带外遥测数据通过 Redfish 从服务器的 BMC 获取,因此即使操作系统停止上报,它仍会持续上报。网络与机房遥测数据在可获取时一并收集。保存至少 12 个月的事件与状态历史记录,意味着即使某个故障相隔数月才再次出现,仍可追溯到之前的发生记录。
在上述任何承诺适用之前,每个集群都会先通过我们老化测试与验收页面所列的测试。如果您也希望由我们运维您服务器上的平台层,请参阅托管 Kubernetes。
买方常见问题
这是附有可用性百分比与服务赔偿的 SLA 吗?
不是。我们不公布可用性百分比或服务赔偿。我们公布的是本页上的承诺:响应时间、更新间隔、提前通知期、报告与故障处理。您的方案会列明您合同的条款。
事件发生时,响应速度有多快?
事件会在 15 分钟内确认受理并指派事件指挥官。无论何时,网络运维团队都会在 15 分钟内投入处理,机房工程或现场代操作人员则在 45 分钟内投入处理。
非工作时间如何联系?
通过随时开放的共享 Slack 频道,或通过两种相互独立且经过测试的方式联系合格的值班人员,每天 24 小时、全年无休。
维护前会提前多久通知?
高风险的非紧急维护至少提前 7 个自然日通知。
GPU 发生致命故障时会怎么处理?
我们会立即隔离致命 GPU 故障:XID 79、XID 48、双比特 ECC 错误与行重映射失败。接着找出并修复故障。