Glosario de infraestructura GPU

Informe de aceptaciónAcceptance report

Documento que recoge las pruebas que ha superado un servidor o un clúster antes de la entrega, con sus resultados. Todos los clústeres de 1Legion incluyen uno que cubre las pruebas de validación de hardware de NVIDIA, de HW-1 a HW-5; consulte burn-in y aceptación.

ASN

Número de sistema autónomo: el identificador, asignado a través de un registro regional de internet, que una red utiliza para intercambiar rutas con otras redes mediante BGP. En los clústeres HGX B300 construidos según nuestra especificación de entrega, la red perimetral puede anunciar sus propios prefijos IP bajo su propio ASN; consulte almacenamiento y redes.

Bare metal

Servidor físico dedicado a un solo cliente, sin hipervisor entre la carga de trabajo y el hardware, de modo que el cliente dispone de todas sus CPU, memoria, GPU e interfaces de red. Todos los servidores GPU de 1Legion se alquilan así, como servidores completos.

BGP

Border Gateway Protocol, el protocolo de enrutamiento que usan las redes para intercambiar información de alcanzabilidad en internet. La red perimetral de nuestros HGX B300 ejecuta BGP externo (eBGP) con cada proveedor de tránsito y utiliza la detección de reenvío bidireccional (BFD) para conmutar en un plazo de un minuto cuando cae un enlace; consulte almacenamiento y redes.

Blackwell Ultra

La arquitectura de GPU de NVIDIA del HGX B300 y del GB300 NVL72. Frente a Blackwell (B200), tiene más HBM3e por GPU y más rendimiento FP4 denso, pero mucho menos rendimiento FP64, por lo que está pensada para el entrenamiento y la inferencia de IA, no para HPC de doble precisión.

BlueField-3

Unidad de procesamiento de datos (DPU) de NVIDIA: un adaptador de red con sus propios núcleos Arm que puede liberar a la CPU del host de tareas de red, almacenamiento y seguridad. La especificación de entrega de nuestros HGX B300 utiliza BlueField-3 como interfaz de red de frontend de los nodos GPU y de los nodos de CPU; en los nodos GPU se prefiere 2 x 400 Gb/s y el mínimo es 2 x 200 Gb/s.

Burn-in

Someter el hardware nuevo a una carga sostenida antes de que entre en servicio, para que los fallos tempranos se produzcan antes de que llegue su carga de trabajo. 1Legion somete a burn-in cada clúster con las pruebas de validación de hardware de NVIDIA, de HW-1 a HW-5, incluida una prueba de carga sostenida de 24 horas con una carga de inferencia representativa; consulte burn-in y aceptación.

Colocation

Alquiler de espacio, potencia, refrigeración y conectividad en un centro de datos para servidores de su propiedad, a menudo con un precio por kW de potencia. 1Legion revende colocation en sus instalaciones asociadas con contratos plurianuales; consulte colocation y operaciones.

ConnectX-8

SuperNIC de NVIDIA con hasta 800 Gb/s de ancho de banda que funciona con InfiniBand o con Ethernet. Nuestra especificación de entrega la prefiere para la red de backend (este-oeste) de los nodos HGX B300, a 800 Gb/s por GPU.

Plano de controlControl plane

Los servidores que ejecutan los servicios de gestión de un clúster, como el servidor de API de Kubernetes y etcd o el controlador de Slurm, separados de los nodos que ejecutan las cargas de trabajo. Nuestros clústeres HGX B300 tienen seis nodos del plano de control por cada 2.304 GPU, repartidos en dos racks; consulte la especificación de entrega.

Nodo de CPUCPU node

Servidor sin GPU que ejecuta los servicios que rodean a los nodos GPU, como los front ends de servicio de modelos, el enrutamiento de peticiones y los trabajos por lotes. Nuestros clústeres HGX B300 ofrecen al menos 6 hilos de hardware y 24 GB de memoria en nodos de CPU por cada GPU del clúster; consulte clústeres de GPU.

Tier de centro de datosData center tier

Clasificación del grado de redundancia de la alimentación y la refrigeración de un centro de datos. La más conocida es la escala de Tier I a Tier IV del Uptime Institute, que se certifica por separado para los documentos de diseño, la instalación construida y la sostenibilidad operativa, mientras que TIA-942 y EN 50600 tienen sus propias clasificaciones de cuatro niveles; consulte seguridad y cumplimiento.

Filtrado de DDoSDDoS scrubbing

Desvío del tráfico a través de la capacidad de filtrado de un proveedor durante un ataque distribuido de denegación de servicio, para eliminar el tráfico del ataque de modo que solo el tráfico limpio llegue a la red. En nuestra especificación de HGX B300, el filtrado volumétrico de capas 3 y 4 se activa mediante BGP en un plazo de 5 minutos y tiene al menos 1 Tb/s de capacidad; consulte almacenamiento y redes.

Pago inicialDown payment

Importe que paga un cliente al firmar un contrato. 1Legion cobra un pago inicial a la firma y después factura el importe restante mensualmente a una única tarifa fija durante todo el contrato. Las asignaciones de mayor tamaño pueden requerir una garantía de pago, como un aval bancario o una carta de crédito; consulte cómo contratar.

Fabric este-oesteEast-west fabric

La red entre los nodos GPU de un clúster, que transporta las operaciones colectivas del entrenamiento y la inferencia distribuidos. En nuestros clústeres HGX B300 está optimizada por rails, es totalmente no bloqueante, funciona a 800 Gb/s por GPU y está dedicada a un solo cliente; consulte clústeres de GPU.

Error ECCECC error

Error de memoria detectado por el código de corrección de errores. Un error de un solo bit se corrige en el acto, pero un error de doble bit no puede corregirse, por lo que 1Legion trata un error de doble bit en una GPU como un fallo fatal y pone el hardware en cuarentena de inmediato; consulte compromisos operativos.

Salida de datosEgress

Datos que salen de la red de un proveedor, como resultados, checkpoints o contenido multimedia que usted traslada fuera de ella. Muchas nubes cobran esa salida por gigabyte; los contratos de 1Legion no tienen cargos por salida de datos, como se explica en cómo contratar.

FP4

Formato de coma flotante de 4 bits que almacena los pesos del modelo y, en algunos casos, las activaciones en la mitad de memoria que FP8, a costa de cierta precisión. Los Tensor Cores de NVIDIA Blackwell lo ejecutan en hardware, incluida la variante NVFP4 de NVIDIA, que añade un escalado de grano fino para conservar la exactitud; consulte servidores GPU para inferencia de IA.

FP8

Formato de coma flotante de 8 bits, con las variantes E4M3 y E5M2, que reduce a la mitad la memoria por valor respecto a FP16 o BF16. Los Tensor Cores de las GPU NVIDIA Ada Lovelace, Hopper y Blackwell lo ejecutan para entrenamiento e inferencia; consulte servidores GPU para inferencia de IA.

GB300 NVL72

El sistema a escala de rack de NVIDIA que une 72 GPU Blackwell Ultra y 36 CPU Grace en un solo dominio NVLink, con refrigeración íntegramente líquida. 1Legion lo alquila como rack completo de 72 GPU, con reserva previa; consulte NVIDIA GB300 NVL72.

GDDR7

La generación de memoria gráfica de las tarjetas Blackwell RTX de NVIDIA, montada en la placa de circuito alrededor de la GPU en lugar de apilada junto a ella, como ocurre con la HBM. La RTX PRO 6000 Blackwell tiene 96 GB de GDDR7 y la GeForce RTX 5090, 32 GB.

GPU Operator

El operador de Kubernetes de NVIDIA que instala y gestiona el controlador de la GPU, el container toolkit, el device plugin y los componentes de monitorización en cada nodo GPU. Nuestro servicio de Kubernetes gestionado lo instala junto con NVIDIA Network Operator.

GPUDirect RDMA

Tecnología de NVIDIA que permite a un adaptador de red leer y escribir directamente en la memoria de la GPU, sin copiar los datos a través de la memoria del host. Reduce la latencia y la carga de CPU en el tráfico entre GPU de distintos nodos y hacia el almacenamiento, y la prueba HW-3 la comprueba antes de la entrega; consulte burn-in y aceptación.

HBM3e

Versión ampliada del estándar de memoria de alto ancho de banda HBM3: pilas de dados DRAM en el mismo encapsulado que la GPU, que ofrecen varios terabytes por segundo de ancho de banda por GPU. NVIDIA especifica 270 GB de HBM3e por GPU para el HGX B300, es decir, 2,1 TB por servidor de 8 GPU; consulte NVIDIA HGX B300.

HGX

La plataforma de servidores de NVIDIA formada por GPU SXM sobre una sola placa base, conectadas por NVLink a través de chips NVSwitch, que los fabricantes de servidores integran en sistemas completos; las placas actuales llevan ocho GPU. 1Legion alquila sistemas HGX B300 y HGX B200 como servidores completos de 8 GPU.

Responsable de incidentesIncident commander

La persona que dirige la respuesta a un incidente: coordina a quienes intervienen, decide las acciones y se encarga de la comunicación hasta que se restablece el servicio. 1Legion acusa recibo de un incidente y asigna un responsable de incidentes en un plazo de 15 minutos, y después envía actualizaciones al menos cada 60 minutos; consulte compromisos operativos.

InfiniBand

Tecnología de red sin pérdidas y de baja latencia, con acceso directo a memoria remota (RDMA) y computación en red integrados, muy utilizada en los fabrics de clústeres de GPU. Los switches Quantum de NVIDIA la implementan, y nuestros clústeres HGX B300 aceptan Quantum InfiniBand para el fabric este-oeste, aunque se prefiere Ethernet Spectrum-X o Broadcom Tomahawk 6.

ISO 27001

ISO/IEC 27001, la norma internacional para sistemas de gestión de la seguridad de la información, conforme a la cual un organismo acreditado certifica a una organización tras una auditoría externa. Estamos trabajando para obtener SOC 2 e ISO 27001. Nuestra documentación de seguridad actual está disponible bajo acuerdo de confidencialidad.

Caché KVKV cache

Las claves y los valores que un modelo transformer almacena para cada token de su contexto, de modo que no tenga que recalcularlos con cada nuevo token que genera. Crece con la longitud del contexto y el número de peticiones simultáneas, por lo que el dimensionamiento para inferencia debe reservar memoria de GPU para la caché además de para los pesos; consulte servidores GPU para inferencia de IA.

KYC

Know your customer (conozca a su cliente): las comprobaciones que hace un proveedor para confirmar quién es un cliente, quién lo posee y lo controla y quién firma en su nombre. En 1Legion, la empresa que utilizará los servidores rellena un formulario de alta de clientes y diligencia debida, que incluye a sus titulares reales, antes de firmar; consulte cómo contratar.

Refrigeración líquidaLiquid cooling

Evacuación del calor mediante un líquido en lugar de aire. La refrigeración líquida directa al chip bombea refrigerante a través de placas frías situadas sobre las GPU y las CPU y es imprescindible en sistemas a escala de rack como GB300 NVL72, mientras que los servidores HGX B300 de 1Legion se refrigeran hoy por aire; consulte nuestros centros de datos.

Kubernetes gestionadoManaged Kubernetes

Servicio en el que el proveedor instala, opera, actualiza y monitoriza un clúster de Kubernetes y está de guardia para atenderlo, mientras usted ejecuta en él sus cargas de trabajo. 1Legion lo instala en sus servidores dedicados y ofrece Slurm gestionado como alternativa; consulte Kubernetes gestionado.

MTU

Unidad máxima de transmisión: el paquete más grande que transporta un enlace de red sin fragmentarlo. Ethernet estándar usa 1.500 bytes, las redes de centros de datos suelen usar tramas jumbo de 9.000 bytes para reducir la sobrecarga por paquete y nuestra especificación de HGX B300 fija MTU 9000 en la red norte-sur; consulte almacenamiento y redes.

NCCL

La NVIDIA Collective Communications Library, la biblioteca que ejecuta all-reduce, all-gather y otras operaciones colectivas entre GPU sobre NVLink, InfiniBand y Ethernet. Frameworks como PyTorch la utilizan para el entrenamiento distribuido, y la prueba HW-1 mide el rendimiento de NCCL con nccl-tests antes de la entrega; consulte burn-in y aceptación.

Neocloud

Proveedor de nube especializado en computación GPU para IA, normalmente con capacidad dedicada o bare metal, a diferencia de las nubes hiperescala de uso general. A las empresas que quieren convertirse en neocloud, 1Legion les ofrece colocation, operaciones 24/7 y clientes; consulte colocation y operaciones.

Red norte-surNorth-south network

La red que conecta un clúster con el almacenamiento, con los servicios externos a él y con internet, a diferencia del fabric este-oeste entre los nodos GPU. Nuestra especificación de HGX B300 prefiere 400 Gb/s por nodo, sin sobresuscripción en los switches leaf de almacenamiento y con menos de 4:1 en los switches leaf de GPU; consulte almacenamiento y redes.

NVLink

La interconexión directa de GPU a GPU de NVIDIA. NVLink de quinta generación ofrece a cada GPU Blackwell 1,8 TB/s de ancho de banda hacia las demás GPU de su dominio NVLink, frente a 256 GB/s de una conexión PCIe Gen6 x16; consulte NVIDIA HGX B300.

NVSwitch

El chip de conmutación de NVIDIA que conecta los puertos NVLink de muchas GPU, de modo que cualquier GPU puede comunicarse con cualquier otra con todo el ancho de banda de NVLink. Las placas HGX llevan chips NVSwitch para sus ocho GPU, GB300 NVL72 une 72 GPU mediante bandejas de switches NVLink y la prueba HW-4 comprueba el número de enlaces y el ancho de banda con nvbandwidth; consulte burn-in y aceptación.

Gestión fuera de bandaOut-of-band management

Una red y un controlador independientes, el controlador de gestión de la placa base (BMC), para gestionar el hardware de un servidor con independencia de su sistema operativo, mediante interfaces como IPMI y Redfish. Se encarga del control de alimentación, las consolas, el firmware y la telemetría del hardware, y nuestros compromisos operativos exigen que el acceso fuera de banda quede auditado; consulte compromisos operativos.

SobresuscripciónOversubscription

La relación entre el ancho de banda que los servidores pueden enviar a un switch y el ancho de banda que tiene el switch hacia el resto de la red; con 1:1, la red es no bloqueante. Nuestra especificación de HGX B300 no admite sobresuscripción en los switches leaf de almacenamiento y la limita a menos de 4:1 en los switches leaf de GPU; consulte almacenamiento y redes.

Servidor PCIePCIe server

Servidor cuyas GPU son tarjetas de expansión en ranuras PCI Express en lugar de módulos SXM sobre una placa base HGX, por lo que las GPU se comunican entre sí a través de PCIe y de la red, y no mediante un dominio NVLink completo. 1Legion alquila servidores PCIe como los RTX PRO 6000 Blackwell y L40S como servidores completos de 8 GPU, y los RTX 4000 Ada y RTX A4000 como servidores de 4 GPU; consulte servidores GPU.

Informe posterior al incidentePostmortem

Análisis por escrito tras un incidente que expone la cronología, la causa raíz, el impacto y las acciones que evitarán que se repita. 1Legion entrega uno en un plazo de 7 días naturales tras cada incidente que afecte a los clientes; consulte compromisos operativos.

CuarentenaQuarantine

Retirar del servicio un nodo sospechoso para que no se ejecute ninguna carga de trabajo en él hasta que se repare o se sustituya y se vuelva a probar. 1Legion pone el hardware en cuarentena de inmediato tras fallos fatales de GPU (XID 79, XID 48, errores ECC de doble bit y fallos de reasignación de filas) y mantiene en cuarentena los nodos sospechosos de corrupción silenciosa de datos; consulte compromisos operativos.

Densidad por rackRack density

La potencia, en kW, que un centro de datos puede suministrar a un rack y evacuar en forma de calor. Es la cifra clave para alojar GPU: planificamos unos 14 kW por nodo HGX B300, y 1Legion pide a cada instalación un máximo contractual de kW por rack; consulte colocation y operaciones.

Fabric optimizado por railsRail-optimized fabric

Red de clúster en la que la interfaz de red de la GPU número n de cada servidor se conecta al mismo switch leaf, llamado rail, de modo que el tráfico entre GPU con el mismo número en servidores distintos atraviesa un único switch. Nuestros clústeres de GPU utilizan un fabric este-oeste optimizado por rails y totalmente no bloqueante.

Manos remotasRemote hands

Técnicos del centro de datos que realizan trabajos físicos en los servidores por cuenta del propietario, como sustituir discos, reconectar cables o cambiar piezas. 1Legion se compromete a que el equipo de ingeniería de la instalación o las manos remotas intervengan en una avería en un plazo de 45 minutos; consulte compromisos operativos.

RoCEv2

RDMA over Converged Ethernet, versión 2: acceso directo a memoria remota transportado en paquetes UDP/IP, de modo que puede enrutarse a través de una red Ethernet. Necesita una red sin pérdidas o con control de congestión, y nuestra especificación de HGX B300 exige que la red norte-sur admita RoCEv2; consulte almacenamiento y redes.

RPKI

Resource Public Key Infrastructure (infraestructura de clave pública de recursos): registros firmados, llamados autorizaciones de origen de ruta (ROA), que indican qué ASN puede originar un prefijo IP, para que los routers puedan rechazar rutas secuestradas o erróneas. Nuestra red perimetral respeta los ROA de RPKI cuando anuncia prefijos propiedad del cliente; consulte almacenamiento y redes.

SHARP

El Scalable Hierarchical Aggregation and Reduction Protocol de NVIDIA, que realiza reducciones como all-reduce dentro de los switches de red en lugar de en las GPU. Funciona en los switches NVIDIA Quantum InfiniBand y, como NVLink SHARP, en NVSwitch, y la prueba HW-1 lo utiliza cuando el fabric lo admite; consulte burn-in y aceptación.

Corrupción silenciosa de datosSilent data corruption

Fallo de hardware que produce resultados erróneos sin generar ningún error, por ejemplo por una GPU o una celda de memoria defectuosas. Como nada se bloquea, se detecta comprobando los resultados, y 1Legion mantiene en cuarentena cualquier nodo sospechoso de corrupción silenciosa de datos; consulte compromisos operativos.

Slurm

Gestor de cargas de trabajo de código abierto que pone en cola y planifica trabajos por lotes en un clúster, muy utilizado en computación de alto rendimiento y en grandes ejecuciones de entrenamiento. 1Legion ofrece Slurm gestionado como alternativa a Kubernetes gestionado.

SOC 2

Informe de atestación en el que un auditor independiente examina los controles de una organización de servicios con respecto a los Trust Services Criteria del AICPA; un informe de tipo 2 comprueba además cómo han funcionado los controles durante un periodo de tiempo. Estamos trabajando para obtener SOC 2 e ISO 27001. Nuestra documentación de seguridad actual está disponible bajo acuerdo de confidencialidad.

Spectrum-X

La plataforma de redes Ethernet de NVIDIA para IA, que combina switches NVIDIA Spectrum con SuperNIC de NVIDIA para añadir enrutamiento adaptativo y control de congestión al tráfico RoCE. Nuestra especificación de HGX B300 prefiere Spectrum-X o Broadcom Tomahawk 6 para el fabric este-oeste; consulte clústeres de GPU.

Take-or-pay

Contrato en el que el comprador se compromete a pagar por una cantidad determinada de capacidad durante toda su duración, la utilice o no por completo, a cambio de capacidad reservada exclusivamente para él. Los contratos de servidores GPU de 1Legion comprometen a ambas partes durante 36, 48 o 60 meses a una única tarifa fija, facturada mensualmente tras un pago inicial; consulte cómo contratar.

Tensor Core

Unidad de las GPU de NVIDIA que realiza operaciones de multiplicación y acumulación de matrices, el cálculo fundamental de las redes neuronales, con un rendimiento muy superior al de los núcleos CUDA de uso general. Cada generación añade formatos de menor precisión: Hopper y Ada Lovelace añadieron FP8, y Blackwell añadió FP6 y FP4; consulte servidores GPU.

Tier III

El nivel del Uptime Institute para un centro de datos con mantenimiento concurrente, en el que cualquier componente de las vías de alimentación y refrigeración puede retirarse para un mantenimiento planificado sin apagar el equipo de TI. 1Legion pide a las instalaciones la documentación de diseño Tier III y que cualquier certificación del Uptime Institute se indique con precisión, bajo acuerdo de confidencialidad; consulte seguridad y cumplimiento.

Proveedor de tránsitoTransit provider

Operador de red que conecta la red de un cliente con el resto de internet y transporta su tráfico hacia y desde otras redes mediante BGP. Nuestra especificación de HGX B300 utiliza dos proveedores de tránsito independientes a 100 Gb/s por circuito, sobre rutas físicamente separadas; consulte almacenamiento y redes.

Vera Rubin

La plataforma de NVIDIA que sucede a Blackwell, que combina la GPU Rubin (288 GB de HBM4) con la CPU Vera y se fabrica como rack Vera Rubin NVL72 y como servidores HGX Rubin NVL8 de 8 GPU. 1Legion tiene servidores Rubin encargados y acepta reservas; consulte NVIDIA Vera Rubin.

Error XIDXID error

Código de error que el controlador de NVIDIA escribe en el registro del sistema cuando se produce un fallo de GPU, numerado por tipo. XID 79 (GPU caída del bus) y XID 48 (error ECC de doble bit) son fatales, mientras que XID 13 y XID 31 suelen deberse a la aplicación, por lo que 1Legion actúa sobre ellos cuando se repiten por encima de un número acordado; consulte compromisos operativos.