NVIDIA HGX B300
Ocho GPU Blackwell Ultra con 270 GB de HBM3e cada una y 800 Gb/s de red por GPU, en alquiler como servidores completos o como clústeres dedicados, construidos según nuestra especificación de entrega publicada.
- GPU por servidor
- 8
- Memoria por GPU
- 270 GB HBM3e
- FP4 por servidor
- 108 PFLOPS densos
- Red por GPU
- 800 Gb/s
Dentro de un servidor HGX B300
Lo que usted alquila, pieza a pieza.
-
Un servidor, un cliente
Las GPU, las CPU, la memoria, las unidades y los puertos de red del chasis están dedicados a un solo cliente durante todo el contrato. Nada de su interior se comparte.
-
Ocho GPU Blackwell Ultra
Ocho GPU SXM en una sola placa base, cada una con 270 GB de HBM3e a 7,7 TB/s. Eso supone 2,1 TB de memoria de GPU en un solo servidor.
-
Un solo dominio NVLink
NVLink de quinta generación une las ocho GPU a 1,8 TB/s por GPU, 14,4 TB/s en todo el servidor, de modo que un modelo puede abarcar toda la placa.
-
800 Gb/s por GPU
Cada GPU tiene su propio puerto de 800 Gb/s hacia el fabric del clúster, preferiblemente NVIDIA ConnectX-8, en un fabric optimizado por rails que no usa ningún otro cliente.
-
Unidades y aire
Al menos 9,2 TB brutos de NVMe para datos se alojan en la parte frontal, en un chasis refrigerado por aire construido según nuestra especificación de entrega.
Especificaciones
| GPU | |
|---|---|
| Plataforma | NVIDIA HGX B300, 8 GPU SXM en una placa base |
| Arquitectura | NVIDIA Blackwell Ultra |
| Memoria por GPU | 270 GB HBM3e (especificación de NVIDIA HGX B300) |
| Memoria de GPU por servidor | 2,1 TB HBM3e (8 x 270 GB, según indica NVIDIA) |
| Ancho de banda de memoria por GPU | 7,7 TB/s |
| FP4 Tensor, 8 GPU | 144 PFLOPS con dispersión, 108 PFLOPS densos |
| FP8 y FP6 Tensor, 8 GPU | 72 PFLOPS con dispersión |
| FP16 y BF16 Tensor, 8 GPU | 36 PFLOPS con dispersión |
| TF32 Tensor, 8 GPU | 18 PFLOPS con dispersión |
| FP32, 8 GPU | 600 TFLOPS |
| FP64, 8 GPU | 10 TFLOPS |
| NVLink | Quinta generación, 1,8 TB/s por GPU, 14,4 TB/s por servidor |
| PCIe | Gen6, 256 GB/s |
| Potencia por GPU | Configurable, hasta 1.100 W |
| Multi-Instance GPU | Hasta 7 instancias por GPU |
| Servidor tal como se entrega | |
|---|---|
| CPU | Al menos 128 vCPU |
| Memoria del sistema | Preferiblemente 3 TB, al menos 1,92 TB (240 GB por GPU) |
| Almacenamiento de arranque | 2 x 1 TB NVMe, en espejo (preferente) |
| Almacenamiento local de datos | Al menos 9,2 TB brutos de NVMe |
| Refrigeración | Refrigeración por aire |
| Potencia prevista | Unos 14 kW por servidor (hipótesis de trabajo) |
| Redes | |
|---|---|
| Red de backend | 800 Gb/s por GPU (1 x 800, 2 x 400 o 4 x 200 Gb/s), preferiblemente NVIDIA ConnectX-8 |
| Red de frontend | NVIDIA BlueField-3, preferiblemente 2 x 400 Gb/s, como mínimo 2 x 200 Gb/s |
| Fabric este-oeste | Optimizado por rails, totalmente no bloqueante, dedicado a un solo cliente |
| Conmutación del fabric | Preferiblemente NVIDIA Spectrum-X o Broadcom Tomahawk 6; se acepta NVIDIA Quantum InfiniBand o Tomahawk 5 |
| Norte-sur | Preferiblemente 400 Gb/s por nodo, como mínimo 200 Gb/s, RoCEv2, MTU 9000 |
Cargas de trabajo habituales
- Preentrenamiento y postentrenamiento de modelos grandes
- Aprendizaje por refuerzo y ajuste fino a escala de clúster
- Inferencia para modelos de razonamiento y de mezcla de expertos con contextos largos
Alquile servidores NVIDIA HGX B300 como nodos completos de 8 GPU o como clúster sobre un fabric que no comparte ningún otro cliente. Cada servidor se construye según nuestra especificación de entrega publicada, se somete a burn-in antes de la entrega y se alquila con un contrato de 36, 48 o 60 meses a una única tarifa mensual fija.
Para quién es el HGX B300
El HGX B300 está pensado para equipos cuyos modelos ya no caben en GPU de 80 a 180 GB. Cada GPU lleva 270 GB de HBM3e, 2,1 TB por servidor, de modo que un modelo de 70B parámetros en FP8 (unos 70 GB de pesos) deja unos 200 GB libres en una sola GPU para la caché KV y el procesamiento por lotes.
Los laboratorios de IA lo alquilan para ejecuciones de preentrenamiento y postentrenamiento que duran semanas. Los equipos de inferencia lo alquilan para servir modelos de razonamiento y de mezcla de expertos con contextos largos. Es la línea principal de la capacidad de 1Legion y el servidor en torno al cual está redactada nuestra especificación de entrega de HGX B300.
Sus puntos fuertes
La memoria y el ancho de banda por GPU distinguen al HGX B300.
NVIDIA cifra cada GPU en 7,7 TB/s de ancho de banda de memoria, el límite de la velocidad de decodificación en modelos grandes. La placa de 8 GPU ofrece 108 PFLOPS de FP4 denso (144 PFLOPS con dispersión), frente a 72 PFLOPS densos en un HGX B200, y 72 PFLOPS de FP8 con dispersión. NVLink de quinta generación ofrece a cada GPU 1,8 TB/s hacia las otras siete, 14,4 TB/s en todo el servidor, y cada GPU tiene su propio puerto de 800 Gb/s hacia el fabric del clúster.
La contrapartida es la doble precisión. NVIDIA cifra la placa en 10 TFLOPS de FP64, por lo que el HGX B300 es un servidor para formatos numéricos de IA, no para simulación FP64.
Configuración de entrega
La configuración procede de nuestra especificación de entrega, 1LG-DEL-SPEC-2026-001. Todo lo que su propuesta modifique figura como desviación numerada, para que pueda ver en qué se diferencian sus servidores de la base publicada.
- CPU y memoria: al menos 128 vCPU y, preferiblemente, 3 TB de memoria del sistema, nunca menos de 240 GB por GPU (1,92 TB).
- Almacenamiento local: preferiblemente un par en espejo de unidades de arranque NVMe de 1 TB, más al menos 9,2 TB brutos de NVMe para datos, más de cuatro veces la memoria de GPU.
- Red: 800 Gb/s por GPU en el backend, preferiblemente con NVIDIA ConnectX-8, y un frontend NVIDIA BlueField-3, preferiblemente de 2 x 400 Gb/s y como mínimo de 2 x 200 Gb/s.
- Refrigeración y potencia: refrigeración por aire, como recomienda el OEM a escala de clúster. Planificamos la potencia con unos 14 kW por servidor.
Opciones de clúster HGX B300
Un clúster de 1Legion está dedicado a un solo cliente, hasta los switches. Nuestros tres tamaños de referencia usan el mismo servidor:
| Elemento | 64 nodos | 128 nodos | 288 nodos |
|---|---|---|---|
| Nodos GPU (8 GPU cada uno) | 64 | 128 | 288 |
| GPU | 512 | 1.024 | 2.304 |
| Nodos de CPU | 24 | 48 | 108 |
| Nodos del plano de control | 6 | 6 | 6 |
| Almacenamiento, opción appliance (útil) | 512 TB | 1.024 TB | 2.304 TB |
| Almacenamiento, opción de nodos de almacenamiento | 9 nodos | 17 nodos | 38 nodos |
| Carga de TI estimada | unos 0,98 MW | unos 1,95 MW | unos 4,39 MW |
El fabric este-oeste está optimizado por rails y es totalmente no bloqueante a 800 Gb/s por GPU, preferiblemente sobre NVIDIA Spectrum-X o Broadcom Tomahawk 6. Los nodos de CPU ejecutan los servicios en torno a las GPU, y el almacenamiento es o bien un appliance gestionado por el fabricante con al menos 1 TB útil por GPU, o bien nodos de almacenamiento para su propio software. Nuestra página clústeres de GPU dedicados trata el diseño y la entrega, y almacenamiento y redes trata la red perimetral, la protección contra DDoS y su propio espacio IP.
Cómo funciona el alquiler
La asignación de HGX B300 está abierta. Usted alquila servidores completos, y cada precio figura en una propuesta por escrito.
Solicitud y propuesta
Indíquenos cuántos servidores necesita, durante cuánto tiempo y a partir de cuándo. Le respondemos con preguntas o con una propuesta por escrito.
Alta y contrato
La empresa que utilizará los servidores rellena tres formularios de alta, firma un contrato de 36, 48 o 60 meses y abona el pago inicial. Los contratos más largos tienen tarifas más bajas.
Construcción y burn-in
Construimos según la especificación de entrega y ejecutamos las pruebas de validación de hardware de NVIDIA, de HW-1 a HW-5. Los resultados se recogen en su informe de aceptación.
Operación
La facturación es mensual, a una única tarifa fija durante todo el contrato, sin cargos por salida de datos. Usted trabaja con nuestros ingenieros en un canal de Slack compartido, con un responsable técnico de cuenta designado, conforme a nuestros compromisos operativos.
La capacidad HGX B300 está en Toronto, emplazamiento en servicio, y en Delaware, en Estados Unidos, emplazamiento en puesta en marcha. Las asignaciones de mayor tamaño pueden requerir una garantía de pago, como un aval bancario o una carta de crédito. Nuestra página cómo contratar explica cada paso.
Cargas de trabajo y alternativas
Elija el HGX B300 cuando la memoria por GPU o el ancho de banda de GPU a GPU sean su límite: ejecuciones largas de preentrenamiento, postentrenamiento y aprendizaje por refuerzo, e inferencia de modelos que necesitan más de 180 GB por GPU. Nuestras páginas entrenamiento de IA e inferencia de IA tratan el resto de la pila, y dos artículos desarrollan las cifras: 8 x 270 GB: qué cabe en un nodo B300 y B300 para laboratorios de modelos de IA.
Si su trabajo necesita FP64 o cabe en 180 GB por GPU, considere el HGX B200. Si necesita 72 GPU en un solo dominio NVLink, los racks GB300 NVL72 están disponibles con reserva previa.
Servidores relacionados
Lo que preguntan los compradores
¿Cuántos servidores HGX B300 podemos alquilar?
Desde un solo servidor de 8 GPU hasta un clúster dedicado. Nuestros clústeres de referencia tienen 64, 128 y 288 nodos (de 512 a 2.304 GPU), y el diseño escala más allá. Consulte clústeres de GPU dedicados.
¿Podemos probar un servidor HGX B300 antes de firmar?
No ofrecemos periodos de prueba ni pruebas de concepto. Cada clúster supera las pruebas de validación de hardware de NVIDIA, de HW-1 a HW-5, antes de la entrega, y usted recibe los resultados en un informe de aceptación. Consulte burn-in y aceptación.
¿Dónde se alojan los servidores HGX B300?
En Toronto (Canadá), que está en servicio, y en Delaware (Estados Unidos), que se está poniendo en marcha. Su propuesta indica el emplazamiento.
¿Qué duraciones de contrato hay disponibles?
36, 48 o 60 meses, con tarifas más bajas para los contratos más largos. Usted abona un pago inicial a la firma y después una única tarifa mensual fija durante todo el contrato, sin cargos por salida de datos.
¿Es el HGX B300 adecuado para simulación FP64?
No. NVIDIA cifra un HGX B300 de 8 GPU en 10 TFLOPS de FP64, frente a 296 TFLOPS de un HGX B200. Para trabajos con mucho FP64, considere el HGX B200.
¿Pueden operar Kubernetes o Slurm en el clúster por nosotros?
Sí, como opción. Instalamos, operamos, actualizamos y monitorizamos Kubernetes con NVIDIA GPU Operator y Network Operator, o Slurm gestionado, con un precio adicional al del alquiler, indicado en su propuesta. Consulte Kubernetes gestionado.
Alquile servidores B300 con contratos de 36 a 60 meses.
Indíquenos el hardware, el número de servidores, la duración del contrato y la fecha de inicio. Recibirá una propuesta por escrito basada en nuestra especificación de entrega.