Almacenamiento y redes
Al menos 1 TB de almacenamiento útil por GPU, una red norte-sur dedicada, dos proveedores de tránsito, filtrado de DDoS y su propio espacio de direcciones IP y ASN, todo ello establecido en nuestra especificación de entrega.
En 1Legion, el almacenamiento y las redes de los clústeres de GPU se especifican con el mismo rigor que las GPU: almacenamiento dimensionado por GPU, una red norte-sur dedicada, un perímetro de internet redundante con filtrado de DDoS y cabida para sus propias direcciones y su ASN. Todas las cifras de esta página proceden de nuestra especificación de entrega para clústeres HGX B300, y su propuesta enumera cualquier desviación numerada. Para otros servidores, el almacenamiento y las redes se configuran según sus requisitos y se confirman en su propuesta.
Dos opciones de almacenamiento
Elija un appliance de almacenamiento gestionado por el fabricante o nodos de almacenamiento que ejecuten su propio software; ambos se dimensionan según el número de GPU del clúster.
| Opción A: appliance de almacenamiento | Opción B: nodos de almacenamiento | |
|---|---|---|
| Qué recibe | Un appliance gestionado por el fabricante, de VAST Data, WEKA o DDN, a su elección | Nodos de almacenamiento para su propio software de almacenamiento |
| Capacidad | Al menos 1 TB útil por GPU | Al menos 3 TB en bruto por GPU |
| Unidades | El diseño con soporte del fabricante | Unidades NVMe PCIe 5.0 de 30,72 TB; se admiten unidades de autocifrado |
| Tamaños de referencia | 512 TB, 1.024 TB y 2.304 TB útiles para 64, 128 y 288 nodos | 9, 17 y 38 nodos, con un mínimo de 9 |
| Servicio | Escalado al fabricante 24/7, rendimiento y latencia comprometidos por nivel, uso y cuotas visibles, recuperación probada | Nosotros operamos el hardware y sustituimos las unidades NVMe antes de que alcancen su límite de resistencia; usted opera el software de almacenamiento |
La capacidad en bruto se cuenta antes de la protección de datos de su software de almacenamiento; la capacidad útil es la que ofrece el appliance después de la del fabricante. La opción A es adecuada para equipos que quieren que un solo fabricante responda del rendimiento, la latencia y la recuperación. La opción B es adecuada para equipos que ya operan su propio software de almacenamiento y quieren las unidades y los nodos, no un sistema gestionado.
Cada nodo GPU lleva además su propio NVMe: al menos 9,2 TB en bruto para datos locales, más de cuatro veces los 2,1 TB de memoria de GPU del nodo, además de dos unidades de arranque de 1 TB en espejo (preferiblemente). La prueba de burn-in HW-3 cubre GPUDirect RDMA y pruebas de humo de almacenamiento, incluidas la lectura y la escritura en NVMe.
En el entrenamiento, el tamaño y la frecuencia de los checkpoints determinan el rendimiento de escritura que necesita. Por qué fallan los entrenamientos de larga duración en la nube compartida trata la E/S de almacenamiento y los checkpoints en ejecuciones largas.
Red norte-sur
La red norte-sur conecta cada nodo con el almacenamiento, los servicios de CPU y el perímetro, y, al igual que el fabric de GPU, solo transporta su tráfico.
- Por nodo: 400 Gb/s preferiblemente, 200 Gb/s como mínimo, mediante NIC frontales NVIDIA BlueField-3 a 2 x 400 Gb/s (preferiblemente) o 2 x 200 Gb/s.
- Sobresuscripción: ninguna en los switches leaf de almacenamiento, de modo que sus enlaces ascendentes igualan el ancho de banda de todos los puertos que tienen por debajo; inferior a 4:1 en los switches leaf de GPU.
- Protocolos: compatible con RoCEv2, para que el tráfico de almacenamiento y de servicios pueda usar RDMA sobre Ethernet enrutado, con tramas jumbo de MTU 9000.
- Uso exclusivo: dedicada a un solo cliente y separada del fabric de GPU este-oeste descrito en clústeres de GPU.
Perímetro de internet y protección contra DDoS
Su clúster accede a internet a través de dos proveedores de tránsito independientes y dos routers perimetrales redundantes, con un filtrado de DDoS que se activa mediante BGP en un plazo de 5 minutos.
- Tránsito: dos proveedores independientes a 100 Gb/s por circuito, por rutas físicamente separadas, de modo que un solo corte de fibra no deja sin servicio a ambos.
- Enrutamiento: eBGP con BFD, de modo que se detecta una ruta caída y el tráfico conmuta en un plazo de un minuto.
- Routers perimetrales: dos, redundantes, con alimentación A y B.
- ACL perimetrales: redactadas según sus reglas, con cambios aplicados en un plazo de un día hábil.
- Protección contra DDoS: filtrado volumétrico de capas 3 y 4 a cargo de un proveedor consolidado, activado mediante BGP en un plazo de 5 minutos, con al menos 1 Tb/s de capacidad.
NAT y direcciones públicas
El tráfico saliente sale por un par de NAT redundante con direcciones que solo usa usted, y los servicios entrantes reciben direcciones públicas dedicadas con conmutación por error en un plazo de 5 segundos.
NAT y tráfico de salida
Un par de NAT redundante de alta disponibilidad gestiona al menos 10 millones de sesiones simultáneas en direcciones SNAT dedicadas, normalmente cuatro, para que sus socios puedan incluir su tráfico saliente en una lista de permitidos por dirección.
Direcciones públicas de servicio
Recibe direcciones públicas dedicadas, normalmente ocho, y puede anunciar las VIP de sus servicios mediante BGP, con conmutación por error en un plazo de 5 segundos. IPv6 funciona en doble pila junto a IPv4.
Traiga su propio espacio de direcciones IP y ASN
Si dispone de su propio espacio de direcciones IP y ASN, nuestra red perimetral puede anunciarlos, de modo que sus servicios conservan las direcciones que sus usuarios y socios ya conocen.
- Sus prefijos y su ASN: la red perimetral anuncia los prefijos propiedad del cliente y su ASN.
- RPKI: se respetan las autorizaciones de origen de ruta (ROA) de sus prefijos.
- Seguridad de las sesiones: las sesiones BGP están autenticadas.
Telemetría de red
Ambos routers perimetrales exportan registros de flujo a su colector en NetFlow v9 o IPFIX, para que sus equipos de red y de seguridad vean lo que cruza el perímetro.
También recopilamos telemetría de hardware fuera de banda mediante BMC y Redfish, y telemetría de red y de la instalación cuando está disponible. La telemetría operativa se conserva al menos 30 días, y el historial de incidentes y de estado, al menos 12 meses. Seguridad y cumplimiento trata el control de acceso y nuestro acceso fuera de banda auditado, y compromisos operativos enumera todos los tiempos de respuesta.
Qué cubre la tarifa
La tarifa cubre los servidores y las redes que los conectan. El almacenamiento y los nodos que rodean a las GPU se presupuestan en líneas propias, de modo que paga por lo que usa su diseño.
| Elemento | Dónde aparece |
|---|---|
| Servidores GPU, con sus CPU, memoria, unidades NVMe y tarjetas de red | Incluido en la tarifa |
| Fabric en los clústeres HGX B300, 800 Gb/s por GPU | Incluido en la tarifa |
| Red norte-sur, construida según la especificación de entrega | Incluido en la tarifa |
| Red perimetral: dos proveedores de tránsito, routers perimetrales redundantes, direcciones públicas dedicadas y filtrado de DDoS | Incluido en todos los clústeres HGX B300 |
| Ancho de banda de internet fijado en su propuesta, sin cargos por salida de datos | Incluido en la tarifa |
| Appliance de almacenamiento de VAST Data, WEKA o DDN, o nodos de almacenamiento | Línea propia en su propuesta |
| NVMe local adicional a las unidades estándar del servidor | Línea propia en su propuesta |
| Nodos de CPU y de plano de control | Líneas propias en su propuesta |
| Más ancho de banda y diseños de red que van más allá de la especificación de entrega | Presupuestado en su propuesta |
Cómo contratar explica las condiciones, la facturación y el resto del contenido de una propuesta.
Lo que preguntan los compradores
¿Qué fabricantes de almacenamiento ofrecen?
VAST Data, WEKA o DDN como appliance gestionado por el fabricante, a su elección, o nodos de almacenamiento que ejecutan su propio software de almacenamiento.
¿Cuánto almacenamiento incluye un clúster HGX B300?
Al menos 1 TB útil por GPU en el appliance, es decir, 512 TB para un clúster de 64 nodos, o al menos 3 TB en bruto por GPU en nodos de almacenamiento. Cada nodo GPU tiene además al menos 9,2 TB de NVMe local en bruto.
¿Aplican cargos por salida de datos?
No. Los clústeres se facturan con una única tarifa fija durante el contrato, sin cargos por salida de datos.
¿Podemos aportar nuestras propias direcciones IP y nuestro ASN?
Sí. La red perimetral puede anunciar sus prefijos y su ASN, respeta los ROA de RPKI y autentica las sesiones BGP.
¿Con qué rapidez se activa la protección contra DDoS?
El filtrado volumétrico de capas 3 y 4 se activa mediante BGP en un plazo de 5 minutos, con al menos 1 Tb/s de capacidad.
¿Se aplica esto a todos los servidores?
Se aplica a los clústeres HGX B300 construidos según nuestra especificación de entrega. Para otros servidores, el almacenamiento y las redes se configuran según sus requisitos y se confirman en su propuesta.
Díganos qué necesita ejecutar.
Indíquenos el hardware, el número de servidores, la duración del contrato y la fecha de inicio. Recibirá una propuesta por escrito basada en nuestra especificación de entrega.