Hardware dimensionado según la carga de trabajo

El servidor adecuado depende de lo que tiene que alojar en memoria y de hasta dónde tiene que comunicarse. Estas páginas relacionan servidores NVIDIA con cuatro tipos de trabajo.

1Legion alquila servidores GPU NVIDIA dedicados para cuatro tipos de trabajo. Cada una de las páginas siguientes explica qué servidores encajan, qué determina el tamaño y dónde funcionan.

Cuatro cargas de trabajo

Cada carga de trabajo tiene un límite principal distinto. En el entrenamiento es el fabric; en la inferencia, la memoria; en medios, los codificadores y los controladores; y en el vídeo generativo, la memoria para la resolución y la duración.

Entrenamiento de IA

Las ejecuciones de entrenamiento largas necesitan hardware sometido a burn-in y un fabric no bloqueante. Clústeres HGX B300 de 64 a 288 nodos y servidores HGX B200, con GB300 NVL72 y Vera Rubin con reserva previa.

Clústeres de GPU para entrenamiento de IA

Inferencia de IA

Los servidores dedicados mantienen una latencia predecible. Dimensione según los pesos más la caché KV: 270 GB por GPU en B300, 96 GB en RTX PRO 6000 Blackwell y 48 GB en L40S.

Servidores GPU para inferencia de IA

Medios y entretenimiento

Renderizado, VFX, producción virtual y transcodificación en servidores completos, sin cargos por salida de datos al mover archivos multimedia de gran tamaño.

Servidores GPU para renderizado y medios

Vídeo generativo

Pipelines de difusión como ComfyUI, en los que la memoria de la GPU determina la resolución, la duración de los clips y el tamaño de lote.

Servidores GPU para vídeo generativo

Cómo dimensionamos un servidor

Cuatro preguntas determinan el hardware, y una propuesta responde a cada una por escrito.

  1. Qué tiene que caber en la memoria de la GPU: los pesos, la caché KV o las activaciones y un margen para el entorno de ejecución.
  2. Hasta dónde tienen que comunicarse las GPU: dentro de un servidor mediante NVLink o a través de un clúster mediante un fabric de 800 Gb/s por GPU.
  3. Cuántos servidores y durante cuánto tiempo: servidores completos con contratos de 36, 48 o 60 meses, con tarifas más bajas para los contratos más largos.
  4. Dónde funcionan: Toronto y Montreal están en servicio, Delaware se está poniendo en marcha, Finlandia está en desarrollo y nuestra red de socios cubre más ciudades de cuatro continentes.

Nuestro catálogo de servidores GPU recoge todos los modelos que desplegamos, y la especificación de entrega establece cómo se construyen los clústeres HGX B300.

Lo que preguntan los compradores

¿Cómo deciden qué servidor GPU se adapta a nuestra carga de trabajo?

Partimos de la memoria: los pesos del modelo, la caché KV o las activaciones y el margen. Después, la interconexión, el tamaño del clúster y la ubicación. Para empezar basta con una solicitud de presupuesto con los tamaños de sus modelos y su tráfico.

¿Puede un contrato combinar servidores de entrenamiento y de inferencia?

Sí. Una propuesta puede incluir servidores HGX B300 para entrenamiento y servidores RTX PRO 6000 Blackwell para inferencia, cada uno con contratos de 36, 48 o 60 meses.

¿Alquilan GPU por horas para hacer una prueba?

No. Alquilamos servidores completos con contratos de 36 a 60 meses, y cada clúster supera las pruebas de burn-in y aceptación antes de la entrega, en lugar de un periodo de prueba.

¿Dónde funcionan los servidores?

La capacidad HGX B300 está en Toronto; los RTX PRO 6000 Blackwell y los servidores de inferencia, en Montreal; se está poniendo en marcha más capacidad B300 en Estados Unidos, y hay un emplazamiento en Finlandia en desarrollo. Consulte centros de datos.

Díganos qué necesita ejecutar.

Indíquenos el hardware, el número de servidores, la duración del contrato y la fecha de inicio. Recibirá una propuesta por escrito basada en nuestra especificación de entrega.