Servidores GPU para vídeo e imagen generativos
Servidores NVIDIA dedicados para ComfyUI y otros pipelines de difusión, con entre 32 GB y 270 GB por GPU, para que los modelos permanezcan cargados y los clips alcancen la resolución y la duración que necesita.
Un servidor GPU para ComfyUI o cualquier otro pipeline de difusión se dimensiona por memoria: el modelo con su codificador de texto y su VAE, más los latentes de cada fotograma, tienen que caber en la GPU a la vez. 1Legion alquila servidores completos de 8 GPU con tarjetas RTX PRO 6000 Blackwell de 96 GB o RTX 5090 de 32 GB, y HGX B300 con 270 GB por GPU para los modelos de vídeo más grandes.
Por qué la memoria de la GPU fija la resolución, la duración y el tamaño de lote
En un pipeline de difusión, la memoria de la GPU determina el tamaño de fotograma que puede generar, cuántos fotogramas puede tener un clip y cuántos clips se ejecutan a la vez.
Los pesos ocupan 2 bytes por parámetro en BF16, 1 byte en FP8 y medio byte en FP4.
| Tamaño del modelo | BF16 | FP8 | FP4 |
|---|---|---|---|
| 5B parámetros | 10 GB | 5 GB | 2,5 GB |
| 14B parámetros | 28 GB | 14 GB | 7 GB |
| 30B parámetros | 60 GB | 30 GB | 15 GB |
El codificador de texto y el VAE se cargan además del modelo de difusión. Después, las activaciones crecen con el latente: con un VAE que comprime 8x en cada dimensión espacial y 4x en el tiempo, y parches de 2 x 2, un solo fotograma de 1280 x 720 equivale a 3.600 tokens y un clip de 81 fotogramas, a 75.600. Duplicar el número de fotogramas duplica los tokens y multiplica aproximadamente por cuatro el trabajo de atención, y cada clip adicional en un lote añade sus propios latentes. Cuando se agota la memoria, ComfyUI descarga pesos a la memoria del sistema, una decodificación VAE por mosaicos procesa cada fotograma por partes o usted reduce la resolución o la duración; cada una de esas opciones cuesta tiempo o calidad.
Qué servidores encajan con el trabajo de difusión
RTX PRO 6000 Blackwell encaja con modelos de vídeo en BF16; RTX 5090, con modelos de imagen y modelos de vídeo cuantizados; y HGX B300, con los modelos más grandes y su entrenamiento.
RTX PRO 6000 Blackwell
96 GB de GDDR7 con ECC por GPU y 768 GB por servidor, con FP8 y FP4 en Tensor Cores de quinta generación. Un modelo de 14B en BF16 deja unos 68 GB para el codificador, el VAE y las activaciones. Asignación abierta, en Montreal.
GeForce RTX 5090
32 GB de GDDR7 por GPU y 256 GB por servidor, con 21.760 núcleos CUDA y Tensor Cores de quinta generación. Un modelo de 14B en FP8 deja unos 18 GB para el codificador, el VAE y las activaciones. Bajo petición.
HGX B300
270 GB de HBM3e por GPU y 2,1 TB por servidor, con NVLink a 1,8 TB/s por GPU cuando un modelo o un clip largo se reparte entre varias GPU. Asignación abierta, en Toronto.
NVIDIA también destaca la generación de vídeo basada en difusión para GB300 NVL72, que reúne 72 GPU y 20 TB de HBM3e en un único dominio NVLink, con reserva previa.
Ejecutar ComfyUI en producción
ComfyUI ejecuta una cola por proceso, por lo que un servidor de producción suele ejecutar una instancia por GPU, ocho por servidor, detrás de su propio enrutador de trabajos.
- Asigne cada instancia a una GPU: inicie cada proceso con
--cuda-deviceapuntando a su GPU, para que un trabajo de vídeo largo en una GPU nunca ralentice las otras siete. - Mantenga los modelos cargados: con 96 GB por GPU, el modelo de difusión, el codificador de texto y el VAE permanecen en la memoria de la GPU entre trabajos, en lugar de recargarse para cada uno.
- Congele su entorno: los nodos personalizados, las versiones de los modelos y los controladores se quedan como usted los configura, los cambios por nuestra parte siguen una gestión de cambios por escrito y el mantenimiento de alto riesgo se avisa con al menos 7 días de antelación.
- Codifique en la GPU: RTX PRO 6000 Blackwell tiene 4 codificadores NVENC por GPU y RTX 5090 tiene 3, ambas con AV1, de modo que los clips terminados no esperan a una codificación por CPU. NVIDIA limita las tarjetas GeForce a 12 sesiones de codificación simultáneas por sistema.
- Mueva los resultados libremente: el vídeo generado sale del servidor sin cargos por salida de datos.
La misma distribución se aplica a los pipelines basados en Hugging Face Diffusers o en su propio código PyTorch. Nuestro artículo sobre ComfyUI y vídeo con IA en bare metal trata ComfyUI en servidores dedicados.
Servidores de inferencia para modelos de difusión con los que puede planificar
En un servidor que solo usa usted, un flujo de trabajo que hoy tarda un tiempo determinado tardará lo mismo el mes que viene, así que puede planificar la producción y las fechas de entrega a partir de sus propias mediciones.
Mida cuántos clips genera una GPU en una hora para cada flujo de trabajo, multiplíquelos por las ocho GPU de cada servidor y tendrá la capacidad de un servidor, sin una cola compartida delante de sus trabajos y sin otros inquilinos en las GPU. MIG divide una RTX PRO 6000 Blackwell en hasta cuatro instancias de 24 GB, o dos de 48 GB, para modelos de imagen pequeños. Para los pasos con LLM del mismo producto, como la ampliación de prompts o la generación de descripciones, consulte servidores GPU para inferencia de IA. Nuestro artículo sobre qué cabe en un nodo RTX PRO 6000 trata el ajuste fino con QLoRA en las mismas tarjetas, y el de ejecutar RTX 5090 a escala trata el movimiento de datos y el tiempo de inactividad.
Servidores GPU para vídeo generativo con contratos de 36 a 60 meses
Los servidores para vídeo generativo se alquilan completos, con 8 GPU por servidor, durante 36, 48 o 60 meses con una única tarifa mensual fija establecida en una propuesta por escrito.
Usted abona un pago inicial a la firma y, después, mensualidades, sin cargos por salida de datos; los contratos más largos tienen tarifas más bajas. Los RTX PRO 6000 Blackwell funcionan en Montreal y los HGX B300, en Toronto. Cómo contratar explica el alta y el contrato.
Lo que preguntan los compradores
¿Cuánta memoria de GPU necesita un flujo de trabajo de vídeo en ComfyUI?
Sume los pesos del modelo de difusión (2 bytes por parámetro en BF16, 1 en FP8), los del codificador de texto y el VAE, más las activaciones, que crecen con la resolución y el número de fotogramas. Un modelo de vídeo de 14B parámetros necesita 28 GB en BF16 antes de sumar nada más.
¿Podemos ejecutar varias instancias de ComfyUI en un servidor?
Sí. La distribución habitual es una instancia por GPU, ocho por servidor, cada una asignada a su GPU, con su propio enrutador de trabajos delante.
¿Basta una RTX 5090 para generar vídeo?
Con 32 GB por GPU caben modelos de imagen y un modelo de vídeo de 14B en FP8 con unos 18 GB libres para el codificador de texto, el VAE y las activaciones. Para pesos en BF16, clips más largos o mayor resolución, elija RTX PRO 6000 Blackwell con 96 GB.
¿Podemos alquilar una GPU durante un mes para probar nuestro flujo de trabajo?
No. Alquilamos servidores completos durante 36, 48 o 60 meses y no ofrecemos periodos de prueba ni alquileres a corto plazo. Los servidores se someten a burn-in antes de la entrega, con los resultados en un informe de aceptación.
¿Cobran por descargar el vídeo generado?
No. No hay cargos por salida de datos, y la tarifa mensual es fija durante el contrato.
Dimensionar un servidor para su pipeline de vídeo
Indíquenos los modelos, las resoluciones, la duración de los clips y el volumen diario, y le responderemos con una propuesta por escrito.