Serveurs GPU pour la vidéo et l'image génératives
Des serveurs NVIDIA dédiés pour ComfyUI et d'autres pipelines de diffusion, avec de 32 Go à 270 Go par GPU, pour que les modèles restent chargés et que les clips atteignent la résolution et la durée dont vous avez besoin.
Un serveur GPU pour ComfyUI ou tout autre pipeline de diffusion se dimensionne selon la mémoire : le modèle, son encodeur de texte et son VAE, ainsi que les représentations latentes de chaque image, doivent tenir simultanément sur le GPU. 1Legion loue des serveurs complets à 8 GPU équipés de cartes RTX PRO 6000 Blackwell de 96 Go ou RTX 5090 de 32 Go, ainsi que des HGX B300 avec 270 Go par GPU pour les plus grands modèles vidéo.
Pourquoi la mémoire GPU fixe la résolution, la durée et la taille des lots
Dans un pipeline de diffusion, la mémoire GPU détermine la taille d'image que vous pouvez générer, le nombre d'images qu'un clip peut contenir et le nombre de clips traités simultanément.
Les poids occupent 2 octets par paramètre en BF16, 1 octet en FP8 et un demi-octet en FP4.
| Taille du modèle | BF16 | FP8 | FP4 |
|---|---|---|---|
| 5 milliards de paramètres | 10 Go | 5 Go | 2,5 Go |
| 14 milliards de paramètres | 28 Go | 14 Go | 7 Go |
| 30 milliards de paramètres | 60 Go | 30 Go | 15 Go |
L'encodeur de texte et le VAE se chargent en plus du modèle de diffusion. Les activations croissent ensuite avec la représentation latente : avec un VAE qui compresse d'un facteur 8 dans chaque dimension spatiale et d'un facteur 4 dans le temps, et des patchs de 2 x 2, une seule image de 1280 x 720 représente 3 600 jetons, et un clip de 81 images, 75 600. Doubler le nombre d'images double le nombre de jetons et multiplie environ par quatre le travail d'attention, et chaque clip supplémentaire dans un lot ajoute ses propres représentations latentes. Quand la mémoire vient à manquer, ComfyUI décharge les poids vers la mémoire système, un décodage VAE par tuiles traite chaque image par morceaux, ou vous réduisez la résolution ou la durée, et chacune de ces solutions coûte du temps ou de la qualité.
Quels serveurs pour les travaux de diffusion
Le RTX PRO 6000 Blackwell convient aux modèles vidéo en BF16, le RTX 5090 aux modèles d'image et aux modèles vidéo quantifiés, et le HGX B300 aux plus grands modèles et à leur entraînement.
RTX PRO 6000 Blackwell
96 Go de GDDR7 avec ECC par GPU et 768 Go par serveur, avec FP8 et FP4 sur des cœurs Tensor de cinquième génération. Un modèle 14B en BF16 laisse environ 68 Go pour l'encodeur, le VAE et les activations. Allocations ouvertes, à Montréal.
GeForce RTX 5090
32 Go de GDDR7 par GPU et 256 Go par serveur, avec 21 760 cœurs CUDA et des cœurs Tensor de cinquième génération. Un modèle 14B en FP8 laisse environ 18 Go pour l'encodeur, le VAE et les activations. Sur demande.
HGX B300
270 Go de HBM3e par GPU et 2,1 To par serveur, avec NVLink à 1,8 To/s par GPU lorsqu'un modèle ou un long clip est réparti sur plusieurs GPU. Allocations ouvertes, à Toronto.
NVIDIA met aussi en avant la génération vidéo par diffusion pour le GB300 NVL72, qui réunit 72 GPU et 20 To de HBM3e dans un seul domaine NVLink, sur réservation.
Exploiter ComfyUI en production
ComfyUI gère une file d'attente par processus : un serveur de production exécute donc généralement une instance par GPU, soit huit par serveur, derrière votre propre routeur de tâches.
- Attribuez chaque instance à un GPU : lancez chaque processus avec
--cuda-deviceréglé sur son GPU, pour qu'une longue tâche vidéo sur un GPU ne ralentisse jamais les sept autres. - Gardez les modèles en mémoire : avec 96 Go par GPU, le modèle de diffusion, l'encodeur de texte et le VAE restent dans la mémoire GPU entre les tâches au lieu d'être rechargés pour chacune.
- Figez votre environnement : les nœuds personnalisés, les versions des modèles et les pilotes restent tels que vous les avez configurés, et les changements de notre côté suivent une gestion des changements écrite, avec un préavis d'au moins 7 jours pour toute maintenance à risque élevé.
- Encodez sur le GPU : le RTX PRO 6000 Blackwell dispose de 4 encodeurs NVENC par GPU et le RTX 5090 de 3, tous deux avec AV1 : les clips terminés n'attendent donc pas un encodage sur CPU. NVIDIA limite les cartes GeForce à 12 sessions d'encodage simultanées par système.
- Déplacez librement vos résultats : la vidéo générée sort du serveur sans frais de sortie de données.
La même organisation s'applique aux pipelines construits sur Hugging Face Diffusers ou sur votre propre code PyTorch. Notre article ComfyUI et vidéo IA sur bare metal traite de ComfyUI sur serveurs dédiés.
Des serveurs d'inférence pour modèles de diffusion sur lesquels fonder votre planification
Sur un serveur réservé à votre seul usage, un flux de travail qui prend un certain temps aujourd'hui prendra le même temps le mois prochain : vous pouvez donc planifier la production et les dates de livraison à partir de vos propres mesures.
Mesurez combien de clips un GPU produit en une heure pour chaque flux de travail, multipliez par les huit GPU du serveur, et vous obtenez la capacité d'un serveur, sans file d'attente partagée devant vos tâches ni autre locataire sur les GPU. MIG divise un RTX PRO 6000 Blackwell en jusqu'à quatre instances de 24 Go, ou deux de 48 Go, pour les petits modèles d'image. Pour les étapes LLM d'un même produit, comme l'enrichissement des prompts ou la génération de légendes, voir Serveurs GPU pour l'inférence IA. Notre article Ce qui tient sur un nœud RTX PRO 6000 traite du réglage fin avec QLoRA sur les mêmes cartes, et l'article Exploiter des RTX 5090 à grande échelle traite des déplacements de données et du temps d'inactivité.
Serveurs GPU de vidéo générative avec des engagements de 36 à 60 mois
Les serveurs de vidéo générative sont loués en entier, 8 GPU par serveur, pour 36, 48 ou 60 mois à un tarif mensuel fixe unique défini dans une proposition écrite.
Vous versez un acompte à la signature, puis payez chaque mois, sans frais de sortie de données, et plus l'engagement est long, plus le tarif est bas. Les RTX PRO 6000 Blackwell sont exploités à Montréal et les HGX B300 à Toronto. La page Comment acheter présente l'ouverture de compte et le contrat.
Questions des acheteurs
De combien de mémoire GPU un flux de travail vidéo ComfyUI a-t-il besoin ?
Additionnez les poids du modèle de diffusion (2 octets par paramètre en BF16, 1 en FP8), l'encodeur de texte et le VAE, et les activations, qui croissent avec la résolution et le nombre d'images. Un modèle vidéo de 14 milliards de paramètres nécessite 28 Go en BF16 avant tout le reste.
Pouvons-nous exécuter plusieurs instances ComfyUI sur un même serveur ?
Oui. L'organisation habituelle est une instance par GPU, soit huit par serveur, chacune attribuée à son GPU, avec votre propre routeur de tâches en amont.
Un RTX 5090 suffit-il pour la génération vidéo ?
Avec 32 Go par GPU, il accueille les modèles d'image, ainsi qu'un modèle vidéo 14B en FP8 en laissant environ 18 Go pour l'encodeur de texte, le VAE et les activations. Pour des poids en BF16, des clips plus longs ou une résolution plus élevée, choisissez le RTX PRO 6000 Blackwell avec 96 Go.
Pouvons-nous louer un GPU pendant un mois pour tester notre flux de travail ?
Non. Nous louons des serveurs complets pour 36, 48 ou 60 mois et ne proposons ni essais ni locations de courte durée. Les serveurs sont soumis au déverminage avant la mise à disposition, avec les résultats consignés dans un rapport de réception.
Facturez-vous le téléchargement des vidéos générées ?
Non. Il n'y a pas de frais de sortie de données, et le tarif mensuel est fixe pendant toute la durée du contrat.
Dimensionner un serveur pour votre pipeline vidéo
Indiquez-nous les modèles, les résolutions, la durée des clips et le volume quotidien : nous répondons par une proposition écrite.