Оборудование под рабочую нагрузку
Выбор сервера зависит от того, что он должен держать в памяти и как далеко ему нужно обмениваться данными. На этих страницах серверы NVIDIA сопоставлены с четырьмя типами нагрузок.
Компания 1Legion сдаёт в аренду выделенные GPU-серверы NVIDIA для четырёх типов нагрузок. На каждой странице ниже объясняется, какие серверы подходят, что определяет размер и где они работают.
Четыре типа нагрузок
Для каждой нагрузки на первый план выходит своё ограничение: фабрика для обучения, память для инференса, энкодеры и драйверы для медиа и память, определяющая разрешение и длительность, для генеративного видео.
Обучение ИИ
Длительным запускам обучения нужны оборудование после нагрузочного прогона и неблокирующая фабрика. Кластеры HGX B300 от 64 до 288 узлов и серверы HGX B200, а также GB300 NVL72 и Vera Rubin по предварительному бронированию.
Инференс ИИ
Выделенные серверы обеспечивают предсказуемую задержку. Размер подбирается по весам и KV-кэшу: 270 ГБ на GPU у B300, 96 ГБ у RTX PRO 6000 Blackwell, 48 ГБ у L40S.
Медиа и развлечения
Рендеринг, VFX, виртуальный продакшн и транскодирование на серверах целиком, без платы за исходящий трафик при перемещении больших медиафайлов.
Генеративное видео
Диффузионные пайплайны, например ComfyUI, где память GPU определяет разрешение, длительность клипа и размер батча.
Как мы подбираем сервер
Оборудование определяют четыре вопроса, и коммерческое предложение письменно отвечает на каждый из них.
- Что должно поместиться в памяти GPU: веса, KV-кэш или активации и запас для среды выполнения.
- Как далеко GPU должны обмениваться данными: внутри одного сервера через NVLink или по всему кластеру через фабрику 800 Гбит/с на GPU.
- Сколько серверов и на какой срок: серверы целиком на 36, 48 или 60 месяцев, с более низкими ставками при более длительных сроках.
- Где они работают: Торонто и Монреаль (в эксплуатации), Делавэр (вводится в эксплуатацию), Финляндия (в разработке), а наша партнёрская сеть охватывает другие города на четырёх континентах.
В нашем каталоге GPU-серверов перечислены все модели, которые мы развёртываем, а в спецификации поставки описано, как строятся кластеры HGX B300.
Вопросы заказчиков
Как вы определяете, какой GPU-сервер подходит для нашей нагрузки?
Мы начинаем с памяти: веса модели, KV-кэш или активации и запас. Затем учитываем интерконнект, размер кластера и локацию. Для начала достаточно запроса предложения с размерами ваших моделей и объёмом трафика.
Можно ли в одном договоре сочетать серверы для обучения и для инференса?
Да. Коммерческое предложение может включать серверы HGX B300 для обучения и серверы RTX PRO 6000 Blackwell для инференса, и те и другие на срок 36, 48 или 60 месяцев.
Сдаёте ли вы GPU в почасовую аренду для теста?
Нет. Мы сдаём в аренду серверы целиком на срок от 36 до 60 месяцев, а вместо пробного периода каждый кластер до передачи проходит тесты нагрузочного прогона и приёмки.
Где работают серверы?
Мощности HGX B300 находятся в Торонто, серверы RTX PRO 6000 Blackwell и серверы для инференса находятся в Монреале, дополнительные мощности B300 вводятся в эксплуатацию в США, а площадка в Финляндии находится в разработке. Смотрите раздел «Дата-центры».
Расскажите, что вам нужно запускать.
Укажите оборудование, количество серверов, срок и дату начала. Вы получите письменное коммерческое предложение на основе нашей спецификации поставки.