NVIDIA RTX PRO 6000 Blackwell

RTX PRO 6000 Blackwell рассчитана на команды, которым нужен большой объём памяти на GPU при мощности до 600 Вт, а не на уровне HGX: команды инференса, обслуживающие модели класса 70B в FP8 или FP4, студии генеративного видео и изображений, а также медиапайплайны рендеринга, кодирования и стриминга.

Каждый GPU оснащён 96 ГБ GDDR7 с ECC, всего 768 ГБ на сервер. Веса модели с 70 млрд параметров в FP8 занимают около 70 ГБ, поэтому модель помещается на один GPU с запасом для KV-кэша, а 4-битная версия той же модели оставляет свободными около 60 ГБ.

GPU подключаются по PCIe 5.0 x16, без NVLink. RTX PRO 6000 подходит для моделей, которые помещаются на один GPU или легко разделяются между несколькими; моделям, которым нужен интенсивный обмен данными между GPU, место на сервере HGX.

Серверы конфигурируются под ваши требования, а конфигурация подтверждается в коммерческом предложении: CPU, системная память, локальные NVMe-накопители и сеть. Данные на этой странице относятся к Server Edition, версии карты NVIDIA для дата-центров с пассивным охлаждением, мощность которой настраивается до 600 Вт на GPU.

На нашей площадке в Монреале есть инженерная поддержка на месте. Каждый сервер проходит нагрузочный прогон до передачи, результаты фиксируются в отчёте о приёмке, а тесты описаны на странице «Нагрузочный прогон и приёмка».

В Монреале открыто бронирование RTX PRO 6000 Blackwell. Вы арендуете серверы на 8 GPU целиком по договору на 36, 48 или 60 месяцев, и чем длиннее срок, тем ниже ставка.

Компания, которая будет использовать серверы, до подписания договора заполняет три формы для подключения. При подписании договора вы вносите авансовый платёж, а затем платите по единой фиксированной ежемесячной ставке в течение всего срока, без платы за исходящий трафик, что важно, когда вы загружаете и выгружаете большие видеофайлы. Мы не предоставляем пробный период: его заменяют нагрузочный прогон и отчёт о приёмке. Площадка в Монреале расположена в Канаде, и 1Legion является канадской компанией: смотрите страницу «GPU-серверы в Канаде». Каждый шаг описан на странице «Как заказать».

• Инференс LLM: модели класса 70B в FP8 или FP4, по одной модели на GPU или с разделением между несколькими GPU. Смотрите страницу «Инференс ИИ».
• Генеративное видео и изображения: ComfyUI и похожие диффузионные пайплайны, где объём памяти определяет разрешение, длительность и размер батча. Смотрите страницу «Генеративное видео».
• Рендеринг, VFX и транскодирование: смотрите страницу «Медиа и развлечения».

О подборе конфигурации читайте в статьях «8 × 96 ГБ: что помещается на узле RTX PRO 6000 Blackwell» и «ComfyUI и ИИ-видео на выделенном bare metal». Если достаточно 48 ГБ на GPU, по запросу доступен L40S; для самых крупных моделей HGX B300 предлагает 270 ГБ на GPU.