NVIDIA HGX B300

HGX B300 предназначен для команд, чьи модели переросли память от 80 до 180 ГБ на GPU. У каждого GPU 270 ГБ HBM3e (2,1 ТБ на сервер), поэтому модель с 70 млрд параметров в FP8 (около 70 ГБ весов) оставляет на одном GPU около 200 ГБ для KV-кэша и батчинга.

ИИ-лаборатории арендуют его для запусков предобучения и постобучения, которые длятся неделями. Команды инференса арендуют его для обслуживания рассуждающих моделей и моделей mixture-of-experts с длинными контекстами. Это основная линейка мощностей 1Legion и сервер, вокруг которого написана наша спецификация поставки HGX B300.

Конфигурация взята из нашей спецификации поставки 1LG-DEL-SPEC-2026-001. Всё, что меняется в вашем коммерческом предложении, указывается как пронумерованное отклонение, поэтому вы видите, чем ваши серверы отличаются от опубликованной базовой конфигурации.

• CPU и память: не менее 128 vCPU и предпочтительно 3 ТБ системной памяти, но никогда не менее 240 ГБ на GPU (1,92 ТБ).
• Локальное хранилище: предпочтительно зеркальная пара загрузочных NVMe-накопителей по 1 ТБ, а также не менее 9,2 ТБ сырой ёмкости NVMe для данных, что более чем в четыре раза превышает объём памяти GPU.
• Сеть: 800 Гбит/с на GPU в бэкенд-сети, предпочтительно на NVIDIA ConnectX-8, и фронтенд на NVIDIA BlueField-3: предпочтительно 2 × 400 Гбит/с, минимум 2 × 200 Гбит/с.
• Охлаждение и питание: воздушное охлаждение, как рекомендует OEM для кластерных развёртываний. Мы закладываем около 14 кВт на сервер.

На HGX B300 открыто бронирование. Вы арендуете серверы целиком, а каждая цена указывается в письменном коммерческом предложении.

1. Запрос и коммерческое предложение

   Сообщите, сколько серверов вам нужно, на какой срок и с какой даты. Мы ответим уточняющими вопросами или письменным коммерческим предложением.

2. Подключение и договор

   Компания, которая будет использовать серверы, заполняет три формы для подключения, подписывает договор на 36, 48 или 60 месяцев и вносит авансовый платёж. Чем дольше срок, тем ниже ставка.

3. Сборка и нагрузочный прогон

   Мы собираем оборудование по спецификации поставки и проводим тесты валидации оборудования NVIDIA с HW-1 по HW-5. Результаты входят в ваш отчёт о приёмке.

4. Эксплуатация

   Счета выставляются ежемесячно по единой фиксированной ставке в течение всего срока, без платы за исходящий трафик. Вы работаете с нашими инженерами в общем канале в Slack, с закреплённым техническим аккаунт-менеджером, в соответствии с нашими обязательствами по эксплуатации.

Мощности HGX B300 размещены в Торонто (в эксплуатации) и в Делавэре, США (вводятся в эксплуатацию). Для больших объёмов мощностей может потребоваться обеспечение платежей, например банковская гарантия или аккредитив. Каждый шаг описан на странице «Как заказать».

Выбирайте HGX B300, когда вас ограничивает память на GPU или пропускная способность между GPU: длительные запуски предобучения, постобучение и обучение с подкреплением, а также инференс моделей, которым нужно более 180 ГБ на GPU. Остальная часть стека описана на страницах «Обучение ИИ» и «Инференс ИИ», а расчёты разобраны в двух статьях: «8 × 270 ГБ: что помещается на узле B300» и «B300 для лабораторий ИИ-моделей».

Если вашим задачам нужен FP64 или они умещаются в 180 ГБ на GPU, обратите внимание на HGX B200. Если вам нужны 72 GPU в одном домене NVLink, стойки GB300 NVL72 доступны по предварительному бронированию.