귀사만의GPU 클러스터.

1Legion은 베어메탈 GPU 클라우드입니다. 전용 NVIDIA GPU 서버와 클러스터를 36~60개월 약정으로 임대하며, 공개된 사양서에 따라 구축하고 인도 전에 번인 테스트를 거쳐 서면 운영 약속에 따라 운영합니다.

토론토 할당 접수 중
HGX B300
GPU당 HBM3e
270 GB
GPU당 동서 네트워크
800 Gb/s
약정 기간, 단일 고정 요금
36~60개월

1Legion 클러스터 내부

한 고객을 위한 클러스터 전체

1Legion의 최대 레퍼런스 설계는 HGX B300 노드 288개를 레일 최적화 논블로킹 패브릭 하나로 연결하고, 전용 스토리지, CPU 노드 및 컨트롤 플레인을 갖춥니다. 공유되는 것은 없습니다. 다른 테넌트도, 하이퍼바이저도 없습니다.

GPU 노드
288
NVIDIA B300 GPU
2,304
예상 IT 부하(약)
4.39 MW

2개의 전력 경로를 갖춘 랙

공랭식 HGX B300 서버는 모든 랙에 대한 A 전원과 B 전원, 계약상 랙당 전력 한도, 그리고 이를 감당할 냉각 성능을 확약하는 시설에만 배치합니다. GPU 노드당 약 14 kW를 계획 기준으로 삼습니다.

GPU 노드당(계획 기준치)
14 kW
랙당 독립 전력 경로
2
노드당 로컬 NVMe(최소)
9.2 TB

GPU 8개, 단일 NVLink 도메인

각 서버에는 GPU마다 270 GB HBM3e를 탑재한 Blackwell Ultra GPU 8개가 들어가며, 이 GPU는 NVSwitch를 거치는 5세대 NVLink로 서로 연결됩니다. 또한 모든 GPU에 클러스터 패브릭으로 이어지는 전용 800 Gb/s 경로를 제공합니다.

서버당 HBM3e
2.1 TB
GPU당 NVLink
1.8 TB/s
GPU당 패브릭 대역폭
800 Gb/s

64노드에서 시작해 288노드까지 확장합니다.

3가지 레퍼런스 규모가 하나의 사양을 공유하므로, 재설계 없이 클러스터를 확장할 수 있습니다. 더 큰 클러스터는 주문에 맞춰 설계하며, 모든 예외 항목은 제안서에 번호를 매겨 명시합니다.

수치64노드128노드288노드
NVIDIA B300 GPU5121,0242,304
가용 스토리지512 TB1,024 TB2,304 TB
IT 부하(약)0.98 MW1.95 MW4.39 MW

고객 및 파트너

1Legion과 협력하는 AI 기업, GPU 클라우드 기업, 데이터센터 운영사, 통신 사업자 및 하드웨어 제조사입니다.

36곳 모두 보기
  • Akash Network
  • Vast.ai
  • Viggle AI
  • Dell Technologies
  • AudioShake
  • DDN
  • WEKA
  • Hewlett Packard Enterprise
  • Massed Compute
  • Compute Exchange
  • Zayo
  • Supermicro
  • Cogent
  • eStruxture Data Centers
  • Enovum Data Centers
  • Lenovo
  • CloudRift
  • Cocoon
  • Skyportal
  • Cisco
  • GenAI Works
  • DVEO
  • Computer Modules
  • ASUS
  • WiseDV
  • ISS Intelligent Security Systems
  • Templus
  • GIGABYTE
  • UK Servers
  • Glide
  • Inflect
  • Aivres
  • PodWarden
  • Ignite
  • Dacentec
  • AMAX

하나의 운영사, 4가지 협력 방법

서버를 임대하거나, 서버에서 실행되는 소프트웨어의 운영을 맡기거나, 파트너 시설에 하드웨어를 배치하거나, 보유하신 클러스터의 운영과 고객 유치를 1Legion에 맡기실 수 있습니다.

GPU 서버 및 클러스터

NVIDIA 서버 전체와 전용 클러스터를 36개월, 48개월 또는 60개월 약정으로 임대합니다. 단일 HGX B300 서버부터 자체 패브릭과 스토리지를 갖춘 288노드 클러스터까지 제공합니다.

관리형 Kubernetes

귀사의 전용 서버에 NVIDIA GPU Operator와 Network Operator를 포함해 Kubernetes를 설치한 뒤, 운영, 업그레이드 및 모니터링을 맡습니다. 귀사 팀이 원하시면 관리형 Slurm도 제공합니다.

코로케이션 및 운영

파트너 데이터센터의 공간과 전력을 다년 약정으로 kW당 재판매하며, 보유하신 하드웨어에 대해 24/7 운영, 리모트 핸즈 및 모니터링을 제공합니다.

GPU 투자자를 위한 운영

서버는 귀사가 소유하시거나 자금을 조달하십니다. 1Legion은 서버를 구축하고 운영하며, 자체 파이프라인에서 고객을 찾아 계약과 요금 청구를 처리하고, 서버별 수익을 보고합니다.

1Legion이 구축하는 NVIDIA 서버

서버 단위로만 임대합니다. 8-GPU HGX 시스템, 72-GPU 랙, 그리고 추론 및 미디어용 PCIe 서버가 있으며, 모든 구성은 제안서에서 확정됩니다.

할당 접수 중Blackwell Ultra

NVIDIA HGX B300

각각 270 GB HBM3e를 탑재한 Blackwell Ultra GPU 8개와 GPU당 800 Gb/s 네트워크를 갖춘 서버입니다. 서버 단위 또는 전용 클러스터로 임대하며, 공개된 납품 사양서에 따라 구축합니다.

서버당 GPU
8
GPU당 메모리
270 GB HBM3e
서버당 FP4
108 PFLOPS(희소성 미적용)
GPU당 네트워크
800 Gb/s

전체 GPU 서버 보기

키를 넘겨드리기 전에 테스트를 마칩니다

모든 클러스터는 인도 전에 추론 서비스 제공업체를 위한 NVIDIA 하드웨어 검증, 즉 HW-1~HW-5의 5가지 테스트를 통과하며, 고객은 검수 보고서를 받으십니다. 1Legion이 시범 사용을 제공하지 않는 이유도 여기에 있습니다. 번인 테스트가 곧 증거입니다.

  1. HW-1집합 통신 처리량. nccl-tests로 기준 NCCL 처리량을 측정하며, 패브릭이 지원하는 경우 SHARP 가속 집합 통신도 함께 측정합니다.
  2. HW-2모든 네트워크 레일. 모든 InfiniBand 또는 RoCE 레일을 ib_write_bw로 테스트합니다.
  3. HW-3GPUDirect 및 스토리지. NVMe 읽기 및 쓰기를 포함해 GPUDirect RDMA 및 스토리지 스모크 테스트를 수행합니다.
  4. HW-4NVLink 및 NVSwitch. nvbandwidth로 NVLink 및 NVSwitch의 링크 수와 대역폭을 확인합니다.
  5. HW-524시간 연속 부하 테스트. 전력 상한을 지속적으로 유지한 상태에서 대표적인 추론 부하로 24시간 연속 부하 테스트를 실시합니다.
번인 테스트 및 검수 진행 방식
burn-in hgx-b300 node 0172, 8 GPUs 예시
  1. HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
  2. HW-2 ib_write_bw, every rail queuedrunningpass
  3. HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
  4. HW-4 nvbandwidth queuedrunningpass
  5. HW-5 24 h, inference load, power cap queuedrunningpass
  6. acceptance report issued to customer

서면으로 명시한 대응 시간

1Legion의 운영 약속은 암묵적인 것이 아니라 서면으로 명시되어 있습니다. 문제가 발생한 순간부터 흐르기 시작하는 시간 기준과, 위험이 따르는 작업에 앞서 받으시는 사전 통지는 다음과 같습니다.

  1. 5분인벤토리 및 상태 변경 사항이 고객에게 표시됩니다. DDoS 스크러빙이 작동합니다.
  2. 15분장애 접수를 확인하고, 장애 대응 책임자를 지정하며, 네트워크 운영팀이 투입됩니다.
  3. 45분시설 엔지니어링팀 또는 리모트 핸즈가 문제 해결에 착수합니다.
  4. 60분장애가 진행 중인 동안 최소 1시간마다 업데이트를 제공합니다.
  5. 7일서면 사후 분석 보고서를 제공하고, 고위험 유지보수는 7일 전에 통지합니다.

운영 약속 보기

서버가 운영되는 곳

현재는 캐나다에서 용량을 제공하며, 다음은 델라웨어이고 핀란드는 개발 중입니다. 이 모두가 4개 대륙 49개 데이터센터로 이루어진 파트너 네트워크 안에 있습니다. 데이터센터는 도시명으로 표기합니다.

  • 토론토캐나다 운영 중 NVIDIA HGX B300 서버 및 클러스터.
  • 몬트리올캐나다 운영 중 현장 엔지니어링 지원을 갖춘 RTX PRO 6000 Blackwell 및 기타 추론 서버.
  • 델라웨어미국 가동 준비 중 미국 내 컴퓨팅이 필요한 고객을 위한 HGX B300 용량.
  • 헬싱키핀란드 개발 중 향후 유럽 용량 확보를 위해 개발 중인 브라운필드 데이터센터 사이트.
  • 파트너 네트워크26개 도시, 12개 국가 49개 데이터센터 북미, 유럽, 아프리카 및 호주에 걸쳐 있으며 전력은 최소 313 MW입니다. 모든 도시 보기
데이터센터

자체적으로 구축할 수 있는 것보다 많은 수요

1Legion의 파이프라인에는 수천 대 규모의 GPU 서버 요청이 있습니다. 투자자, 데이터센터 소유주 및 중개인이 1Legion과 함께 이 수요에 대응합니다.

실행하실 워크로드를 알려 주십시오.

하드웨어, 서버 수, 약정 기간 및 시작일을 알려 주십시오. 1Legion의 납품 사양서를 기반으로 작성한 서면 제안서를 받으실 수 있습니다.