1Legion의 GPU 클러스터 스토리지와 네트워킹은 GPU만큼 엄밀하게 규정됩니다. GPU당 기준으로 산정한 스토리지, 전용 남북 네트워크, DDoS 스크러빙을 갖춘 이중화 인터넷 엣지, 그리고 귀사 소유 주소와 ASN을 사용할 수 있는 여지입니다. 이 페이지의 모든 수치는 HGX B300 클러스터용 납품 사양서에서 가져온 것이며, 번호가 매겨진 예외 항목이 있으면 제안서에 명시됩니다. 그 밖의 서버는 귀사 요구 사항에 맞춰 스토리지와 네트워킹을 구성하고 제안서로 확정합니다.
2가지 스토리지 옵션
벤더가 관리하는 스토리지 어플라이언스 또는 자체 소프트웨어를 실행하는 스토리지 노드 중에서 선택하실 수 있으며, 두 옵션 모두 클러스터의 GPU 수에 따라 규모를 산정합니다.
| 옵션 A: 스토리지 어플라이언스 | 옵션 B: 스토리지 노드 | |
|---|---|---|
| 제공 사항 | VAST Data, WEKA 또는 DDN 중 선호하시는 벤더가 관리하는 어플라이언스 | 자체 스토리지 소프트웨어용 스토리지 노드 |
| 용량 | GPU당 최소 1 TB 가용 용량 | GPU당 최소 3 TB 원시 용량 |
| 드라이브 | 벤더 지원 설계 | 30.72 TB NVMe PCIe 5.0, 자체 암호화 드라이브 지원 |
| 레퍼런스 규모 | 64노드, 128노드 및 288노드 기준 사용 가능 용량 512 TB, 1,024 TB 및 2,304 TB | 9노드, 17노드 및 38노드(최소 9노드) |
| 서비스 | 24/7 벤더 에스컬레이션, 티어별 확약 처리량 및 지연 시간, 사용량 및 할당량 가시화, 테스트를 거친 복구 | 하드웨어 운영 및 내구 한도 도달 전 NVMe 드라이브 교체는 1Legion이, 스토리지 소프트웨어 운영은 귀사가 담당 |
원시 용량은 귀사 스토리지 소프트웨어의 데이터 보호를 적용하기 전 기준이며, 사용 가능 용량은 벤더의 데이터 보호를 적용한 후 어플라이언스가 제공하는 용량입니다. 옵션 A는 처리량, 지연 시간 및 복구를 하나의 벤더가 책임지기를 원하는 팀에 적합합니다. 옵션 B는 이미 자체 스토리지 소프트웨어를 운영하고 있으며 관리형 시스템이 아닌 드라이브와 노드를 원하는 팀에 적합합니다.
각 GPU 노드에는 자체 NVMe도 탑재됩니다. 로컬 데이터용으로 최소 9.2 TB의 원시 용량(노드 GPU 메모리 2.1 TB의 4배 이상)과 미러링된 1 TB 부트 드라이브 2개(권장)입니다. 번인 테스트 HW-3은 NVMe 읽기 및 쓰기를 포함한 GPUDirect RDMA 및 스토리지 스모크 테스트를 다룹니다.
학습의 경우 체크포인트 크기와 빈도가 필요한 쓰기 처리량을 결정합니다. 장시간 학습의 스토리지 I/O와 체크포인트는 공유 클라우드에서 장시간 학습이 실패하는 이유에서 다룹니다.
남북 네트워크
남북 네트워크는 모든 노드를 스토리지, CPU 서비스 및 엣지에 연결하며, GPU 패브릭과 마찬가지로 귀사 트래픽만 전달합니다.
- 노드당: 400 Gb/s 권장, 최소 200 Gb/s, 2 x 400 Gb/s(권장) 또는 2 x 200 Gb/s의 NVIDIA BlueField-3 프론트엔드 NIC 사용.
- 오버서브스크립션: 스토리지 리프 스위치에는 없음(업링크가 하위 모든 포트의 대역폭과 일치), GPU 리프 스위치에서는 4:1 미만.
- 프로토콜: RoCEv2 지원으로 스토리지 및 서비스 트래픽이 라우팅된 이더넷에서 RDMA를 사용할 수 있으며, MTU 9000 점보 프레임 적용.
- 테넌시: 단일 고객 전용이며, GPU 클러스터에서 설명한 동서 GPU 패브릭과 분리.
인터넷 엣지 및 DDoS 방어
귀사 클러스터는 독립된 트랜짓 사업자 2곳과 이중화된 엣지 라우터 2대를 통해 인터넷에 연결되며, DDoS 스크러빙은 BGP를 통해 5분 이내에 활성화됩니다.
- 트랜짓: 회선당 100 Gb/s의 독립된 사업자 2곳, 물리적으로 분리된 경로를 사용하므로 광케이블 한 곳이 끊어져도 두 회선이 모두 중단되지 않습니다.
- 라우팅: BFD를 적용한 eBGP로 장애 경로를 감지하고 1분 이내에 트래픽을 페일오버합니다.
- 엣지 라우터: 2대, 이중화, A 및 B 전원 연결.
- 엣지 ACL: 귀사 규칙에 따라 작성, 변경은 1영업일 이내 반영.
- DDoS 방어: 검증된 사업자의 레이어 3 및 레이어 4 볼류메트릭 스크러빙, BGP를 통해 5분 이내 활성화, 최소 1 Tb/s 용량.
NAT 및 공인 주소
아웃바운드 트래픽은 귀사만 사용하는 주소로 이중화 NAT 페어를 통해 나가며, 인바운드 서비스에는 5초 이내에 페일오버되는 전용 공인 주소가 할당됩니다.
NAT 및 이그레스
이중화된 고가용성 NAT 페어가 전용 SNAT 주소(일반적으로 4개)에서 동시 세션을 최소 1,000만 개 처리하므로, 파트너는 주소를 기준으로 귀사의 아웃바운드 트래픽을 허용 목록에 등록할 수 있습니다.
공인 서비스 주소
전용 공인 주소(일반적으로 8개)가 제공되며, 귀사 서비스 VIP를 BGP로 광고할 수 있고 페일오버는 5초 이내에 이루어집니다. IPv6는 IPv4와 함께 듀얼 스택으로 운영됩니다.
자체 IP 공간 및 ASN 사용
귀사가 자체 IP 공간과 ASN을 보유하고 있다면 1Legion 엣지가 이를 광고할 수 있으므로, 귀사 서비스는 사용자와 파트너가 이미 알고 있는 주소를 그대로 유지합니다.
- 귀사 프리픽스 및 ASN: 엣지가 고객 소유 프리픽스와 귀사 ASN을 광고합니다.
- RPKI: 귀사 프리픽스에 대한 경로 원점 인가(ROA)를 준수합니다.
- 세션 보안: BGP 세션을 인증합니다.
네트워크 텔레메트리
두 엣지 라우터 모두 NetFlow v9 또는 IPFIX 형식으로 플로 레코드를 귀사 수집기로 내보내므로, 귀사 네트워크 및 보안 팀이 엣지를 통과하는 트래픽을 확인할 수 있습니다.
또한 BMC와 Redfish를 통해 대역 외 하드웨어 텔레메트리를 수집하고, 가능한 경우 네트워크 및 시설 텔레메트리도 수집합니다. 운영 텔레메트리는 최소 30일, 장애 및 상태 이력은 최소 12개월 동안 보관합니다. 접근 통제와 감사 대상인 대역 외 접근은 보안 및 규정 준수에서, 모든 대응 시간은 운영 약속에서 확인할 수 있습니다.
요금 포함 범위
요금에는 서버와 서버를 연결하는 네트워크가 포함됩니다. 스토리지와 GPU 주변 노드는 별도 항목으로 가격이 책정되므로, 귀사 설계에 쓰이는 만큼 비용을 지불하시게 됩니다.
| 항목 | 반영 위치 |
|---|---|
| GPU 서버(CPU, 메모리, NVMe 드라이브 및 네트워크 카드 포함) | 요금에 포함 |
| HGX B300 클러스터의 패브릭, GPU당 800 Gb/s | 요금에 포함 |
| 납품 사양서에 따라 구축한 남북 네트워크 | 요금에 포함 |
| 엣지 네트워크: 트랜짓 사업자 2곳, 이중화 엣지 라우터, 전용 공인 주소 및 DDoS 스크러빙 | 모든 HGX B300 클러스터에 포함 |
| 제안서에 명시된 인터넷 대역폭, 이그레스 요금 없음 | 요금에 포함 |
| VAST Data, WEKA 또는 DDN 스토리지 어플라이언스, 또는 스토리지 노드 | 제안서에 별도 항목으로 기재 |
| 서버 기본 드라이브 외 추가 로컬 NVMe | 제안서에 별도 항목으로 기재 |
| CPU 및 컨트롤 플레인 노드 | 제안서에 각각 별도 항목으로 기재 |
| 추가 대역폭 및 납품 사양서를 넘어서는 네트워크 설계 | 제안서에서 가격 책정 |
계약 조건, 요금 청구 및 제안서에 포함되는 나머지 내용은 구매 방법에서 설명합니다.
구매자가 묻는 질문
어떤 스토리지 벤더를 제공하나요?
VAST Data, WEKA 또는 DDN 중 선호하시는 벤더의 관리형 어플라이언스, 또는 자체 스토리지 소프트웨어를 실행하는 스토리지 노드입니다.
HGX B300 클러스터에는 스토리지가 얼마나 제공되나요?
어플라이언스의 경우 GPU당 최소 1 TB의 사용 가능 용량(64노드 클러스터 기준 512 TB), 스토리지 노드의 경우 GPU당 최소 3 TB의 원시 용량입니다. 또한 각 GPU 노드에는 최소 9.2 TB의 로컬 NVMe(원시 용량)가 있습니다.
이그레스 요금이 있나요?
아니요. 클러스터는 약정 기간 동안 단일 고정 요금으로 청구되며, 이그레스 요금은 없습니다.
자체 IP 주소와 ASN을 사용할 수 있나요?
네. 엣지는 귀사 프리픽스와 ASN을 광고할 수 있으며, RPKI ROA를 준수하고 BGP 세션을 인증합니다.
DDoS 방어는 얼마나 빨리 시작되나요?
레이어 3 및 레이어 4 볼류메트릭 스크러빙이 BGP를 통해 5분 이내에 활성화되며, 용량은 최소 1 Tb/s입니다.
모든 서버에 적용되나요?
납품 사양서에 따라 구축한 HGX B300 클러스터에 적용됩니다. 그 밖의 서버는 귀사 요구 사항에 맞춰 스토리지와 네트워킹을 구성하고 제안서로 확정합니다.