Storage und Netzwerk
Mindestens 1 TB nutzbarer Storage pro GPU, ein dediziertes Nord-Süd-Netzwerk, zwei Transit-Provider, DDoS-Scrubbing sowie Ihr eigener IP-Adressraum und Ihre eigene ASN, alles in unserer Lieferspezifikation festgelegt.
Storage und Netzwerk für GPU-Cluster sind bei 1Legion so genau spezifiziert wie die GPUs: Storage pro GPU dimensioniert, ein dediziertes Nord-Süd-Netzwerk, ein redundantes Edge-Netzwerk zum Internet mit DDoS-Scrubbing und Raum für Ihre eigenen Adressen und Ihre ASN. Jeder Wert auf dieser Seite stammt aus unserer Lieferspezifikation für HGX B300-Cluster, und Ihr Angebot führt etwaige nummerierte Abweichungen auf. Bei anderen Servern werden Storage und Netzwerk nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt.
Zwei Storage-Optionen
Wählen Sie eine vom Hersteller verwaltete Storage-Appliance oder Storage-Knoten, auf denen Ihre eigene Software läuft. Beide werden nach der Anzahl der GPUs im Cluster dimensioniert.
| Option A: Storage-Appliance | Option B: Storage-Knoten | |
|---|---|---|
| Was Sie erhalten | Eine vom Hersteller verwaltete Appliance von VAST Data, WEKA oder DDN, je nach Ihrer Präferenz | Storage-Knoten für Ihre eigene Storage-Software |
| Kapazität | Mindestens 1 TB nutzbar pro GPU | Mindestens 3 TB brutto pro GPU |
| Laufwerke | Das vom Hersteller unterstützte Design | 30,72 TB NVMe PCIe 5.0, selbstverschlüsselnde Laufwerke unterstützt |
| Referenzgrößen | 512 TB, 1.024 TB und 2.304 TB nutzbar für 64, 128 und 288 Knoten | 9, 17 und 38 Knoten, mindestens 9 |
| Service | 24/7-Eskalation an den Hersteller, zugesagter Durchsatz und zugesagte Latenz pro Tier, sichtbare Nutzung und Quotas, getestete Wiederherstellung | Wir betreiben die Hardware und tauschen NVMe-Laufwerke vor Erreichen ihrer Verschleißgrenze aus. Sie betreiben die Storage-Software. |
Die Rohkapazität zählt vor den Redundanzmechanismen Ihrer Storage-Software. Die nutzbare Kapazität ist das, was die Appliance nach den Redundanzmechanismen des Herstellers liefert. Option A passt zu Teams, die einen einzigen Hersteller für Durchsatz, Latenz und Wiederherstellung in der Verantwortung sehen wollen. Option B passt zu Teams, die ihre eigene Storage-Software bereits betreiben und die Laufwerke und Knoten wollen, kein verwaltetes System.
Jeder GPU-Knoten hat außerdem eigenen NVMe-Speicher: mindestens 9,2 TB Rohkapazität für lokale Daten, mehr als das Vierfache der 2,1 TB GPU-Speicher des Knotens, dazu zwei gespiegelte Boot-Laufwerke mit 1 TB (bevorzugt). Der Burn-in-Test HW-3 umfasst GPUDirect RDMA und Smoke-Tests für den Storage, einschließlich Lese- und Schreibzugriffen auf NVMe.
Beim Training bestimmen Größe und Häufigkeit der Checkpoints den Schreibdurchsatz, den Sie brauchen. Der Beitrag Warum lange Trainingsläufe in der geteilten Cloud scheitern behandelt Storage-I/O und Checkpointing bei langen Läufen.
Nord-Süd-Netzwerk
Das Nord-Süd-Netzwerk verbindet jeden Knoten mit dem Storage, den CPU-Diensten und dem Edge-Netzwerk und trägt wie die GPU-Fabric nur Ihren Datenverkehr.
- Pro Knoten: bevorzugt 400 Gbit/s, mindestens 200 Gbit/s, über NVIDIA BlueField-3-Frontend-NICs mit 2 x 400 Gbit/s (bevorzugt) oder 2 x 200 Gbit/s.
- Überbuchung: keine an den Storage-Leaf-Switches, deren Uplinks also der Bandbreite aller darunterliegenden Ports entsprechen; unter 4:1 an den GPU-Leaf-Switches.
- Protokolle: RoCEv2-fähig, sodass Storage- und Service-Verkehr RDMA über geroutetes Ethernet nutzen kann, mit Jumbo Frames bei MTU 9000.
- Zuordnung: dediziert für einen einzigen Kunden und getrennt von der Ost-West-GPU-Fabric, die auf der Seite GPU-Cluster beschrieben ist.
Edge-Netzwerk und DDoS-Schutz
Ihr Cluster erreicht das Internet über zwei unabhängige Transit-Provider und zwei redundante Edge-Router, mit DDoS-Scrubbing, das über BGP innerhalb von 5 Minuten aktiviert wird.
- Transit: zwei unabhängige Provider mit 100 Gbit/s pro Leitung, auf physisch getrennten Wegen, sodass ein einzelnes durchtrenntes Glasfaserkabel nicht beide lahmlegt.
- Routing: eBGP mit BFD, sodass ein ausgefallener Pfad erkannt und der Verkehr innerhalb einer Minute umgeschaltet wird.
- Edge-Router: zwei, redundant, an A- und B-Stromversorgung.
- Edge-ACLs: nach Ihren Regeln geschrieben, Änderungen innerhalb eines Geschäftstags.
- DDoS-Schutz: volumetrisches Scrubbing auf Layer 3 und 4 durch einen etablierten Anbieter, aktiviert über BGP innerhalb von 5 Minuten, mit mindestens 1 Tbit/s Kapazität.
NAT und öffentliche Adressen
Ausgehender Verkehr läuft über ein redundantes NAT-Paar auf Adressen, die nur Sie nutzen, und eingehende Dienste erhalten dedizierte öffentliche Adressen mit Failover innerhalb von 5 Sekunden.
NAT und Egress
Ein redundantes, hochverfügbares NAT-Paar verarbeitet mindestens 10 Millionen gleichzeitige Sitzungen auf dedizierten SNAT-Adressen, typischerweise vier, sodass Partner Ihren ausgehenden Verkehr anhand der Adresse auf eine Allowlist setzen können.
Öffentliche Service-Adressen
Sie erhalten dedizierte öffentliche Adressen, typischerweise acht, und können Ihre Service-VIPs über BGP ankündigen, mit Failover innerhalb von 5 Sekunden. IPv6 läuft als Dual Stack neben IPv4.
Eigenen IP-Adressraum und eigene ASN mitbringen
Wenn Sie über eigenen IP-Adressraum und eine eigene ASN verfügen, kann unser Edge-Netzwerk sie ankündigen, sodass Ihre Dienste die Adressen behalten, die Ihre Nutzer und Partner bereits kennen.
- Ihre Präfixe und ASN: Das Edge-Netzwerk kündigt kundeneigene Präfixe und Ihre ASN an.
- RPKI: Route Origin Authorizations (ROAs) für Ihre Präfixe werden beachtet.
- Sitzungssicherheit: BGP-Sitzungen werden authentifiziert.
Netzwerktelemetrie
Beide Edge-Router exportieren Flow-Records im Format NetFlow v9 oder IPFIX an Ihren Collector, sodass Ihre Netzwerk- und Sicherheitsteams sehen, was über das Edge-Netzwerk läuft.
Außerdem erfassen wir Out-of-Band-Hardwaretelemetrie über BMC und Redfish sowie, wo verfügbar, Netzwerk- und Rechenzentrumstelemetrie. Betriebstelemetrie wird mindestens 30 Tage aufbewahrt, der Verlauf von Störungen und Zuständen mindestens 12 Monate. Sicherheit und Compliance beschreibt die Zugriffskontrolle und unseren auditierten Out-of-Band-Zugriff, und Betriebszusagen nennt jede Reaktionszeit.
Was der Preis abdeckt
Der Preis umfasst die Server und die Netzwerke, die sie verbinden. Storage und die Knoten rund um die GPUs werden als eigene Positionen bepreist, sodass Sie für das zahlen, was Ihr Design nutzt.
| Merkmal | Wo es aufgeführt ist |
|---|---|
| GPU-Server mit ihren CPUs, Arbeitsspeicher, NVMe-Laufwerken und Netzwerkkarten | Im Preis enthalten |
| Fabric bei HGX B300-Clustern, 800 Gbit/s pro GPU | Im Preis enthalten |
| Nord-Süd-Netzwerk, gebaut nach der Lieferspezifikation | Im Preis enthalten |
| Edge-Netzwerk: zwei Transit-Provider, redundante Edge-Router, dedizierte öffentliche Adressen und DDoS-Scrubbing | In jedem HGX B300-Cluster enthalten |
| Internetbandbreite laut Ihrem Angebot, ohne Egress-Gebühren | Im Preis enthalten |
| Storage-Appliance von VAST Data, WEKA oder DDN oder Storage-Knoten | Eigene Position in Ihrem Angebot |
| Lokaler NVMe-Speicher über die Standardlaufwerke des Servers hinaus | Eigene Position in Ihrem Angebot |
| CPU- und Control-Plane-Knoten | Eigene Positionen in Ihrem Angebot |
| Mehr Bandbreite und Netzwerkdesigns über die Lieferspezifikation hinaus | In Ihrem Angebot bepreist |
Die Seite So mieten Sie erklärt Konditionen, Abrechnung und alles Weitere, was ein Angebot enthält.
Was Kunden fragen
Welche Storage-Hersteller bieten Sie an?
VAST Data, WEKA oder DDN als vom Hersteller verwaltete Appliance, je nach Ihrer Präferenz, oder Storage-Knoten, auf denen Ihre eigene Storage-Software läuft.
Wie viel Storage gehört zu einem HGX B300-Cluster?
Mindestens 1 TB nutzbare Kapazität pro GPU auf der Appliance, also 512 TB für einen Cluster mit 64 Knoten, oder mindestens 3 TB Rohkapazität pro GPU auf Storage-Knoten. Jeder GPU-Knoten hat außerdem mindestens 9,2 TB lokalen NVMe-Speicher (Rohkapazität).
Berechnen Sie Egress-Gebühren?
Nein. Cluster werden für die Laufzeit zu einem festen Preis abgerechnet, ohne Egress-Gebühren.
Können wir eigene IP-Adressen und eine eigene ASN mitbringen?
Ja. Das Edge-Netzwerk kann Ihre Präfixe und Ihre ASN ankündigen, beachtet RPKI-ROAs und authentifiziert BGP-Sitzungen.
Wie schnell greift der DDoS-Schutz?
Volumetrisches Scrubbing auf Layer 3 und 4 wird über BGP innerhalb von 5 Minuten aktiviert, mit mindestens 1 Tbit/s Kapazität.
Gilt das für jeden Server?
Es gilt für HGX B300-Cluster, die nach unserer Lieferspezifikation gebaut sind. Bei anderen Servern werden Storage und Netzwerk nach Ihren Anforderungen konfiguriert und in Ihrem Angebot bestätigt.
Sagen Sie uns, was Sie betreiben möchten.
Nennen Sie uns die Hardware, die Anzahl der Server, die Laufzeit und das Startdatum. Sie erhalten ein schriftliches Angebot auf Grundlage unserer Lieferspezifikation.