DE
So mieten Sie Angebot anfordern

Dedizierte NVIDIA-GPU-Server

Ganze Server und Cluster mit Laufzeiten von 36 bis 60 Monaten, gebaut nach unserer veröffentlichten Lieferspezifikation.

Alle GPU-Server ansehen, die wir anbieten

Hardware passend zum Workload

Welche Server zu Training, Inferenz, Medien-Pipelines und KI-Videogenerierung passen, und warum.

Die vier Workloads vergleichen

Wir bringen die Kunden

Unsere Pipeline enthält mehr Nachfrage nach GPU-Servern, als wir allein bereitstellen können. Partner helfen uns, sie zu bedienen.

So funktionieren Partnerschaften

Nach veröffentlichter Spezifikation gebaut

Jeder Cluster durchläuft vor der Übergabe ein Burn-in und wird nach schriftlichen Betriebszusagen betrieben.

Lieferspezifikation lesen

Technische Notizen

Leitfäden zur Dimensionierung, Hardwarevergleiche und was sich beim Wechsel auf dedizierte Server ändert.

Blog lesen

Ihr eigenerGPU-Cluster.

1Legion ist eine Bare-Metal-GPU-Cloud. Wir vermieten dedizierte NVIDIA-GPU-Server und Cluster mit Laufzeiten von 36 bis 60 Monaten, gebaut nach einer veröffentlichten Spezifikation, vor der Übergabe einem Burn-in unterzogen und nach schriftlichen Betriebszusagen betrieben.

Angebot anfordern Lieferspezifikation lesen
Kontingent verfügbar in Toronto
HGX B300
HBM3e pro GPU
270 GB
Ost-West-Netzwerk pro GPU
800 Gbit/s
Vertragslaufzeit, ein fester Preis
36 bis 60 Monate

Ein 1Legion-Cluster von innen

Ein ganzer Cluster für einen Kunden

Unser größtes Referenzdesign verbindet 288 HGX B300-Knoten über eine Rail-optimierte, nicht blockierende Fabric, mit eigenem Storage, eigenen CPU-Knoten und eigener Control Plane. Nichts wird geteilt: keine anderen Mandanten, kein Hypervisor.

GPU-Knoten
288
NVIDIA B300-GPUs
2.304
Geschätzte IT-Last, etwa
4,39 MW

Racks an zwei Stromversorgungspfaden

Luftgekühlte HGX B300-Server, nur in Rechenzentren, die für jedes Rack A- und B-Stromversorgung, eine vertragliche Leistungsgrenze pro Rack und die Kühlung für diese Leistung zusagen. Wir planen etwa 14 kW für jeden GPU-Knoten ein.

Pro GPU-Knoten, Planungswert
14 kW
Unabhängige Stromversorgungspfade pro Rack
2
Lokaler NVMe-Speicher pro Knoten, mindestens
9,2 TB

Acht GPUs, eine NVLink-Domäne

Jeder Server enthält acht Blackwell Ultra-GPUs mit je 270 GB HBM3e, verbunden über NVLink der fünften Generation und NVSwitch, und gibt jeder GPU einen eigenen Pfad mit 800 Gbit/s in die Cluster-Fabric.

HBM3e pro Server
2,1 TB
NVLink pro GPU
1,8 TB/s
Fabric-Bandbreite pro GPU
800 Gbit/s

Mit 64 Knoten starten. Auf 288 wachsen.

Drei Referenzgrößen beruhen auf einer gemeinsamen Spezifikation, daher wächst ein Cluster ohne Neuplanung. Größere Cluster werden individuell geplant, und jede Abweichung wird in Ihrem Angebot nummeriert.

64 Knoten128 Knoten288 Knoten
NVIDIA B300-GPUs5121.0242.304
Nutzbare Storage-Kapazität512 TB1.024 TB2.304 TB
IT-Last, etwa0,98 MW1,95 MW4,39 MW
Referenzcluster ansehen

Kunden und Partner

KI-Unternehmen, GPU-Cloud-Anbieter, Rechenzentrumsbetreiber, Carrier und Hardwarehersteller, mit denen wir zusammenarbeiten.

Alle 36 ansehen
  • Akash Network
  • Vast.ai
  • Viggle AI
  • Dell Technologies
  • AudioShake
  • DDN
  • WEKA
  • Hewlett Packard Enterprise
  • Massed Compute
  • Compute Exchange
  • Zayo
  • Supermicro
  • Cogent
  • eStruxture Data Centers
  • Enovum Data Centers
  • Lenovo
  • CloudRift
  • Cocoon
  • Skyportal
  • Cisco
  • GenAI Works
  • DVEO
  • Computer Modules
  • ASUS
  • WiseDV
  • ISS Intelligent Security Systems
  • Templus
  • GIGABYTE
  • UK Servers
  • Glide
  • Inflect
  • Aivres
  • PodWarden
  • Ignite
  • Dacentec
  • AMAX

Ein Betreiber, vier Wege der Zusammenarbeit

Mieten Sie die Server, lassen Sie uns die Software darauf betreiben, bringen Sie Hardware in unseren Partner-Rechenzentren unter, oder lassen Sie uns einen Cluster in Ihrem Eigentum betreiben und auslasten.

GPU-Server und Cluster

Ganze NVIDIA-Server und dedizierte Cluster mit Laufzeiten von 36, 48 oder 60 Monaten, vom einzelnen HGX B300-Server bis zum Cluster mit 288 Knoten und eigener Fabric und eigenem Storage.

GPU-Server ansehenDedizierte GPU-Cluster

Managed Kubernetes

Wir installieren Kubernetes mit dem NVIDIA GPU Operator und dem Network Operator auf Ihren dedizierten Servern und übernehmen dann Betrieb, Upgrades und Monitoring. Managed Slurm, wenn Ihr Team das bevorzugt.

So funktioniert Managed Kubernetes

Colocation und Betrieb

Fläche und Strom in Partner-Rechenzentren, weiterverkauft pro kW mit mehrjährigen Laufzeiten, mit 24/7-Betrieb, Remote Hands und Monitoring für Ihre eigene Hardware.

Die beiden Colocation-Varianten ansehen

Betrieb für GPU-Investoren

Sie besitzen oder finanzieren die Server. Wir stellen sie bereit und betreiben sie, finden die Kunden aus unserer Pipeline, schließen die Verträge, übernehmen die Abrechnung und berichten, was jeder Server erwirtschaftet.

So betreiben wir Hardware von Investoren

NVIDIA-Server, die wir bereitstellen

Nur ganze Server: HGX-Systeme mit 8 GPUs, Racks mit 72 GPUs und PCIe-Server für Inferenz und Medien. Jede Konfiguration wird in Ihrem Angebot bestätigt.

Kontingent verfügbarBlackwell Ultra

NVIDIA HGX B300

Acht Blackwell Ultra-GPUs mit je 270 GB HBM3e und 800 Gbit/s Netzwerk pro GPU, gemietet als ganze Server oder als dedizierte Cluster, gebaut nach unserer veröffentlichten Lieferspezifikation.

GPUs pro Server
8
Speicher pro GPU
270 GB HBM3e
FP4 pro Server
108 PFLOPS ohne Sparsity
Netzwerk pro GPU
800 Gbit/s
B300-Server Angebot anfordern

Alle GPU-Server ansehen

Getestet, bevor Sie die Schlüssel bekommen

Jeder Cluster besteht vor der Übergabe die Hardware-Validierung von NVIDIA für Inferenzanbieter, fünf Tests von HW-1 bis HW-5, und Sie erhalten den Abnahmebericht. Deshalb bieten wir keine Testphasen an: Das Burn-in ist der Nachweis.

  1. HW-1Kollektiver Durchsatz. NCCL-Durchsatz auf Baseline-Niveau mit nccl-tests, mit SHARP-beschleunigten kollektiven Operationen, wo die Fabric sie unterstützt.
  2. HW-2Jede Netzwerk-Rail. Jede InfiniBand- oder RoCE-Rail, getestet mit ib_write_bw.
  3. HW-3GPUDirect und Storage. Smoke-Tests für GPUDirect RDMA und Storage, einschließlich NVMe-Lesen und -Schreiben.
  4. HW-4NVLink und NVSwitch. Anzahl und Bandbreite der NVLink- und NVSwitch-Links, geprüft mit nvbandwidth.
  5. HW-524-Stunden-Dauertest. Ein 24-Stunden-Dauertest unter repräsentativer Inferenzlast bei konstanter Leistungsbegrenzung.
So funktionieren Burn-in und Abnahme
burn-in hgx-b300 node 0172, 8 GPUs beispielhaft
  1. HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
  2. HW-2 ib_write_bw, every rail queuedrunningpass
  3. HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
  4. HW-4 nvbandwidth queuedrunningpass
  5. HW-5 24 h, inference load, power cap queuedrunningpass
  6. acceptance report issued to customer

Reaktionszeiten, schriftlich festgelegt

Unsere Betriebszusagen sind schriftlich festgehalten, nicht stillschweigend vorausgesetzt. Es sind die Fristen, die laufen, sobald etwas schiefgeht, und die Vorankündigung, die Sie erhalten, bevor wir etwas Riskantes anfassen.

  1. 5 Min.Inventar- und Zustandsänderungen für Sie sichtbar. DDoS-Scrubbing aktiv.
  2. 15 Min.Störung bestätigt, ein Incident Commander benannt, Netzwerkbetrieb eingebunden.
  3. 45 Min.Haustechnik oder Remote Hands arbeiten am Problem.
  4. 60 Min.Mindestens jede Stunde eine Statusmeldung, solange eine Störung offen ist.
  5. 7 TageEin schriftliches Postmortem und sieben Tage Vorankündigung vor riskanter Wartung.

Betriebszusagen lesen

Wo Ihre Server laufen

Kapazität heute in Kanada, als Nächstes in Delaware und in Finnland in Entwicklung, eingebettet in ein Partnernetzwerk aus 49 Rechenzentren auf vier Kontinenten. Bei Rechenzentren nennen wir die Stadt.

  • TorontoKanada In Betrieb NVIDIA HGX B300-Server und Cluster.
  • MontrealKanada In Betrieb RTX PRO 6000 Blackwell und weitere Inferenzserver, mit technischem Support vor Ort.
  • DelawareUSA Inbetriebnahme läuft HGX B300-Kapazität für Kunden, die ihre Rechenleistung in den USA benötigen.
  • HelsinkiFinnland In Entwicklung Ein Brownfield-Standort für ein Rechenzentrum, in Entwicklung für künftige Kapazität in Europa.
  • Partnernetzwerk26 Städte, 12 Länder 49 Rechenzentren Nordamerika, Europa, Afrika und Australien, mit mindestens 313 MW Leistung. Alle Städte ansehen
Rechenzentren

Mehr Nachfrage, als wir allein bereitstellen können

Unsere Pipeline enthält Anfragen für Tausende GPU-Server. Investoren, Rechenzentrumseigentümer und Vermittler arbeiten mit uns zusammen, um sie zu bedienen.

Partner von 1Legion werden

Technische Notizen

Leitfäden zur Dimensionierung, Hardwarevergleiche und was sich beim Wechsel auf dedizierte Server ändert.

Alle Artikel
70GB of weights, four GPUs: what’s left for the KV cache at 80, 96, 141 and 270GB Load a 70B model in FP8 on 80, 96, 141 and 270GB GPUs and see how much memory each leaves for the KV cache, with the sizing arithmetic worked out. GPUs 4 Min. Lesezeit 8 x 270GB: what fits on a B300 node What fits on an NVIDIA B300 node: 270GB memory math for 405B and 70B model inference, KV cache sizing, bandwidth ceilings, and where a single GPU stops. GPUs 6 Min. Lesezeit 8 x 96GB: what fits on an RTX PRO 6000 Blackwell node What fits on an RTX PRO 6000 Blackwell node: the 96GB memory math for 70B model inference and QLoRA fine tuning, KV cache sizing, and where the limit sits. GPUs 4 Min. Lesezeit

Sagen Sie uns, was Sie betreiben möchten.

Nennen Sie uns die Hardware, die Anzahl der Server, die Laufzeit und das Startdatum. Sie erhalten ein schriftliches Angebot auf Grundlage unserer Lieferspezifikation.

Angebot anfordern Mit unserem Technikteam sprechen