Vandaag 800 Gb/s per GPU · straks 1,6 Tb/s
Quantum InfiniBand of Spectrum-X Ethernet, SuperNICs, DPU's en bekabeling: de fabric die bepaalt of uw GPU's als één machine werken.
Wanneer een AI-job op meer dan één server draait, wacht elke stap op het traagste bericht tussen GPU's. Een fabric die alleen op papier snel is maar in de praktijk overbelast raakt, kan dure GPU's een groot deel van elke trainingsstap stil laten staan. Het netwerk goed inrichten is de goedkoopste manier om meer uit de GPU's te halen die u koopt.
NVIDIA biedt twee fabrics voor AI-factory's. Quantum InfiniBand, inmiddels 800 Gb/s met Quantum-X800, is de vertrouwde keuze voor de grootste trainingsclusters. Spectrum-X brengt AI-specifieke congestiebeheersing en adaptieve routering naar Ethernet, waarbij NVIDIA 1,6 keer de AI-netwerkprestaties van standaard-Ethernet noemt, en past bij organisaties die standaardiseren op Ethernet-beheer.
We ontwerpen het volledige netwerk: de GPU-fabric, een apart opslagnetwerk, het front-endnetwerk naar uw gebruikers en het beheernetwerk, met bekabeling en optiek tot op de meter gepland.
De NIC van elke GPU is verbonden met een eigen rail van leaf-switches, zodat collectieve operaties de kortste route nemen en het verkeer in balans blijft naarmate het cluster groeit.
We wegen uw schaal, workloads, multi-tenancybehoeften en de vaardigheden van uw team af, in plaats van standaard voor één kamp te kiezen.
Checkpointing en het laden van data lopen via een apart netwerk, vaak via BlueField DPU's, zodat ze het GPU-naar-GPU-verkeer nooit vertragen.
NetQ voor Ethernet en UFM voor InfiniBand bieden telemetrie en foutopsporing, en voeden onze SysOps247-monitoring.
Bouwstenen waarmee we ontwerpen.
| Ethernet-fabric | Spectrum-X switches, including Spectrum-6 based models at 102.4 Tb/s per switch chip (SN6600: 128 × 800G; SN6800: 512 × 800G in 5U) |
|---|---|
| InfiniBand-fabric | Quantum-X800 InfiniBand at 800 Gb/s per port |
| SuperNICs | ConnectX-8 (800 Gb/s, PCIe Gen6) for Blackwell; ConnectX-9 (1,600 Gb/s per GPU) for Vera Rubin |
| DPU's | BlueField-3 for storage, security offload and multi-tenant isolation |
| Fotonica | Spectrum-X Ethernet Photonics with co-packaged optics: NVIDIA quotes 5 times better power efficiency than pluggable optics |
| Bekabeling | LinkX DAC, AOC and transceivers, with a labelled cabling plan |
| Beheer | NVIDIA NetQ (Ethernet), UFM (InfiniBand), integrated with your monitoring |
De cijfers zijn de door NVIDIA gepubliceerde specificaties van het platform. Waar NVIDIA twee Tensor Core-waarden noemt, gaat de eerste uit van sparsity en is de tweede dense. De exacte opbouw (CPU's, geheugen, opslag, koeling, netwerk) wordt met u afgestemd en in een schriftelijke offerte bevestigd.
Netwerkzaken die gemakkelijk worden vergeten.
| Ruimte en stroom | Leaf, spine and storage switches need rack space and power of their own |
|---|---|
| Kabelroutes | Overhead or underfloor pathways sized for hundreds of high-speed cables |
| Optiekbudget | Transceivers can be a significant share of fabric cost; we size them precisely |
| Groei | Spine ports and pathways reserved for the next racks |
Eén verantwoordelijk Brits team van dimensionering tot dagelijks beheer
Rail-geoptimaliseerde fabric, opslag-, front-end- en beheernetwerken samen ontworpen.
Switches, NIC's, optiek en kabels geteld tot op de poort en de meter.
Bekabeling, firmware-afstemming en NCCL all-reduce-benchmarks vóór de overdracht.
Telemetrie, congestie-afstemming en storingsafhandeling als onderdeel van het beheer.
NVIDIA-datacenter-GPU's worden toegewezen door NVIDIA en de serverfabrikanten, en levertijden worden eerder in maanden dan in weken gemeten. Complete, geteste systemen krijgen doorgaans eerder een toewijzing dan losse onderdelen, dus we offreren deze platforms als complete systemen. Zendingen buiten het VK, en veel geavanceerde GPU's ook binnen het VK, vereisen een eindgebruikers- en eindgebruikscontrole volgens Britse en Amerikaanse exportregels voordat we de levering kunnen bevestigen.
Trade-leden krijgen de tijd van onze engineers voor sourcing- en ontwerpvragen, vroege toegang tot voorraad en voorrang op wachtlijsten, en gratis technische support bij elke bestelling.
Beide werken goed voor AI. InfiniBand heeft de langste staat van dienst voor zeer grote trainingen. Spectrum-X past bij multi-tenant factory's en teams die overal elders Ethernet draaien. We adviseren op basis van uw schaal en vaardigheden.
Meestal voor de front-end- en beheernetwerken, zelden voor de GPU-fabric. Blackwell-systemen verwachten 400 tot 800 Gb/s per GPU, wat oudere switches niet kunnen leveren.
Vertel ons wat het moet produceren, hoeveel mensen het gaan gebruiken en waar het zou komen te staan. Een engineer komt terug met een gedimensioneerd advies en een eerlijk oordeel over of bezit voor u zinvol is.