Grace Blackwell · 72 GPU's · vloeistofgekoeld
Het eerste Grace Blackwell-systeem op rackschaal: 72 GPU's in één NVLink-domein voor modellen met biljoenen parameters, met sterke dubbele precisie voor wetenschap.
GB200 NVL72 introduceerde het idee van het rack als eenheid van AI-rekenkracht. Zesendertig GB200-superchips, die elk een Grace-CPU koppelen aan twee Blackwell-GPU's, worden via NVLink Switch-trays verbonden tot één domein van 72 GPU's met 130 TB/s bandbreedte.
NVIDIA noemt tot 30 keer snellere realtime inferentie voor modellen met een biljoen parameters, 4 keer snellere training en 25 keer betere energie-efficiëntie dan H100. Daarnaast behoudt het aanzienlijke rekenkracht in dubbele precisie, 2.880 TFLOPS FP64 per rack, wat het een sterke keuze maakt wanneer dezelfde capaciteit zowel AI als wetenschappelijk rekenwerk bedient.
Nu GB300 de standaard wordt voor nieuwe systemen die puur op AI zijn gericht, blijft GB200 een volwassen, goed begrepen platform en een goede keuze voor onderzoeks- en soevereine programma's die waarde hechten aan FP64 en bewezen software.
Modellen die te groot zijn voor één server blijven binnen de NVLink-fabric van het rack, zodat het netwerk geen bottleneck wordt voor tensor- en expertparallellisme.
Anders dan Blackwell Ultra behoudt GB200 sterke FP64-prestaties, zodat simulatie- en AI-gebruikers dezelfde rack-scale capaciteit kunnen delen.
Vloeistofkoeling en Grace-CPU's leveren veel betere prestaties per watt dan een vergelijkbare Hopper-omgeving; NVIDIA stelt dit voor inferentie op 25 keer.
Frameworks, schedulers en inferentieservers zijn al langer afgestemd op GB200, wat het risico verlaagt voor wie voor het eerst rack-scale systemen aanschaft.
Door NVIDIA gepubliceerde cijfers voor het rack.
| Configuratie | 36 Grace CPUs, 72 Blackwell GPUs (36 GB200 superchips) |
|---|---|
| GPU-geheugen | 13.4 TB HBM3e, 576 TB/s |
| CPU | 2,592 Arm Neoverse V2 cores, 17 TB LPDDR5X at 14 TB/s |
| NVLink | 130 TB/s across the rack |
| NVFP4 Tensor Core | 1,440 | 720 PFLOPS |
| FP8 / FP16 Tensor Core | 720 / 360 PFLOPS (sparse) |
| FP64 | 2,880 TFLOPS |
| Koeling | Fully liquid cooled |
De cijfers zijn de door NVIDIA gepubliceerde specificaties van het platform. Waar NVIDIA twee Tensor Core-waarden noemt, gaat de eerste uit van sparsity en is de tweede dense. De exacte opbouw (CPU's, geheugen, opslag, koeling, netwerk) wordt met u afgestemd en in een schriftelijke offerte bevestigd.
Wat een GB200 NVL72-rack nodig heeft.
| Vermogen | Around 120 to 130 kW per rack (published estimate) |
|---|---|
| Koeling | Direct liquid cooling with coolant distribution and facility water |
| Vloer en toegang | Rack weight, door heights and lift capacity checked for rack-level delivery |
| Netwerk | 800 Gb/s-class fabric to other racks and storage |
Eén verantwoordelijk Brits team van dimensionering tot dagelijks beheer
Stroom, koelcircuit en toegang, gepland met uw facilitaire team of colocatieprovider.
Levering op rackniveau, vullen met koelvloeistof, inschakelen en burn-in.
NVLink-, fabric-, FP64- en AI-benchmarks vastgelegd tegen overeengekomen doelen.
Monitoring, firmware- en softwarelevenscyclus, en SysOps247 als u wilt dat wij het beheren.
NVIDIA-datacenter-GPU's worden toegewezen door NVIDIA en de serverfabrikanten, en levertijden worden eerder in maanden dan in weken gemeten. Complete, geteste systemen krijgen doorgaans eerder een toewijzing dan losse onderdelen, dus we offreren deze platforms als complete systemen. Zendingen buiten het VK, en veel geavanceerde GPU's ook binnen het VK, vereisen een eindgebruikers- en eindgebruikscontrole volgens Britse en Amerikaanse exportregels voordat we de levering kunnen bevestigen.
Trade-leden krijgen de tijd van onze engineers voor sourcing- en ontwerpvragen, vroege toegang tot voorraad en voorrang op wachtlijsten, en gratis technische support bij elke bestelling.
Voor puur AI-werk is GB300 de nieuwere en snellere optie. Voor gemengd AI- en FP64-wetenschappelijk werk, of wanneer een bewezen platform het zwaarst weegt, blijft GB200 een uitstekende keuze.
Ja. Beide worden met snelheden in de 800 Gb/s-klasse aangesloten op InfiniBand of Spectrum-X, zodat ze opslag en een scheduler kunnen delen, al blijft elk rack een eigen NVLink-domein.
Vertel ons wat het moet produceren, hoeveel mensen het gaan gebruiken en waar het zou komen te staan. Een engineer komt terug met een gedimensioneerd advies en een eerlijk oordeel over of bezit voor u zinvol is.