Blackwell Ultra · 4 nodes · 32 GPU's
Vier Blackwell Ultra-servers met 8 GPU's, een fabric van 800 Gb/s en snelle opslag in één getest rack: de meest praktische manier om serieuze reasoning- en trainingscapaciteit in een standaard datahal te krijgen.
De meeste organisaties die AI-capaciteit van topklasse willen, willen daarvoor hun datacenter niet ombouwen. Dit rack is ons antwoord: vier NVIDIA HGX B300-servers met 8 GPU's, een GPU-fabric met 800 Gb/s per GPU, een opslaglaag en een beheernetwerk, geleverd als één unit die al is geassembleerd, bekabeld en stressgetest voordat hij bij u aankomt.
Blackwell Ultra is ontworpen voor de manier waarop AI nu wordt gebruikt. Reasoning-modellen en agents denken na voordat ze antwoorden, wat het aantal tokens achter elk antwoord vermenigvuldigt. HGX B300 verdubbelt de attention-prestaties ten opzichte van de eerste Blackwell-generatie en heeft 288 GB HBM3e per GPU, zodat lange contexten en grote modellen passen zonder over machines te worden verdeeld.
We zien het rack als de eerste stap van een fabriek, niet als het geheel. Het is gebouwd volgens een referentieontwerp, zodat een tweede en derde rack zonder herontwerp op dezelfde fabric aansluiten als de vraag groeit.
Reasoning-modellen besteden het grootste deel van hun tijd aan attention. NVIDIA geeft HGX B300 tweemaal de attention-prestaties van HGX B200, wat zich vertaalt in snellere antwoorden wanneer veel gebruikers tegelijk lastige vragen stellen.
288 GB per GPU en 2,1 TB per server betekent dat een model met 400 miljard parameters ruim in één node past op FP8, met ruimte voor lange gesprekken en grote batches.
Binnen elke server geeft NVLink van de vijfde generatie elke GPU 1,8 TB/s naar zijn buren. Tussen servers houdt één ConnectX-8 SuperNIC van 800 Gb/s per GPU op een rail-geoptimaliseerde InfiniBand- of Spectrum-X-fabric training over meerdere nodes efficiënt.
Er zijn zowel luchtgekoelde als vloeistofgekoelde HGX B300-servers beschikbaar, zodat het rack vandaag in een luchtgekoelde high-density-hal kan, of in een ruimte met directe vloeistofkoeling als u die hebt.
Het rack is één bouwsteen van een schaalbare unit van maximaal 32 nodes (256 GPU's). Extra racks worden met hetzelfde bekabelingsplan op dezelfde spine aangesloten, dus groei is een inkooporder, geen project.
We branden GPU's, geheugen, NVLink, de fabric en opslag samen in en leggen de resultaten vast, zodat u een rack met een bekende, goede basislijn ontvangt in plaats van een pallet dozen.
Een typische opbouw. We stemmen CPU's, geheugen, opslag, koeling en de fabric af op uw workloads en locatie.
| Rekenkracht | 4 × HGX B300 8-GPU servers (our standard node is the air-cooled Compal SGX30-2, 10U; liquid-cooled nodes also available) |
|---|---|
| GPU's | 32 × NVIDIA Blackwell Ultra SXM, 288 GB HBM3e each |
| GPU-geheugen | 2.1 TB per server, 8.4 TB per rack |
| FP4 Tensor Core | 144 | 108 PFLOPS per server; 576 | 432 PFLOPS per rack |
| FP8 Tensor Core | 72 PFLOPS per server (sparse); 288 PFLOPS per rack |
| NVLink | Fifth generation, 1.8 TB/s per GPU, 14.4 TB/s per server |
| Host-CPU's | Dual Intel Xeon 6 (or AMD EPYC, depending on the server maker) |
| GPU-fabric | 8 × ConnectX-8 SuperNICs per server, up to 800 Gb/s each, on Quantum-X800 InfiniBand or Spectrum-X Ethernet |
| Opslag en front-end | BlueField-3 DPUs or ConnectX NICs to a separate storage and service network; local PCIe Gen5 NVMe |
| Software | Ubuntu or RHEL, NVIDIA drivers and CUDA, NVIDIA AI Enterprise, Kubernetes or Slurm, optional Run:ai and Mission Control |
De cijfers zijn de door NVIDIA gepubliceerde specificaties van het platform. Waar NVIDIA twee Tensor Core-waarden noemt, gaat de eerste uit van sparsity en is de tweede dense. De exacte opbouw (CPU's, geheugen, opslag, koeling, netwerk) wordt met u afgestemd en in een schriftelijke offerte bevestigd.
Dit zijn de waarden die we ter plaatse controleren voordat we offreren. Als uw hal er niet aan kan voldoen, stellen we een colocatieoptie of een ander platform voor.
| Rackvermogen | Around 60 kW for four HGX B300 nodes (published reference figure), plus network and storage |
|---|---|
| Vermogen per server | Around 14 kW for an 8-GPU Blackwell Ultra system (NVIDIA DGX B300 figure) |
| Koeling | High-density air with hot-aisle containment, or direct liquid cooling with a coolant distribution unit |
| Rack | Deep, high-load 48U to 52U rack; floor loading checked against the populated weight |
| Stroomvoeding | Redundant three-phase supplies sized for the full load, with the PDU layout agreed in advance |
| Netwerk | Space and power for leaf and spine switches if this is the first rack, and fibre routes to future racks |
Eén verantwoordelijk Brits team van dimensionering tot dagelijks beheer
We vertalen uw gebruikers, modellen en trainingsplannen naar tokens per seconde en GPU-uren en laten zien hoeveel racks dat nu en over twee jaar vraagt.
We inspecteren stroom, koeling, vloer en glasvezel, of maken een shortlist van Britse colocatiehallen die racks van 60 kW aankunnen, voordat er een bestelling wordt geplaatst.
Assemblage, bekabeling, firmware-afstemming en meerdaagse stresstests op rackniveau, met een schriftelijk acceptatierapport.
Installatie op locatie, opstarten van de fabric, Kubernetes of Slurm, NVIDIA AI Enterprise en een eerste model dat samen met uw team end-to-end wordt geserveerd.
NVIDIA-datacenter-GPU's worden toegewezen door NVIDIA en de serverfabrikanten, en levertijden worden eerder in maanden dan in weken gemeten. Complete, geteste systemen krijgen doorgaans eerder een toewijzing dan losse onderdelen, dus we offreren deze platforms als complete systemen. Zendingen buiten het VK, en veel geavanceerde GPU's ook binnen het VK, vereisen een eindgebruikers- en eindgebruikscontrole volgens Britse en Amerikaanse exportregels voordat we de levering kunnen bevestigen.
Trade-leden krijgen de tijd van onze engineers voor sourcing- en ontwerpvragen, vroege toegang tot voorraad en voorrang op wachtlijsten, en gratis technische support bij elke bestelling.
Stroom en warmte. Vier HGX B300-nodes verbruiken al zo'n 60 kW, het praktische plafond voor veel luchtgekoelde hallen. Met directe vloeistofkoeling en voldoende stroom zijn dichtere opstellingen mogelijk en ontwerpen we daarvoor.
Niet helemaal. Elke server is een eigen NVLink-domein van 8 GPU's, en de vier servers communiceren via de fabric van 800 Gb/s. Voor training en de meeste inferentie schaalt dat zeer goed. Als één model een groter NVLink-domein nodig heeft, voegt GB300 NVL72 72 GPU's samen tot één.
Ja. We kunnen één HGX B300-node volgens hetzelfde ontwerp leveren, met de switchpoorten en het bekabelingsplan al klaar voor de rest van het rack.
De prijs hangt af van de serverfabrikant, CPU's, geheugen, opslag, fabric en koeling, en van de toewijzing op dat moment. We offreren deze systemen schriftelijk na dimensionering en een locatiecontrole.
Vertel ons wat het moet produceren, hoeveel mensen het gaan gebruiken en waar het zou komen te staan. Een engineer komt terug met een gedimensioneerd advies en een eerlijk oordeel over of bezit voor u zinvol is.