AI-datacenterdiensten: hoe Workstation ontwerpt, bouwt en oplevert
Locatie, stroom, koeling, fabric, GPU's, opslag en software, van een pilotrack tot een hal, met een burn-in van 72 uur voordat u het in gebruik neemt.
Een AI-datacenter is geen serverruimte met snellere kaarten erin. De stroom, de warmte en het netwerk moeten voor de GPU's worden ontworpen, anders staan de GPU's stil. Workstation neemt dat hele traject op zich: de locatie, de kilowatts, de koeling, de fabric, de machines, de software en een oplevering die u kunt beheren.
Het begeleidende stuk, Energie eerst, gaat over het stroombudget. Dit stuk gaat over de dienstverlening eromheen.
Ontworpen voor de GPU, niet er achteraf omheen gebouwd
Een traditionele rij in een bedrijfsdatacenter werd gebouwd voor servers die een of twee kilowatt verbruiken. Een luchtgekoeld systeem met 8 GPU's, zoals de DGX B300 van NVIDIA, heeft een vermogen van ongeveer 14 kW. Vier daarvan in een rack is ongeveer 56 kW in de B300-referentie van NVIDIA. NVL72-systemen op rackschaal zijn standaard vloeistofgekoeld. Als de ruimte die warmte niet kan afvoeren, of de voeding die stroom niet kan leveren, is de specificatie op de offerte fictie.
Daarom begint het ontwerp bij de workload en het gebouw samen.
- Koeling die bij het platform past. Lucht wanneer de ruimte het aankan. Een rear-door-warmtewisselaar wanneer de rij dicht bezet is maar de machines nog luchtgekoeld zijn. Directe vloeistofkoeling, met een waterkring en lekdetectie, wanneer het platform koelplaten vereist.
- Een fabric die de GPU's niet laat verhongeren. ConnectX-7- en ConnectX-8-adapters, tot 800 Gb/s, BlueField-3 voor opslag en beheer, Spectrum Ethernet of Quantum InfiniBand tussen de nodes. Het netwerk is onderdeel van de machine, geen latere upgrade.
- Stroom die u kunt benoemen. Kilowatts per rack, UPS- en generatordekking en de marge die op de voeding overblijft. We verkopen geen opwekkingsproject. We plannen de belasting die de locatie al heeft, of de colocatiesuite of grond met stroomaansluiting die u nog moet veiligstellen.
Wat we daadwerkelijk doen
Locatie
Er zijn drie plekken waar een cluster kan staan. Een ruimte die u al hebt, als de stroom en de vloerbelasting echt toereikend zijn. Een colocatiehal, wanneer het gebouw de beperking is en de data toch op een bekende plek moet blijven. Grond met stroomaansluiting of een beschikbare megawatt, wanneer u de operator bent en de hal nog niet bestaat. Wij helpen die capaciteit te verwerven. We zeggen ook wanneer de ruimte die u hoopte te gebruiken de machines niet aankan.
Stroom en capaciteit
De AI-datacenterplanner gebruikt indicatieve banden zodat een pilot niet per ongeluk een ontwerp van een megawatt wordt: onder 1 kW op een bureau, 1,5 tot 3 kW voor een team, 6 tot 20 kW voor een rack, 40 tot 130 kW voor een pod en 0,5 tot 5 MW voor een fabriek. Dat zijn planningsbandbreedtes. Het locatieonderzoek vervangt ze door uw voeding. Een uitgewerkt voorbeeld staat in de gids voor AI-datacenters: een DGX B300 op zijn vermogen van 14 kW is 122.640 kWh per jaar bij volledig verbruik, vóór power usage effectiveness.
Koeling
Vloeistofkoeling wordt voorgeschreven wanneer het platform die nodig heeft, of wanneer lucht de ruimte niet kan verlaten. Het wordt niet voorgeschreven om een voorstel nieuwer te laten lijken. Vloeistofkoeling in een gesloten kring, waarbij het koelmiddel in het rackcircuit blijft en warmte afgeeft bij een koeler, is één manier om dichtheid toe te voegen zonder de hele hal te verbouwen. Het vereist nog steeds een ontwerp, een lekplan en een verhuurder die ervoor tekent.
Compute
Ingekocht volgens uw specificatie, nieuw of gecontroleerd refurbished. Passief gekoelde datacenter-GPU's, waaronder H100, L40S en RTX PRO Blackwell Server Edition. Complete systemen: 4U-servers met 8 GPU's, HGX B200 op offerte, DGX Station en DGX Spark. Als u een oudere generatie met 8 GPU's vervangt, plaatsen we de uitgaande hardware en leveren we ook de volgende. Herkomst, staat en garantie worden gecontroleerd voordat een kavel wordt aangeboden. Wanneer we een live kavel delen, vertegenwoordigen we onze klant.
Opslag
Hete data op all-NVMe-nodes, waaronder 2U-servers met 24 bays en PCIe 5.0-schijven, en koudere data op grote enterprise-schijven. Trainingssets, checkpoints en retrievalcorpora horen niet op de bootschijven van de GPU-server.
Netwerk
De adapters, de DPU's en de switches hierboven, gedimensioneerd op het aantal GPU's in plaats van gekopieerd van het kantoornetwerk van vorig jaar. Een fabric die een generatie achterloopt op de GPU's uit zich in stilstaande accelerators, niet in een traag knipperende switch-led.
Geheugen, CPU's en de rest van de machine
DDR5 ECC registered-geheugen en de CPU's die het platform verwacht, waaronder Threadripper PRO en EPYC waar dat de juiste host is. Upgrades van machines die u al bezit, wanneer het chassis en het stroombudget dat toelaten.
Software
Besturingssysteem, datacenterdrivers, de container toolkit en NVIDIA AI Enterprise waar de uitrol de ondersteunde stack nodig heeft. De oplevering omvat een machine die uw modellen draait, geen pallet en een paklijst.
Installatie en burn-in
Installatie op locatie, daarna een burn-in van 72 uur op elk rack dat we installeren. Het doel van de burn-in is dat een voeding, een DIMM of een GPU op onze tijd faalt, niet op de uwe.
Snelheid, zonder te doen alsof het net van de ene op de andere dag verandert
Eén partner is sneller dan een keten van een vastgoedagent, een installatieadviseur, een reseller en een aparte installateur die nooit elkaars tekeningen hebben gelezen. Eisen, een wederzijdse NDA, standaard KYC en dan opties die passen bij de specificatie, het budget en de datum. Dat is de volgorde. Het schrapt overdrachtsmomenten. Het schrapt geen onderstation.
De indicatie van de levertijd in de planner loopt van ongeveer een week voor een bureausysteem tot 16 tot 40 weken voor een ontwerp op fabrieksschaal. Een locatieonderzoek kan die getallen verschuiven. Platforms die alleen op offerte zijn, waaronder HGX B200 en NVL72, blijven op offerte omdat allocatie en werk op de locatie de datum bepalen. Systemen in de AI Shop hebben live prijzen.
Modulaire groei is hoe de meeste van onze klanten daadwerkelijk uitbreiden. Bewijs de workload op één server. Voeg dezelfde configuratie toe wanneer de voeding ruimte heeft. Een consistente build is makkelijker te koelen, van reserveonderdelen te voorzien en te beheren dan een rij unieke machines.
Wanneer u de hal niet moet bouwen
Als de data op een bekende plek kan staan en het gebouw de beperking is, is een private GPU-cloud dezelfde dimensioneringsoefening zonder het onderstation. U hebt nog steeds een verhaal voor stroom en koeling nodig. Dat hoort bij de hal die u huurt, en wij dimensioneren de GPU's er nog steeds op.
Als u overtollige GPU-servers hebt, helpen we ze bij gecontroleerde kopers te plaatsen. Dat is een apart gesprek, los van een nieuwe build, en het begint met dezelfde NDA.
Wat deze dienst niet is
- Geen elektriciteitscentrale. We ontwikkelen geen opwekking en we bieden geen geothermie, kernenergie of gascentrale aan alsof Workstation het energiebedrijf is. Uw energiecontract blijft bij uw leverancier. Wij vertellen u hoeveel kilowatt het ontwerp nodig heeft.
- Geen voorraadlijst. De machines volgen het locatieonderzoek. Als het enige systeem dat past kleiner is dan dat in de opdracht, is dat het advies.
- Geen vaste planning voor een campus. Maanden is realistisch voor een rack in een ruimte die het aankan. Een nieuwe hal volgt de stroom, de vergunningen en de koelinstallatie.
- Geen brochure vol piek-FLOPS. De doorvoercijfers van NVIDIA zijn die van NVIDIA. Wij dimensioneren op basis van uw modellen, uw gebruikers en uw voeding.
Hoe u begint
- Beantwoord de zeven vragen in de planner. U krijgt een profiel, een niveau en een indicatie van budget, stroom en tijd. Zonder aanmelding.
- Of stuur de locatie en de workload: inkomende stroom, de modellen, het aantal gebruikers en of de machines in een door u genoemde ruimte moeten blijven.
- We tekenen een NDA voordat tekeningen of een kavellijst van eigenaar wisselen, daarna KYC, daarna een schriftelijke set opties.
Bronnen
- Workstation: AI-datacenteroplossingen
- Workstation: energie eerst
- Workstation: gids voor NVIDIA AI-datacenters
- NVIDIA: DGX B300
Handelsmerken. NVIDIA, DGX, NVL72, ConnectX, BlueField, Spectrum en Quantum zijn handelsmerken van NVIDIA Corporation. AMD, Threadripper en EPYC zijn handelsmerken van Advanced Micro Devices, Inc. Het cijfer van 14 kW is de DGX B300-specificatie van NVIDIA, gebruikt als voorbeeld. Stroombanden en levertijden zijn planningsbandbreedtes van Workstation, die vóór een offerte door een locatieonderzoek worden vervangen.