NVIDIA RTX PRO 6000 Blackwell Server Edition
De RTX PRO 6000 Blackwell Server Edition brengt 96 GB GDDR7 en Tensor Cores van de vijfde generatie samen op een standaard PCIe-kaart. Wij dimensioneren, bouwen, installeren en ondersteunen RTX PRO-servers in het VK, van een 2U-node met vier GPU's tot een rack met 32 GPU's.
De RTX PRO 6000 Blackwell Server Edition is de datacenterversie van NVIDIA's topmodel professionele RTX-GPU. Hij draait grote taalmodellen en AI-agents, en heeft daarnaast RT Cores, video-engines en display-uitgangen voor rendering, digital twins en videowerk. Eén kaarttype kan dus meerdere teams bedienen.
Hij vervangt de L40S als NVIDIA's PCIe-datacenter-GPU voor algemeen gebruik. Vergeleken met de L40S verdubbelt hij het geheugen (96 GB tegenover 48 GB), verdubbelt hij bijna de bandbreedte, voegt hij FP4-precisie toe en kan hij met Multi-Instance GPU (MIG) in vier geïsoleerde GPU's worden opgesplitst.
| GPU-architectuur | NVIDIA Blackwell |
|---|---|
| CUDA cores | 24,064 |
| Tensor Cores | 752, vijfde generatie (FP4, FP6, FP8, FP16, BF16, TF32) |
| RT Cores | 188, vierde generatie |
| FP4 Tensor Core | 4 PFLOPS |
| FP8 Tensor Core | 2 PFLOPS |
| FP16 / BF16 Tensor Core | 1 PFLOPS |
| TF32 Tensor Core | 234 TFLOPS |
| FP32 | 120 TFLOPS |
| Piekprestaties RT Cores | 355 TFLOPS |
| GPU-geheugen | 96 GB GDDR7 met ECC |
| Geheugeninterface en bandbreedte | 512-bit, 1.597 GB/s |
| Multi-Instance GPU | Tot 4 geïsoleerde instances |
| Media-engines | 4 × NVENC (9e gen), 4 × NVDEC (6e gen) |
| Display-uitgangen | 4 × DisplayPort 2.1 |
| Host-interface | PCIe Gen 5 x16 |
| Maximaal vermogen | Tot 600 W, configureerbaar |
| Vormfactor | Luchtgekoeld: dual-slot, volledige hoogte, volledige lengte, passief. Vloeistofgekoeld: single-slot |
| Beveiliging | Secure boot met hardware root of trust |
Cijfers van de productpagina en het datasheet van NVIDIA. Tensor Core-cijfers zijn piekwaarden van NVIDIA; de werkelijke doorvoer hangt af van het model, de precisie en de software.
96 GB biedt plaats aan een model van 70 miljard parameters in FP8 op één kaart, of een veel groter model verdeeld over vier of acht. FP4 halveert het geheugen ruwweg nog eens voor modellen die dat verdragen.
Omniverse- en OpenUSD-scènes, synthetische data voor robotica en vision, en simulatie, op dezelfde GPU's als de modellen die ze gebruiken.
RT Cores, DLSS 4 en neural shaders voor final-frame rendering, plus vier encoders en vier decoders voor videopipelines en streaming.
120 TFLOPS FP32 voor simulatie- en engineeringcodes, en GPU-versnelde data science met RAPIDS.
Deel GPU's tussen ontwerpers en engineers met MIG of NVIDIA virtual GPU-software, zodat CAD- en visualisatiegebruikers niet elk een eigen tower nodig hebben.
Draai overdag inferentie en 's nachts rendering of fine-tuning op dezelfde servers, in plaats van aparte vloten aan te schaffen.
RTX PRO 6000-kaarten passen in standaard PCIe-servers. Dit zijn de drie formaten waar we het vaakst naar worden gevraagd.
384 GB GPU-geheugen in een 2U-chassis dat in een bestaand rack past. Geschikt voor de privé-assistent van een afdeling, retrieval-augmented generation (RAG) over bedrijfsdocumenten of een eerste productie-inferentiedienst.
Ongeveer 3 tot 3,5 kW bij vol GPU-vermogen
768 GB GPU-geheugen. MGX-servers zoals de AMAX AceleMax AXG-428AG combineren acht dual-slot GPU's met twee AMD EPYC 9005-processors, tot vijf PCIe Gen 5 x16-slots voor netwerkkaarten en acht E1.S-drives.
Ongeveer 6 tot 7 kW bij vol GPU-vermogen
Vier servers met acht GPU's, onderling verbonden via Spectrum-X Ethernet of Quantum InfiniBand: ongeveer 3 TB GDDR7 en 128 PFLOPS FP4 in één rack. AMAX verkoopt dit ontwerp als de RackScale 32. Het is geschikt voor inferentie op schaal, multi-agentsystemen en grote renderfarms.
Reken op 25 tot 30 kW per rack
| RTX PRO 6000 Blackwell Server Edition | L40S | |
|---|---|---|
| Architectuur | Blackwell | Ada Lovelace |
| GPU-geheugen | 96 GB GDDR7 ECC | 48 GB GDDR6 ECC |
| Geheugenbandbreedte | 1.597 GB/s | 864 GB/s |
| CUDA cores | 24,064 | 18,176 |
| Tensor Cores | 752 (5e gen) | 568 (4e gen) |
| RT Cores | 188 (4e gen) | 142 (3e gen) |
| FP32 | 120 TFLOPS | 91,6 TFLOPS |
| FP4 | Ja | Nee |
| MIG | Tot 4 instances | Nee |
| PCIe | Gen 5 x16 | Gen 4 x16 |
| Maximaal vermogen | Tot 600 W | 350 W |
| Video-engines | 4 NVENC / 4 NVDEC | 3 NVENC / 3 NVDEC |
De L40S is nog steeds een verstandige keuze als het vermogen beperkt is of modellen in 48 GB passen. Waar dat niet zo is, heeft de RTX PRO 6000 doorgaans minder GPU's nodig voor hetzelfde werk.
We bepalen GPU-geheugen, gebruikers en opslag op basis van uw modellen, contextlengtes en verkeer, en kiezen het kleinste systeem dat het werk aankan.
Een schriftelijke offerte met de exacte configuratie, de levertijd en de benodigde stroom en koeling.
We installeren het besturingssysteem, de NVIDIA-datacenterdrivers, CUDA, de container toolkit en uw inferentie- of renderingstack, en voeren daarna een burn-in onder volle belasting uit.
We leveren op uw locatie of in uw datacenter, plaatsen en bekabelen het in het rack en ondersteunen het vanuit het VK, met de fabrieksgarantie op de hardware.
Nee. Beide hebben 96 GB GDDR7, maar de Server Edition is passief gekoeld en afhankelijk van de ventilatoren van de server, heeft een configureerbare vermogenslimiet tot 600 W en is ook leverbaar als vloeistofgekoelde single-slot versie. De Workstation Edition heeft eigen ventilatoren voor desktoptowers, en de Max-Q Workstation Edition draait op 300 W.
Ongeveer 70 miljard parameters in FP8, of ruwweg het dubbele in FP4, met wat geheugen over voor de KV-cache. Lange contexten en veel gebruikers vragen meer geheugen, dus we dimensioneren op basis van uw werkelijke contextlengtes en gelijktijdigheid.
Nee. GPU's communiceren onderling via PCIe Gen 5. Dat volstaat om veel kopieën van een model te draaien, of één model verdeeld over een paar GPU's. Voor grote trainingsjobs die NVLink nodig hebben, kijkt u naar HGX B200- of B300-systemen.
Ja. MIG splitst een kaart op in maximaal vier geïsoleerde GPU's, elk met eigen geheugen en rekenkracht. NVIDIA's virtual GPU-software is een andere optie voor virtuele desktops.
Dat hangt af van de beschikbaarheid van GPU's en de server die u kiest. Elk product in de shop toont onze actuele levertijd, en uw offerte bevestigt die voordat u bestelt.
NVIDIA, het NVIDIA-logo, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum en DLSS zijn handelsmerken en/of gedeponeerde handelsmerken van NVIDIA Corporation in de VS en andere landen. AMAX en AceleMax zijn handelsmerken van AMAX Engineering Corporation. AMD en EPYC zijn handelsmerken van Advanced Micro Devices, Inc. Alle andere handelsmerken zijn eigendom van hun respectieve eigenaren. Workstation beschrijft deze producten als onafhankelijke leverancier; dit impliceert geen goedkeuring door de eigenaren. De productvideo is van NVIDIA.