AI-fabrieken · NVIDIA-datacenter · VK
Een AI-fabriek zet uw data, stroom en GPU's om in een gestage stroom antwoorden, voorspellingen en agents. We ontwerpen, bouwen, installeren en beheren NVIDIA AI-fabrieken voor Britse organisaties, van één rack tot een schaalbare unit van meerdere racks.
Een traditioneel datacenter slaat informatie op en levert die. Een AI-fabriek produceert haar. Er gaan grondstoffen in (uw documenten, records, sensordata en code) en er komen eindproducten uit: antwoorden op vragen van medewerkers, beslissingen van agents, prognoses, gegenereerde ontwerpen en getrainde modellen. De productie-eenheid is het token, en de taak van de fabriek is goede tokens snel, goedkoop en veilig te maken.
Zoals elke fabriek is het meer dan zijn machines. GPU's doen het werk, maar de doorvoer die u werkelijk krijgt, hangt af van het netwerk dat ze verbindt, de opslag die ze voedt, de software die ze inplant, de stroom en koeling die ze draaiende houden en de mensen die de hele lijn bedienen. De meeste AI-projecten die tegenvallen, doen dat omdat een van die schakels te klein was, niet omdat de GPU's te traag waren.
Daarom behandelen we een AI-fabriek als één ontworpen systeem met één eigenaar. We dimensioneren het op basis van het werk dat u gedaan wilt krijgen, controleren of uw gebouw het kan huisvesten, bouwen en testen het in het VK en houden het draaiende zodra het live is.
Waarom organisaties serieus AI-werk verplaatsen van gehuurde GPU's naar infrastructuur die ze zelf beheren
Cloud-GPU's worden per uur gefactureerd, of het werk nu waardevol is of niet. Eigen capaciteit is een vaste kostenpost, dus elke extra query, agent-run of trainingsjob verlaagt de kosten per stuk. Zodra de bezetting stabiel is, valt de rekensom meestal uit in het voordeel van bezit.
Modellen, prompts, embeddings en output verlaten nooit de infrastructuur die u beheert. Dat maakt UK GDPR, sectortoezichthouders en klantcontracten veel eenvoudiger en houdt gevoelig werk weg van gedeelde multi-tenantplatforms.
Geen quotumaanvragen, geen wachten tot een regio vrijkomt, geen onverwachte prijswijzigingen. Uw teams plannen rond capaciteit die u al bezit, en urgent werk gaat voor omdat u de prioriteiten bepaalt.
Hetzelfde cluster kan pre-trainen, fine-tunen, modellen serveren, retrieval over uw documenten uitvoeren en agents hosten. Workloadplanning deelt GPU's tussen teams, zodat dure hardware aan het werk is in plaats van stil te staan bij één afdeling.
Elke NVIDIA-generatie produceert veel meer tokens per eenheid stroom dan de vorige. NVIDIA noemt voor Blackwell Ultra-systemen tot 50 keer meer output per megawatt dan Hopper bij agentic werk met lage latency. Met de Britse elektriciteitsprijzen is efficiëntie een echte begrotingspost.
U kiest de identiteitsprovider, de netwerkgrens, de logging en of de fabriek überhaupt met internet is verbonden. Air-gapped ontwerpen en ontwerpen met een beperkt netwerk zijn mogelijk als de data dat vraagt.
Begin met één node of één rack volgens een referentieontwerp en voeg identieke racks toe zodra de vraag zich bewijst. Omdat elke stap dezelfde blauwdruk volgt, betekent groei geen herontwerp.
Gefinetunede modellen, evaluatiesets, promptbibliotheken en agentworkflows worden assets die u bezit. Elk project dat u op de fabriek draait, maakt het volgende sneller, in plaats van een provider te betalen om uw bedrijf opnieuw te leren kennen.
Bezit is niet voor iedereen de juiste keuze. Als uw GPU-vraag incidenteel of onvoorspelbaar is, of u slechts een paar weken capaciteit nodig hebt, is cloud of een klein persoonlijk AI-systeem meestal goedkoper. We zeggen het u als dat zo is.
GPU-servers of systemen op rackschaal, gedimensioneerd voor de modellen die u draait: geheugen per GPU voor de modelgrootte, de omvang van het NVLink-domein voor hoe ver één model zich kan verspreiden, en precisie-ondersteuning (FP4 tot FP64) voor de berekeningen die u nodig hebt.
Het GPU-naar-GPU-netwerk tussen servers, gebouwd op NVIDIA Quantum InfiniBand of Spectrum-X Ethernet met 400 tot 800 Gb/s per GPU. Het bepaalt of 32 GPU's zich gedragen als één grote machine of als 32 kleine.
Parallelle opslag of opslag met hoge doorvoer die GPU's gevoed houdt tijdens training en checkpointing, plus een apart netwerk daarvoor zodat opslagverkeer nooit concurreert met GPU-verkeer.
NVIDIA AI Enterprise, NIM-microservices, Kubernetes of Slurm, workloadplanning zoals Run:ai en clusterbeheer zoals Mission Control, zo geconfigureerd dat teams veilig zelf aan de slag kunnen.
Moderne GPU-racks verbruiken elk 30 tot ruim 100 kW. Stroomvoorziening, warmteafvoer, waar nodig directe vloeistofkoeling en vloerbelasting worden eerst ontworpen, niet pas op de leverdag ontdekt.
Monitoring, firmware- en driverupdates, beveiligingspatches, modeluitrol en capaciteitsplanning. Een fabriek die niet goed wordt beheerd, verliest langzaam haar output aan storingen en drift.
Hoe een typisch Workstation AI-fabrieksproject verloopt
We beginnen bij het werk, niet bij de hardware: welke modellen, hoeveel gebruikers, hoeveel tokens per dag, hoeveel training en hoe snel het moet groeien. Dat levert een doeldoorvoer op waarop we kunnen ontwerpen.
We controleren uw serverruimte of colocatieruimte op stroom per rack, koelcapaciteit, vloerbelasting, toegangsroutes en netwerkconnectiviteit. Als de locatie het ontwerp niet aankan, zeggen we dat voordat u iets uitgeeft.
We kiezen het platform en het netwerk, maken een racklayout en stuklijst, en werken toewijzing en eventuele exportcontroles door met onze leveranciers voordat we ons vastleggen op een vaste offerte.
Systemen worden op rackniveau geassembleerd, bekabeld en stressgetest, met validatie van GPU, geheugen, netwerk en opslag, zodat problemen in een testruimte worden gevonden in plaats van in uw datahal.
We installeren, sluiten de fabric aan, rollen het besturingssysteem, de drivers, Kubernetes of Slurm en de NVIDIA-softwarestack uit, en voeren vóór de overdracht acceptatietests uit met uw team.
Onze SysOps247-dienst kan de fabriek de klok rond monitoren en onderhouden, nieuwe modellen veilig uitrollen met Ring Promoter en secrets en edge-toegang afgeschermd houden met WSL Vault en WSL Proxy.
Een korte gids voor de NVIDIA-datacenterplatforms waarop we AI-fabrieken bouwen. Elk heeft een eigen pagina met de details.
| Platform | GPU's per unit | GPU-geheugen | Koeling | Het best in |
|---|---|---|---|---|
| HGX B300-rack met 32 GPU's | 32 (4 × 8) | 8,4 TB HBM3e | Lucht of vloeistof | Reasoning-inferentie en grootschalige training in standaardracks |
| Compal SGX30-2 (HGX B300-node) | 8 | 2,1 TB HBM3e | Lucht | Een gecertificeerde, kant-en-klaar gespecificeerde B300-node, te bestellen |
| HGX B200-cluster | 8 per node | 1,4 TB per node | Lucht of vloeistof | Gemengde AI- en wetenschappelijke FP64-berekeningen |
| GB300 NVL72 | 72 in één NVLink-domein | 20 TB HBM3e | Vloeistof | De grootste modellen en de snelste reasoning |
| GB200 NVL72 | 72 in één NVLink-domein | 13,4 TB HBM3e | Vloeistof | Modellen met biljoenen parameters, plus sterke FP64 |
| DGX SuperPOD | Honderden tot duizenden | Schaalt per unit | Vloeistof of lucht | Een kant-en-klare, door NVIDIA gevalideerde AI-supercomputer |
| RTX PRO 6000 AI-fabriek | 8 per node | 768 GB per node | Lucht | Enterprise-agents, visual computing en simulatie |
| H200 NVL-servers | Tot 8 per server | 141 GB per GPU | Lucht | Inferentie in bestaande luchtgekoelde racks |
| Vera Rubin NVL72 | 72 in één NVLink-domein | 288 GB HBM4 per GPU | Vloeistof | De volgende generatie capaciteit plannen |
De geheugenwaarden zijn de door NVIDIA gepubliceerde totalen per platform. Netwerken voor elke optie behandelen we op onze pagina over AI-fabrieksnetwerken.
Kies een platform om te zien wat het doet, wat het van uw locatie vraagt en hoe we het leveren
NVIDIA-datacenter-GPU's worden toegewezen door NVIDIA en de serverfabrikanten, en levertijden worden eerder in maanden dan in weken gemeten. Complete, geteste systemen krijgen doorgaans eerder een toewijzing dan losse onderdelen, dus we offreren deze platforms als complete systemen. Zendingen buiten het VK, en veel geavanceerde GPU's ook binnen het VK, vereisen een eindgebruikers- en eindgebruikscontrole volgens Britse en Amerikaanse exportregels voordat we de levering kunnen bevestigen.
Trade-leden krijgen de tijd van onze engineers voor sourcing- en ontwerpvragen, vroege toegang tot voorraad en voorrang op wachtlijsten, en gratis technische support bij elke bestelling.
Een GPU-cluster is de hardware. Een AI-fabriek is het hele productiesysteem eromheen: rekenkracht, netwerk, opslag, software, faciliteit en beheer, samen ontworpen om betrouwbaar AI-output te leveren. Een cluster zonder de rest draait doorgaans ver onder zijn potentieel.
Er is geen minimum. Veel organisaties beginnen met één 8-GPU-server of één rack volgens een referentieontwerp en voegen daarna identieke racks toe. Waar het om gaat, is dat de eerste stap zo is gebouwd dat hij zonder herontwerp kan groeien.
Nee. De meeste klanten gebruiken een Britse colocatiefaciliteit die de stroom en koeling kan leveren die deze systemen nodig hebben. We helpen u er een te kiezen en verzorgen daar de installatie. Een geschikte serverruimte op locatie werkt ook, als die door onze locatie-inspectie komt.
Levering duurt het langst. Levertijden voor NVIDIA-datacenterplatforms worden momenteel in maanden gemeten en hangen af van toewijzing. Ontwerp en locatie-inspectie lopen parallel aan de levering, en installatie en opstarten van een rack duren doorgaans enkele dagen tot een paar weken zodra de hardware ter plaatse is.
Soms. Geavanceerde NVIDIA-GPU's en AI-systemen vallen onder Britse en Amerikaanse exportregels. We hebben de eindgebruiker, het beoogde gebruik en de installatielocatie nodig voordat we de levering kunnen bevestigen, en voor sommige bestemmingen is een vergunning nodig die tijd kan kosten of kan worden geweigerd.
Wij. Hardwaregarantie en NVIDIA-softwaresupport lopen via ons, en onze Britse engineers verzorgen de eerstelijnssupport. Trade-leden krijgen gratis technische support bij elke bestelling, en SysOps247 voegt monitoring en beheer de klok rond toe.
Vertel ons wat het moet produceren, hoeveel mensen het gaan gebruiken en waar het zou komen te staan. Een engineer komt terug met een gedimensioneerd advies en een eerlijk oordeel over of bezit voor u zinvol is.