Wat is de stroomdichtheid van een datacenter en welke invloed heeft AI daarop?

Als je een datacenter uit 2019 vergelijkt met een uit 2026, vallen meteen de andere koelarchitectuur, de nieuwe modelnamen op de servers en de uitpuilende stroomkabels en stroomrails op. Al deze veranderingen houden rechtstreeks verband met de toename van de vermogensdichtheid in datacenters. 

Oudere faciliteiten die zich geen zorgen hoeven te maken over AI-workloads, kunnen hun capaciteit en vermogensdichtheid geleidelijk opschalen naarmate de vraag toeneemt. Hyperscalers moeten de grenzen verleggen van hoeveel stroom een faciliteit realistisch gezien kan verbruiken.

De vraag naar workloads met een hoge vermogensdichtheid in datacenters is niet afgenomen, waardoor datacenterbeheerders rekening moeten houden met een toename van de vermogensdichtheid in hun datacenters. De mate waarin zij rekening moeten houden met uitbreiding hangt af van de workloads die zij uitvoeren, de bestaande koelsystemen en de beschikbaarheid van voldoende stroom uit het elektriciteitsnet. 

Korte feiten: wat u moet weten over de vermogensdichtheid van datacenters

• De sterke stijging van de vermogensdichtheid in datacenters wordt veroorzaakt door Op basis van een GPU AI-rekenkracht, waarbij het stroomverbruik op chipniveau de aannames bij het ontwerp van de faciliteit heeft overtroffen.
• Volgens de Global Data Center Survey van het Uptime Institute is de gemiddelde rackdichtheid in datacenters gestegen van ongeveer 4-5 kW tien jaar geleden tot 8-9 kW vandaag de dag.
• AI-racks met hoge dichtheid draaien nu al op meer dan 130 kW, en volgens Schneider Electric zullen systemen van de volgende generatie naar verwachting 240 kW of meer verbruiken.
• Luchtkoeling volstaat niet meer bij een vermogen van meer dan ongeveer 30 kW per rack. De invoering van direct-to-chip-vloeistofkoeling is al twee jaar op rij stabiel gebleven op 22%, terwijl de vraag ernaar juist toeneemt.
• Ondanks de sterke groei van racks met een hoog vermogen, beschikken 82% datacenters niet over racks van ongeveer 30 kW, volgens aan het Uptime Institute.
  

Wat is de vermogensdichtheid van een datacenter?

Vermogensdichtheid is de hoeveelheid vermogen die een volledig gevuld rack verbruikt, gemeten in kilowatt per rack. Het is een maatstaf voor de hoeveelheid warmte en elektrische belasting die in één fysieke ruimte is geconcentreerd. Het geeft geen beeld van de oppervlakte in vierkante voet of het aantal servers, maar als je de vermogensdichtheid met die factoren combineert, krijg je een volledig beeld van het stroomverbruik van het datacenter. 

Een rack van 10 kW en een rack van 130 kW kunnen op dezelfde vloertegels worden geplaatst. Het verschil zit hem volledig in wat er rondom die tegel moet gebeuren: 

• Hoeveel stroom wordt er naar het apparaat geleid? 
• Hoeveel koelvermogen is er nodig om de warmte die het genereert af te voeren?
• Hoeveel structurele en elektrische capaciteit de omliggende faciliteit nodig heeft om dit te ondersteunen.
  

Waarom de vermogensdichtheid belangrijker is dan het totale vermogen van de faciliteit

Twee faciliteiten kunnen hetzelfde totale vermogen in megawatt verbruiken en toch met totaal verschillende technische problemen te maken krijgen, afhankelijk van hoe dat vermogen over de racks wordt verdeeld.

Een faciliteit met 200 racks van elk 5 kW heeft een totale IT-belasting van 1 MW. Als diezelfde belasting in 20 racks zou worden geconcentreerd, zou dat 50 kW per rack vereisen, waardoor hetzelfde stroomverbruik in een tiende van het aantal rackposities terechtkomt en een veel grotere uitdaging op het gebied van koeling ontstaat.  De warmte moet snel ergens heen, en conventionele luchtkoeling langs de randen is nooit ontworpen om die warmte af te voeren.

Een aanzienlijke meerderheid van de datacenters hoeft zich geen zorgen te maken over racks van meer dan 50 kW, maar nieuwe bouwprojecten van hyperscalers zijn vrijwel uitsluitend gericht op hoge vermogensdichtheid. Het Uptime Institute schat dat ongeveer een derde van de exploitanten al nieuwe capaciteit aan het opbouwen is, specifiek om kasten met hoge dichtheid te kunnen huisvesten. Dit geeft aan welke richting de markt opgaat, ook al heeft het huidige geïnstalleerde bestand deze ontwikkeling nog niet ingehaald.

Waarom vertoont de vermogensdichtheid een stijgende trend?

Het korte antwoord: het zijn de GPU’s, en niet de algemene servers, die momenteel de toon aangeven.

Traditioneel bedrijfscomputing is gestaag maar voorspelbaar gegroeid. Dat geldt niet voor hardware voor AI-training en -inferentie.

De rack-scale-systemen van NVIDIA bundelen tientallen GPU’s in één onderling verbonden eenheid, juist omdat een strakkere integratie de trainingsprestaties verbetert, en die integratie is de reden waarom het vermogenscijfer zo aanzienlijk stijgt. De 132 kW van de NVL72 is een pluspunt, geen minpunt. Het is het directe gevolg van het samenbrengen van 72 GPU’s (naast andere componenten) in één rack om de latentie tussen deze componenten tot een minimum te beperken.

Vertiv verwacht dat de AI-dichtheid op rackniveau tussen 2024 en 2029 zal stijgen van ongeveer 50 kW naar 1 megawatt. Of elke exploitant een rack van 1 megawatt nodig heeft, is een andere vraag.

Over één ding bestaat geen twijfel: de ontwikkeling. Elke nieuwe generatie GPU’s van NVIDIA wordt geleverd met een hoger stroomverbruik per rack dan de vorige generatie, en bij het ontwerp van datacenters moet rekening worden gehouden met die ontwikkelingslijn. 

Het resultaat is dat de markt zich in twee segmenten opsplitst. 

Aan de ene kant heb je hyperscalers en op AI gerichte colocatieaanbieders die in hoog tempo op weg zijn naar racks met een vermogen van meer dan 100 kW. Aan de andere kant heb je traditionele bedrijfsdatacenters die nog steeds in de range van 8-9 kW zitten, zonder dat er op korte termijn een reden is om hier verandering in te brengen.

Wat betekent een toenemende dichtheid voor de infrastructuur van datacenters?

Er zijn grenzen aan luchtkoeling, en de meeste exploitanten zitten al bijna tegen die grenzen aan.

Luchtkoelsystemen aan de randen en binnen de rijen verliezen doorgaans hun effectiviteit bij een vermogen van ongeveer 30 kW per rack. Vanaf dat punt is het fysiek niet meer haalbaar om voldoende lucht snel genoeg te verplaatsen om de warmte uit de kast af te voeren. 

Daarom is vloeistofkoeling rechtstreeks op de chip uitgegroeid van een nichetoepassing tot het standaardgespreksonderwerp bij elke dichtheid boven de 30 kW. Het is momenteel goed voor ongeveer 22% van de koeloplossingen bij de ondervraagde operators, een cijfer dat al twee jaar op rij stabiel is gebleven, terwijl 61% van de operators aangeeft dat ze zouden overwegen om deze technologie in te voeren.

Die kloof tussen de stijgende vraag en de stagnerende acceptatie is waar het echt om draait als het gaat om infrastructuur en vermogensdichtheid. De technologie heeft zich bewezen, maar het aanpassen van de stroomvoorziening, het leidingwerk en de constructieve ondersteuning in een bestaand gebouw verloopt traag en is kostbaar.

Houd er rekening mee dat hybride koeling, waarbij in zones met een lage vermogensdichtheid gebruik wordt gemaakt van luchtkoeling en in zones met een hoge vermogensdichtheid van vloeistofkoeling, is de gangbare aanpak. Hierdoor wordt het nog belangrijker om inzicht te hebben in de vermogensdichtheid van het datacenter, zodat u uw datacenter kunt ontwerpen met de optimale koelingsaanpak. 

Een hogere dichtheid verkort ook de levensduur van de infrastructuur die eromheen is aangelegd. Stroomverdeelunits, busways en koelsystemen die zijn ontworpen voor een gemiddeld vermogen van 10 kW, kunnen een rack van 130 kW niet goed aan. Ze worden vervangen, niet opgewaardeerd.

Dat heeft directe gevolgen voor de vervangingscycli: de hardware die is ontworpen op basis van de aannames van gisteren over de dichtheid, raakt sneller verouderd dan in het afschrijvingsschema is voorzien, en wordt massaal buiten gebruik gesteld wanneer een faciliteit uiteindelijk de overstap maakt naar de volgende generatie rekken.

Wanneer een faciliteit wordt gemoderniseerd om racks met een hogere dichtheid te kunnen ondersteunen, worden de servers, PDU’s en koelapparatuur die waren afgestemd op de oude dichtheid niet hergebruikt. Ze worden buiten gebruik gesteld, meestal in grote aantallen en vaak binnen een strakkere tijdsplanning dan waarvoor iemand had begroot. Als die overgang op uw planning staat, De diensten van exIT voor het buiten gebruik stellen van datacenters zorgen voor de logistiek, de bewakingsketen en het wissen van gegevens bij precies dat soort grootschalige infrastructuuroverdrachten.