Hoe om te gaan met belastingafvlakking in AI-datacenters

Tijdens een testrun van Frontier AI wordt er niet continu stroom uit het elektriciteitsnet onttrokken. .

Duizenden GPU's De inactieve en actieve capaciteit reageren vrijwel gelijktijdig, waardoor de vraag in minder dan een seconde kan schommelen van een vrijwel vlak basisniveau naar een piek van meer dan 100 megawatt. En dit gebeurt meerdere keren per minuut.

Gasturbines, transformatoren en schakelinstallaties zijn ontworpen voor langzame, voorspelbare belastingsveranderingen, maar moeten nu plotselinge, ingrijpende schommelingen opvangen. Daarom wordt het afvlakken van de belasting steeds belangrijker, aangezien energiebeheer misschien wel de grootste technische uitdaging is die gepaard gaat met AI-infrastructuur.

Korte feiten: Wat je moet weten Over lastafvlakking

• Moderne AI-trainingsclusters kunnen de vraag naar stroom binnen tijdvensters van minder dan een seconde met 100 MW of meer doen schommelen, een patroon waarvoor gasturbines en de netinfrastructuur niet zijn ontworpen om op te vangen
• Standaard batterijsystemen op netniveau zijn voor deze taak grotendeels ongeschikt. Voor het afvlakken van de belasting zijn batterijen met een hoge C-ratio nodig die zijn ontworpen om honderden keren per dag te schakelen tussen laden en ontladen, en geen trage opslagoplossingen met een hoge capaciteit. 
• Softwaregebaseerde afvlakking komt steeds meer naar voren als aanvulling op hardware.
• Voor installaties die de elektrische belasting niet kunnen afvlakken, blijft er maar één optie over: de GPU’s op vermogensbeperking zetten en ze op een conservatieve manier laten draaien, wat zich vertaalt in ofwel hogere exploitatiekosten ofwel een lagere trainingsdoorvoer 
• Het DOE ramingen Tegen 2030 zal er in de VS 100 GW aan extra opwekkingscapaciteit nodig zijn, waarvan ongeveer de helft voor datacenters bestemd is; daarom is het belastingsprofiel bepalend voor beslissingen over inkoop en vernieuwing van hardware.  
  

Het netwerk is niet ontworpen voor AI-workloads in datacenters

De belasting van een traditioneel datacenter is zo eenvoudig dat het saai kan zijn. De bezettingsgraad verandert per uur, niet per milliseconde, en de opwekkingscapaciteit kan hierop worden afgestemd. 

AI-training weerlegt die aanname volledig. 

GPU’s in een gesynchroniseerd cluster besteden een deel van hun cyclus aan rekenwerk en een deel aan wachten op een synchronisatiepunt, zoals bij een all-reduce-bewerking, en duizenden daarvan wachten tegelijkertijd. 

Het resultaat lijkt in niets op de gebruikelijke curve van een datacenter. Het lijkt eerder op een schakelaar die aan en uit wordt gezet. Als je dat vermenigvuldigt over een volledig cluster, is de schommeling eerst zichtbaar op het rack, vervolgens in de faciliteit en daarna bij de aansluiting op het elektriciteitsnet.

Met name gasturbines werken het meest efficiënt binnen een smalle belastingsbandbreedte, en zelfs geavanceerde droop-regeling kan frequentieveranderingen niet zo snel bijhouden. Als hier niets aan wordt gedaan, verkort de belasting de levensduur van de turbine en neemt het risico op een volledige systeemuitschakeling toe. 

Exploitanten moeten weten waarvoor hun bestaande en geplande installaties daadwerkelijk zijn ontworpen: een uurlijkse piek, of een schommeling die veertig keer per minuut optreedt? 

Standaardbatterijen kunnen de leemte op het gebied van belastingsafvlakking niet opvullen

Energieopslag via batterijen lijkt de voor de hand liggende oplossing, en dat kan het ook zijn, maar niet het type dat de meeste installaties al hebben. BESS (batterij-energieopslagsystemen) op netniveau zijn ontworpen voor langdurige taken: het verschuiven van hernieuwbare energieproductie, frequentieregeling gedurende minuten tot uren, en piekverlichting volgens een voorspelbaar schema. Die systemen werken doorgaans met een laadsnelheid van ongeveer 0,5C, wat betekent dat een leeggelopen batterij van 1 MWh ongeveer twee uur nodig heeft om weer op te laden. 

Voor het afvlakken van de belasting is juist het tegenovergestelde profiel nodig: hoge laad- en ontlaadsnelheden, honderden snelle laad-ontlaadcycli per dag, en minder aandacht voor de totale energiecapaciteit, aangezien de schommelingen zelf zelden lang aanhouden. Accu’s van maritieme kwaliteit, oorspronkelijk gebouwd voor scheepsvoortstuwing en offshoreplatforms met vergelijkbare schommelende belastingen, worden nu aangepast voor precies deze toepassing, waarbij ze werken met laad- en ontlaadsnelheden van ongeveer 2C en 4C in plaats van 0,5C.
 

Als je de C-waarde verkeerd instelt, maak je de situatie alleen maar erger. Dat leidt tot meer behuizingen, een grotere voetafdruk, meer overhead voor het thermisch beheer en een snellere degradatie van de cellen, juist door het cycluspatroon waarvoor je de accu’s hebt geïnstalleerd.

Hoe software de last van load balancing kan verlichten

Hardware-oplossingen zijn duur en het duurt lang om ze binnen een heel wagenpark te valideren. Dat heeft sommige exploitanten ertoe aangezet om een tweede laag in te zetten: software die het vermogen regelt zonder ook maar iets aan de elektrische infrastructuur te veranderen. 

De toleranties zijn krap. Als je een inactief venster met meer dan een paar milliseconden mist, ga je het grootste deel van het voordeel mislopen. Reageer je te traag bij het weer opstarten, dan onttrek je rekenkracht aan de trainingstaak zelf. Tijdens de training leidt een kleine vertraging al snel tot aanzienlijke kosten. Software-afvlakking levert je wat extra tijd op en is eenvoudig te implementeren, maar het is geen vervanging voor batterijen of het ontwerp van de turbine.

Wat gebeurt er als je de belasting van je datacenter niet afvlakkt?

Als exploitanten geen creatieve oplossing kunnen vinden, kiezen ze standaard voor de conservatieve optie: ze beperken het stroomverbruik van de GPU’s en laten de installatie onder haar werkelijke maximale capaciteit draaien totdat is aangetoond dat het belastingsprofiel stabiel is. Die conservatieve aanpak heeft een prijs.

Dat uit zich in een tragere training, een hogere energierekening per token of een rek met GPU’s dat wordt verwijderd en vervangen om tijdig over energiezuinigere hardware te beschikken, ruim voordat de huidige daadwerkelijk defect raakte.

Wanneer de beperkende factor de elektrische laag is en niet de chip zelf, kun je het snelst ingrijpen via de hardware in het rack. Het externe onderstation is niet zo eenvoudig aan te passen.

Uw load balancing plannen met het oog op de hardwarecapaciteit

Dit alles wordt niet opgelost door eerst een batterijleverancier te kiezen. Beschouw het afvlakken van de belasting vanaf de eerste ontwerpvergadering als een fundamenteel onderdeel van je architectuur. Het is geen onderdeel dat je achteraf erbij kunt plakken. Met dit systeem als hoeksteen van je plannen zijn de overige beslissingen gemakkelijker in de juiste volgorde te nemen.

Als uw datacenter de stroomtoevoer naar GPU’s al beperkt of de verversingscycli verkort om binnen het stroombudget te blijven, heeft de hardware die uit die racks wordt gehaald nog steeds een restwaarde. exIT’s Programma voor de doorverkoop van GPU's zorgt ervoor dat vervroegde pensioneringen worden omgezet in teruggewonnen kapitaal in plaats van een afschrijving