Hur man hanterar lastutjämning i AI-datacenter

En testkörning av Frontier AI drar inte ström kontinuerligt från elnätet. .

Tusentals GPU:er gå från viloläge till aktivt läge nästan samtidigt, vilket innebär att efterfrågan kan svänga från en nästan oförändrad basnivå till en topp på över 100 megawatt på mindre än en sekund. Och detta inträffar flera gånger per minut.

Gasturbiner, transformatorer och ställverk har konstruerats för långsamma, förutsägbara belastningsförändringar, men nu måste de hantera plötsliga, dramatiska förändringar. Därför blir belastningsutjämning allt viktigare, eftersom energihantering kanske är den svåraste tekniska utmaningen som AI-infrastrukturen medför.

Kortfattad information: Vad du behöver veta Om lastutjämning

• Moderna AI-träningskluster kan få effektbehovet att svänga med 100 MW eller mer inom tidsfönster på mindre än en sekund – en belastningsprofil som gasturbiner och elnätsinfrastrukturen inte är konstruerade för att hantera
• Vanliga batterisystem i nätstorlek är i stort sett olämpliga för detta ändamål. För att jämna ut belastningen krävs batterier med hög C-hastighet som är konstruerade för att växla mellan laddning och urladdning hundratals gånger om dagen, inte långsamma lagringslösningar med hög kapacitet. 
• Programvarubaserad utjämning håller på att bli ett komplement till hårdvaran.
• Anläggningar som inte kan utjämna elbelastningen har bara ett alternativ: att begränsa GPU:ernas effekt och köra dem på ett försiktigt sätt, vilket leder till antingen högre driftskostnader eller lägre träningsgenomströmning 
• DOE uppskattningar Fram till 2030 kommer det att behövas ytterligare 100 GW produktionskapacitet i USA, varav ungefär hälften kommer att drivas av datacenter. Det är därför som belastningsprofilen påverkar besluten om inköp och uppgradering av hårdvara.  
  

Elnätet är inte utformat för arbetsbelastningar från AI-datacenter

Belastningen i ett traditionellt datacenter är så enkel att den kan kännas tråkig. Utnyttjandegraden förändras i timmar, inte i millisekunder, och produktionsanläggningarna kan anpassas för att matcha den. 

AI-träning motbevisar den antagandet fullständigt. 

GPU:er i ett synkroniserat kluster ägnar en del av sin cykel åt beräkningar och en del åt att vänta vid en synkroniseringspunkt, till exempel vid en all-reduce-operation, och tusentals av dem väntar samtidigt. 

Resultatet liknar inte alls den vanliga kurvan för ett datacenter. Istället påminner det mer om en strömbrytare som slås på och av. Om man multiplicerar detta med ett helt kluster syns svängningen först i racket, sedan i anläggningen och därefter vid anslutningen till elnätet.

Särskilt gasturbiner fungerar mest effektivt inom ett snävt belastningsintervall, och inte ens avancerad droop-reglering kan följa frekvensförändringar så snabbt. Om detta inte hanteras förkortar belastningen turbinernas livslängd och ökar risken för att hela systemet slås av. 

Operatörerna måste veta vad deras befintliga och planerade anläggningar faktiskt är konstruerade för att klara: en timvis ökning eller en svängning som inträffar fyrtio gånger per minut? 

Vanliga batterier klarar inte av att täcka behovet av lastutjämning

Batterilagring verkar vara den självklara lösningen, och det kan den också vara – men inte den typ som de flesta anläggningar redan har. BESS (batterilagringssystem) i nätstorlek är utformat för långvariga uppgifter: utjämning av förnybar produktion, frekvensreglering över minuter till timmar, toppbelastningsutjämning enligt ett förutsägbart schema. Dessa system har vanligtvis en laddningshastighet på cirka 0,5C, vilket innebär att ett urladdat batteri på 1 MWh behöver ungefär två timmar för att laddas upp. 

För lastutjämning krävs en motsatt profil: höga laddnings- och urladdningshastigheter, snabba cykler hundratals gånger om dagen och mindre fokus på den totala energikapaciteten, eftersom svängningarna i sig sällan varar länge. Batterier av marin kvalitet, som ursprungligen tillverkades för fartygsdrift och offshoreplattformar med liknande varierande belastningar, anpassas nu just för detta användningsområde och körs med laddningshastigheter på cirka 2C och urladdningshastigheter på 4C istället för 0,5C.
 

Om du väljer fel C-hastighet kommer du att förvärra situationen. Det leder till fler behållare, större utrymmesbehov, högre kostnader för värmehantering och snabbare nedbrytning av cellerna – just på grund av det laddningsmönster som batterierna installerades för att klara av.

Hur programvara kan underlätta arbetet med lastbalansering

Hårdvarulösningar är kostsamma och det tar lång tid att testa dem i hela fordonsflottan. Detta har fått vissa operatörer att satsa på en andra lösning: programvara som jämnar ut effektförbrukningen utan att man behöver göra några ingrepp i den elektriska infrastrukturen alls. 

Toleranserna är snäva. Om du missar ett ledigt fönster med mer än några millisekunder går du miste om större delen av fördelen. Reagerar du för långsamt när systemet återgår till drift, tar du resurser från själva träningsjobbet. Under träningen blir en liten fördröjning snabbt en betydande kostnad. Programvarubaserad utjämning ger dig lite extra tid och är enkel att implementera, men den ersätter inte batterier eller turbinkonstruktionen.

Vad händer om man inte jämnar ut belastningen i sitt datacenter?

Om operatörerna inte kan hitta en kreativ lösning faller de tillbaka på det konservativa alternativet: att begränsa GPU:ns strömförbrukning och driva anläggningen under dess faktiska maximikapacitet tills det har visat sig att belastningsprofilen är stabil. Denna försiktighet har sitt pris.

Det märks i form av en långsammare träningsrunda, en högre elräkning per token eller ett rack med GPU:er som dras ur och bytts ut för att byta ut hårdvaran mot en mer energieffektiv modell långt innan den faktiskt gick sönder.

När det är det elektriska lagret – och inte själva chipet – som utgör flaskhalsen, är hårdvaran i racket det snabbaste sättet att lösa problemet. Den externa transformatorstationen är inte lika lätt att ändra på.

Planera din lastbalans med hänsyn till hårdvarukapaciteten

Inget av detta löses genom att man först väljer en batterileverantör. Betrakta lastutjämning som en grundläggande del av er arkitektur redan från det första designmötet. Det är inte en komponent som man bara lägger till i efterhand. Med detta system som hörnsten i era planer blir det enklare att fatta de övriga besluten i rätt ordning.

Om er anläggning redan begränsar strömförbrukningen för GPU:er eller förkortar uppdateringscyklerna för att hålla sig inom strömbudgeten, har den hårdvara som tas bort från dessa rack fortfarande ett andrahandsvärde. exIT:s Program för återförsäljning av GPU:er förvandlar förtidspensioneringar till återvunnet kapital istället för en avskrivning