Wie man die Lastverteilung in KI-Rechenzentren handhabt

Ein Frontier-KI-Trainingslauf bezieht nicht kontinuierlich Strom aus dem Netz. .

Tausende von GPUs Leerlauf und Betrieb wechseln nahezu im Gleichschritt, sodass der Bedarf in weniger als einer Sekunde von einer nahezu flachen Basislinie auf einen Spitzenwert von über 100 Megawatt schwanken kann. Und das passiert mehrmals pro Minute.

Gasturbinen, Transformatoren und Schaltanlagen wurden für langsame, vorhersehbare Laständerungen konzipiert, müssen nun aber plötzliche, drastische Schwankungen bewältigen. Aus diesem Grund gewinnt die Lastglättung zunehmend an Bedeutung, da das Energiemanagement wohl die größte technische Herausforderung im Zusammenhang mit KI-Infrastrukturen darstellt.

Kurzinfo: Was Sie wissen müssen Über die Lastglättung

• Moderne KI-Trainingscluster können den Strombedarf innerhalb von Zeitfenstern von weniger als einer Sekunde um 100 MW oder mehr schwanken lassen – ein Profil, für dessen Abfederung Gasturbinen und die Netzinfrastruktur nicht ausgelegt sind
• Herkömmliche Batteriesysteme im Netzmaßstab sind für diese Aufgabe größtenteils ungeeignet. Zur Lastglättung werden Batterien mit hoher C-Rate benötigt, die dafür ausgelegt sind, täglich hunderte Male zwischen Laden und Entladen umzuschalten – und keine langsamen Speicher mit hoher Kapazität. 
• Die softwarebasierte Glättung entwickelt sich zunehmend zu einer Ergänzung zur Hardware.
• Einrichtungen, die elektrische Lastspitzen nicht ausgleichen können, bleibt nur eine Möglichkeit: die Leistung der GPUs zu drosseln und konservativ zu betreiben, was sich entweder in höheren Betriebskosten oder einem geringeren Trainingsdurchsatz niederschlägt. 
• Das DOE Schätzungen Bis 2030 werden in den USA zusätzliche Erzeugungskapazitäten von 100 GW benötigt, wobei etwa die Hälfte davon auf Rechenzentren entfällt. Aus diesem Grund bestimmt das Lastprofil die Beschaffungs- und Hardware-Erneuerungsentscheidungen.  
  

Das Stromnetz wurde nicht für die Arbeitslasten von KI-Rechenzentren ausgelegt

Die Last in herkömmlichen Rechenzentren ist so einfach, dass sie schon fast langweilig sein kann. Die Auslastung ändert sich im Stunden- und nicht im Millisekundenbereich, und die Erzeugungsanlagen können ihre Leistung entsprechend anpassen. 

Das Training von KI widerlegt diese Annahme vollständig. 

GPUs in einem synchronisierten Cluster verbringen einen Teil ihres Taktzyklus mit Rechenoperationen und einen Teil damit, an einem Synchronisationspunkt zu warten, beispielsweise bei einer All-Reduce-Operation, wobei Tausende von ihnen gemeinsam warten. 

Das Ergebnis hat nichts mit der üblichen Kurve eines Rechenzentrums zu tun. Vielmehr ähnelt es eher einem Schalter, der ein- und ausgeschaltet wird. Multipliziert man dies auf einen gesamten Cluster, zeigt sich die Schwankung zunächst am Rack, dann in der Anlage und schließlich an der Anbindung an das öffentliche Stromnetz.

Insbesondere Gasturbinen arbeiten am effizientesten in einem engen Lastbereich, und selbst eine fortschrittliche Droop-Regelung kann Frequenzänderungen nicht so schnell nachverfolgen. Bleibt dies unkontrolliert, verkürzt die Belastung die Lebensdauer der Turbine und erhöht das Risiko einer vollständigen Systemabschaltung. 

Betreiber müssen wissen, wofür ihre bestehenden und geplanten Anlagen tatsächlich ausgelegt sind: für einen stündlichen Anstieg oder für eine Schwankung, die vierzig Mal pro Minute auftritt? 

Herkömmliche Batterien können die Lücke bei der Lastglättung nicht schließen

Batteriespeicher scheinen die naheliegende Lösung zu sein, und das können sie auch sein – allerdings nicht in der Form, wie sie in den meisten Anlagen bereits vorhanden sind. Netzgebundene Batteriespeichersysteme (BESS) sind für Langzeitaufgaben ausgelegt: die Einbindung erneuerbarer Energien, die Frequenzregelung über Minuten bis Stunden sowie die Spitzenlastabdeckung nach einem vorhersehbaren Zeitplan. Diese Systeme arbeiten in der Regel mit einer Ladegeschwindigkeit von etwa 0,5 C, was bedeutet, dass eine entladene 1-MWh-Batterie etwa zwei Stunden zum Wiederaufladen benötigt. 

Die Lastglättung erfordert das gegenteilige Profil: hohe Lade- und Entladeraten, schnelle Zyklen – hunderte Male am Tag – und weniger Fokus auf die Gesamtenergiekapazität, da die Schwankungen selbst selten lange anhalten. Batterien in Marinequalität, die ursprünglich für den Schiffsantrieb und Offshore-Plattformen mit ähnlich schwankenden Lasten entwickelt wurden, werden nun genau für diesen Anwendungsfall angepasst und arbeiten mit Lade- und Entladeraten von etwa 2C bzw. 4C anstelle von 0,5C.
 

Wenn Sie die C-Rate falsch wählen, verschlimmern Sie die Situation nur noch. Das führt zu mehr Gehäusen, größerem Platzbedarf, höherem Aufwand für das Wärmemanagement und einer schnelleren Zellalterung – und zwar genau durch das Ladezyklusmuster, für das die Batterien ursprünglich ausgelegt waren.

Wie Software die Last des Lastausgleichs verringern kann

Hardware-Korrekturen sind kostspielig und lassen sich nur langsam flottenweit validieren. Das hat einige Betreiber dazu veranlasst, auf eine zweite Ebene zurückzugreifen: Software, die die Leistungsabgabe glättet, ohne die elektrische Infrastruktur überhaupt zu berühren. 

Die Toleranzen sind eng. Verpasst man ein Leerlauf-Fenster um mehr als ein paar Millisekunden, geht der größte Teil des Nutzens verloren. Reagiert man beim Hochfahren zu langsam, entzieht man dem Trainingsvorgang selbst Rechenzyklen. Während des Trainings wird aus einer kleinen Verzögerung schnell ein erheblicher Verlust. Eine softwaregestützte Glättung verschafft etwas zusätzliche Zeit und lässt sich leicht implementieren, ersetzt jedoch weder Batterien noch die Turbinenkonstruktion.

Was passiert, wenn Sie die Auslastung Ihres Rechenzentrums nicht ausgleichen?

Wenn die Betreiber keine kreative Lösung finden, greifen sie auf die konservative Variante zurück: Sie begrenzen die Leistungsaufnahme der GPUs und betreiben die Anlage unterhalb ihrer tatsächlichen Höchstleistung, bis sich das Lastprofil als stabil erwiesen hat. Diese konservative Vorgehensweise hat ihren Preis.

Das macht sich in einem langsameren Trainingslauf, einer höheren Stromrechnung pro Token oder einem GPU-Rack bemerkbar, das aus dem Betrieb genommen wird und ausgetauscht um rechtzeitig auf energieeffizientere Hardware umzusteigen, lange bevor die alte tatsächlich ausfiel.

Wenn nicht der Chip selbst, sondern die elektrische Ebene die Engstelle darstellt, lässt sich am schnellsten an der Hardware im Rack ansetzen. Die externe Umspannstation lässt sich nicht so einfach anpassen.

Planung Ihrer Lastverteilung unter Berücksichtigung der Hardwarekapazität

All dies lässt sich nicht lösen, indem man sich zuerst für einen Batteriehersteller entscheidet. Betrachten Sie den Lastausgleich bereits ab der ersten Planungssitzung als grundlegenden Aspekt Ihrer Architektur. Es handelt sich nicht um eine Komponente, die man nachträglich einfach anfügt. Wenn dieses System den Grundstein Ihrer Pläne bildet, lassen sich die übrigen Entscheidungen leichter in der richtigen Reihenfolge treffen.

Falls Ihre Einrichtung bereits die Leistungsaufnahme der GPUs begrenzt oder die Aktualisierungszyklen verkürzt, um das Leistungsbudget einzuhalten, hat die aus diesen Racks ausgemusterte Hardware dennoch einen Wiederverkaufswert. exIT’s GPU-Wiederverkaufsprogramm verwandelt vorzeitige Pensionierungen in zurückgewonnenes Kapital statt in eine Abschreibung