Comment gérer le lissage de la charge dans les centres de données d'IA

Une session d'entraînement de l'IA « Frontier » ne consomme pas d'électricité de manière constante à partir du réseau. .

Des milliers de GPU passent de l'état inactif à l'état actif de manière quasi simultanée, de sorte que la demande peut passer d'un niveau de base pratiquement constant à un pic de plus de 100 mégawatts en moins d'une seconde. Et ce phénomène se produit plusieurs fois par minute.

Les turbines à gaz, les transformateurs et les appareillages de commutation ont été conçus pour faire face à des variations de charge lentes et prévisibles, mais ils doivent désormais gérer des fluctuations soudaines et spectaculaires. C’est pourquoi le lissage de la charge revêt une importance croissante, la gestion de l’énergie constituant sans doute le défi technique le plus difficile lié aux infrastructures d’IA.

En bref : Ce qu'il faut savoir À propos du lissage de charge

• Les clusters modernes de formation en IA peuvent faire varier la demande en électricité de 100 MW, voire plus, en moins d'une seconde, un profil que les turbines à gaz et les infrastructures du réseau n'ont pas été conçues pour absorber.
• Les systèmes de batteries standard à l'échelle du réseau ne sont généralement pas adaptés à cette tâche. Le lissage de la charge nécessite des batteries à taux de décharge élevé (C-rate), conçues pour alterner entre charge et décharge des centaines de fois par jour, et non des systèmes de stockage lents et de grande capacité. 
• Le lissage logiciel s'impose progressivement comme un complément au lissage matériel.
• Les installations qui ne peuvent pas lisser les charges électriques n'ont d'autre choix que de limiter la puissance des GPU et de fonctionner de manière prudente, ce qui se traduit soit par une augmentation des coûts d'exploitation, soit par une baisse du débit d'entraînement. 
• Le DOE estimations D'ici 2030, les États-Unis auront besoin de 100 GW de capacité de production supplémentaire, dont environ la moitié sera destinée aux centres de données ; c'est pourquoi le profil de charge influence les décisions d'achat et de renouvellement du matériel.  
  

Le réseau électrique n'a pas été conçu pour les charges de travail des centres de données dédiés à l'IA

La charge d'un centre de données traditionnel est si simple qu'elle en devient presque ennuyeuse. Le taux d'utilisation évolue à l'heure près, et non à la milliseconde près, et les installations de production peuvent s'adapter en conséquence. 

L'entraînement de l'IA remet complètement en cause cette hypothèse. 

Dans un cluster synchronisé, les GPU consacrent une partie de leur cycle de fonctionnement au calcul et une autre partie à l'attente à un point de synchronisation, comme lors d'une opération « all-reduce », et des milliers d'entre eux attendent simultanément. 

Le résultat n'a rien à voir avec la courbe habituelle d'un centre de données. Cela ressemble plutôt à un interrupteur qui s'allume et s'éteint. Si l'on multiplie ce phénomène à l'échelle d'un cluster complet, cette oscillation se manifeste d'abord au niveau du rack, puis au niveau du site, et enfin au niveau de la connexion au réseau public.

Les turbines à gaz, en particulier, fonctionnent de manière optimale dans une plage de charge étroite, et même un système avancé de régulation par « droop » ne peut pas suivre des variations de fréquence aussi rapides. Si elle n'est pas maîtrisée, cette contrainte réduit la durée de vie de la turbine et augmente le risque de déclenchement complet du système. 

Les exploitants doivent savoir ce que leurs installations existantes et prévues sont réellement conçues pour supporter : une augmentation progressive de l'activité par heure, ou une fluctuation se produisant quarante fois par minute ? 

Les batteries classiques ne suffisent pas à combler le déficit en matière de lissage de la charge

Le stockage d’énergie par batterie semble être la solution évidente, et il peut effectivement l’être, mais pas le type de système dont disposent déjà la plupart des installations. Les systèmes de stockage d’énergie par batterie (BESS) à l’échelle du réseau sont conçus pour des missions de longue durée : l’ajustement de la production d’énergies renouvelables, la régulation de fréquence sur des durées allant de quelques minutes à plusieurs heures, ou encore l’écrêtement des pics de consommation selon un calendrier prévisible. Ces systèmes fonctionnent généralement à un taux d’environ 0,5 C, ce qui signifie qu’une batterie de 1 MWh complètement déchargée nécessite environ deux heures pour se recharger. 

Le lissage de charge nécessite le profil inverse : des taux de charge et de décharge élevés, des cycles rapides plusieurs centaines de fois par jour, et une moindre préoccupation quant à la capacité énergétique totale, puisque les variations elles-mêmes durent rarement longtemps. Les batteries de qualité marine, initialement conçues pour la propulsion des navires et les plateformes offshore présentant des charges tout aussi fluctuantes, sont désormais adaptées à ce cas d’utilisation précis, fonctionnant à des débits de charge d’environ 2C et de décharge de 4C au lieu de 0,5C.
 

Si vous vous trompez sur le taux C, vous ne ferez qu’empirer les choses. Cela entraînera une augmentation du nombre de conteneurs, de l’encombrement, des coûts liés à la gestion thermique, ainsi qu’une dégradation plus rapide des cellules, précisément à cause du cycle de charge/décharge pour lequel vous avez initialement conçu ces batteries.

Comment les logiciels peuvent alléger la charge liée à l'équilibrage de charge

Les interventions matérielles sont coûteuses et leur validation à l'échelle d'un parc de véhicules prend du temps. Cela a poussé certains opérateurs à se tourner vers une solution complémentaire : un logiciel qui stabilise la puissance sans intervenir le moins du monde sur l'infrastructure électrique. 

Les tolérances sont très strictes. Si vous manquez une fenêtre d’inactivité de plus de quelques millisecondes, vous perdrez la majeure partie des avantages. Si vous réagissez trop lentement lors de la remontée, vous priverez le processus d’entraînement lui-même de cycles. Pendant l’entraînement, un petit retard se transforme rapidement en un coût significatif. Le lissage logiciel vous fait gagner un peu de temps et est facile à mettre en œuvre, mais il ne remplace ni les batteries ni la conception de la turbine.

Que se passe-t-il si vous ne lissez pas la charge de votre centre de données ?

Si les exploitants ne parviennent pas à trouver une solution créative, ils optent par défaut pour la solution prudente : limiter la consommation électrique des GPU et faire fonctionner l'installation en dessous de son plafond réel jusqu'à ce que le profil de charge se révèle stable. Cette prudence a un coût.

Cela se traduit par un entraînement plus lent, une facture d'électricité plus élevée par jeton, ou encore un rack de GPU qui est débranché et remplacé pour un matériel plus économe en énergie bien avant qu'il ne tombe réellement en panne.

Lorsque la contrainte réside dans la couche électrique plutôt que dans la puce elle-même, la solution la plus rapide consiste à agir sur le matériel présent dans le rack. La sous-station externe n'est pas si facile à modifier.

Planifier l'équilibrage de charge en tenant compte de la capacité matérielle

Choisir d'emblée un fournisseur de batteries ne résoudra rien. Considérez le lissage de charge comme un aspect fondamental de votre architecture dès la première réunion de conception. Ce n'est pas un élément que l'on ajoute après coup. En plaçant ce système au cœur de vos projets, il vous sera plus facile de prendre les autres décisions dans le bon ordre.

Si votre site limite déjà la consommation électrique des GPU ou raccourcit les cycles de renouvellement pour respecter son budget énergétique, le matériel retiré de ces baies conserve une valeur de revente. exIT’s Programme de revente de cartes graphiques transforme les départs à la retraite anticipés en capital récupéré plutôt qu'en perte comptable