Qu'est-ce que la densité de puissance d'un centre de données et comment l'IA l'influence-t-elle ?

Si l'on compare un centre de données de 2019 à un centre de données de 2026, on remarque la différence d'architecture de refroidissement, les nouvelles appellations des modèles de serveurs, ainsi que les câbles d'alimentation et les busways surdimensionnés. Tous ces changements sont directement liés à l'augmentation de la densité de puissance dans les centres de données. 

Les installations plus anciennes, qui n'ont pas à se soucier des charges de travail liées à l'IA, peuvent augmenter progressivement leur capacité et leur densité de puissance à mesure que la demande augmente. Les hyperscalers doivent repousser les limites de la consommation électrique qu'une installation peut raisonnablement supporter.

La demande en charges de travail à haute densité de puissance dans les centres de données ne faiblit pas ; les opérateurs de centres de données doivent donc anticiper l'augmentation de la densité de puissance de leurs installations. L'ampleur de l'extension à prévoir dépend des charges de travail exploitées, des systèmes de refroidissement existants et de l'accès à une alimentation électrique suffisante provenant du réseau. 

En bref : ce qu'il faut savoir sur la densité de puissance des centres de données

• La forte augmentation de la densité de puissance des centres de données est due à basé sur un GPU Le calcul IA, où la consommation électrique au niveau des puces a dépassé les hypothèses de conception des installations.
• Selon l'enquête mondiale sur les centres de données menée par l'Uptime Institute, la densité moyenne des baies dans les centres de données est passée d'environ 4 à 5 kW il y a dix ans à 8 à 9 kW aujourd'hui.
• Les baies d'IA à haute densité fonctionnent déjà à plus de 130 kW, et les systèmes de nouvelle génération devraient atteindre 240 kW, voire plus, selon Schneider Electric.
• Le refroidissement par air ne suffit plus au-delà d'environ 30 kW par rack. L'adoption du refroidissement liquide direct sur puce stagne à 22% depuis deux ans, alors même que la demande ne cesse de croître.
• Malgré l'essor des baies à haute densité de puissance, 82% des centres de données ne disposent d'aucune baie d'environ 30 kW, selon à l'Uptime Institute.
  

Qu'est-ce que la densité de puissance d'un centre de données ?

La densité de puissance correspond à la quantité d'énergie consommée par un rack entièrement équipé, mesurée en kilowatts par rack. Elle permet d'évaluer la quantité de chaleur et la charge électrique concentrées dans un espace donné. Elle ne tient pas compte de la superficie ni du nombre de serveurs, mais en combinant la densité de puissance avec ces facteurs, on obtient une vision complète de la consommation électrique d'un centre de données. 

Un rack de 10 kW et un rack de 130 kW peuvent occuper la même dalle. La différence réside entièrement dans ce qui doit se passer autour de cette dalle : 

• Quelle est la puissance de distribution qui l'alimente ? 
• Quelle est la puissance frigorifique nécessaire pour évacuer la chaleur qu'il génère ?
• Quelle marge de manœuvre structurelle et électrique l'installation environnante doit-elle disposer pour le prendre en charge ?.
  

Pourquoi la densité de puissance est plus importante que la puissance totale d'une installation

Deux installations peuvent consommer la même puissance totale en mégawatts tout en étant confrontées à des problèmes techniques totalement différents, selon la manière dont cette puissance est répartie entre les baies.

Un site exploitant 200 baies de 5 kW chacune présente une charge informatique totale de 1 MW. Concentrer cette même charge dans 20 baies nécessiterait 50 kW par baie, ce qui reviendrait à répartir la même consommation électrique sur dix fois moins de baies et poserait un défi de refroidissement bien plus important.  La chaleur doit être évacuée rapidement, et les systèmes conventionnels de refroidissement par circulation d’air périphérique n’ont jamais été conçus pour y parvenir.

Une grande majorité des centres de données n’ont pas à se soucier des baies de plus de 50 kW, mais les nouvelles constructions des hyperscalers sont presque exclusivement à haute densité de puissance. L'Uptime Institute estime qu'environ un tiers des opérateurs construisent déjà de nouvelles capacités spécialement destinées à accueillir des armoires à haute densité, ce qui donne une bonne indication de l'orientation du marché, même si le parc actuel n'a pas encore rattrapé son retard.

Pourquoi la densité de puissance affiche-t-elle une tendance à la hausse ?

En bref : ce sont les GPU, et non les serveurs à usage général, qui donnent le ton aujourd'hui.

Traditionnel informatique d'entreprise a connu une croissance régulière, mais prévisible. Ce n'est pas le cas du matériel dédié à l'entraînement et à l'inférence en IA.

Les systèmes à l'échelle d'un rack de NVIDIA regroupent des dizaines de GPU au sein d'une seule unité interconnectée, précisément parce qu'une intégration plus étroite améliore les performances d'entraînement, et c'est cette intégration qui fait grimper la consommation électrique de manière si significative. Les 132 kW du NVL72 constituent un atout, et non un défaut. C’est le résultat direct du regroupement de 72 GPU (parmi d’autres composants) dans un seul rack afin de minimiser la latence entre eux.

Vertiv prévoit que la densité des racks équipés d'IA passera d'environ 50 kW à 1 mégawatt entre 2024 et 2029. Quant à savoir si chaque opérateur a besoin d'un rack d'un mégawatt, c'est une autre question.

Voici ce qui ne fait aucun doute : la tendance. Chaque nouvelle génération de GPU de NVIDIA présente une enveloppe énergétique par rack supérieure à celle de la génération précédente, et la conception des installations doit s'adapter à cette évolution. 

Il en résulte une segmentation du marché en deux niveaux. 

D'un côté, les hyperscalers et les fournisseurs de colocation spécialisés dans l'IA se lancent dans une course effrénée vers des baies de puissance à trois chiffres en kilowatts. De l'autre, on trouve les centres de données d'entreprise traditionnels, qui restent dans une fourchette de 8 à 9 kW, sans raison particulière de changer de cap à court terme.

Quelles sont les implications de l'augmentation de la densité pour l'infrastructure des centres de données ?

Le refroidissement par air a ses limites, et la plupart des exploitants les ont déjà presque atteintes.

Les systèmes de refroidissement par air périphérique et en ligne perdent généralement en efficacité à partir d'environ 30 kW par rack. Au-delà de ce seuil, il n'est plus physiquement possible de faire circuler suffisamment d'air à une vitesse suffisante pour évacuer la chaleur de l'armoire. 

C’est pourquoi le refroidissement par liquide directement sur la puce est passé d’une solution de niche à un sujet incontournable dès que la densité dépasse 30 kW. Il représente actuellement environ 22% des déploiements de systèmes de refroidissement chez les opérateurs interrogés, un chiffre qui stagne depuis deux années consécutives, alors même que 61% d’opérateurs déclarent qu’ils envisageraient de l’adopter.

Cet écart entre une demande en hausse et une adoption qui stagne est ce qui caractérise véritablement les enjeux liés aux infrastructures et à la densité de puissance. La technologie a fait ses preuves, mais la mise à niveau des réseaux de distribution électrique, de la plomberie et des structures porteuses dans une installation existante est un processus long et coûteux.

N'oubliez pas que le refroidissement hybride, qui repose sur un refroidissement par air dans les zones à faible densité de puissance et un refroidissement par liquide dans celles à forte densité de puissance, constitue l'approche dominante. Il est donc d'autant plus important de bien comprendre la densité de puissance de votre centre de données afin de pouvoir le concevoir en adoptant la stratégie de refroidissement la plus adaptée. 

Une densité plus élevée réduit également la durée de vie utile des infrastructures qui l'entourent. Les unités de distribution électrique, les busways et les systèmes de refroidissement dimensionnés pour une puissance moyenne de 10 kW ne sont pas en mesure de prendre en charge sans problème un rack de 130 kW. Ils doivent alors être remplacés, et non simplement mis à niveau.

Cela a des conséquences directes sur les cycles de renouvellement : le matériel conçu pour répondre aux hypothèses de densité d'hier devient obsolète plus rapidement que ne le prévoit son plan d'amortissement, et il est mis hors service en masse lorsqu'un site franchit enfin le pas vers les baies de nouvelle génération.

Lorsqu'un site se modernise pour prendre en charge des baies à plus haute densité, les serveurs, les PDU et les équipements de refroidissement dimensionnés pour l'ancienne densité ne sont pas réutilisés. Ils sont mis hors service, souvent en grand nombre, et généralement dans des délais plus courts que ceux prévus au budget. Si cette transition figure dans votre plan d'action, Services de démantèlement de centres de données proposés par exIT gérer la logistique, la traçabilité et l'effacement des données dans le cadre précisément de ce type de renouvellement d'infrastructure à grande échelle.