Cómo gestionar el equilibrio de carga en los centros de datos de IA

Una sesión de entrenamiento de IA de Frontier no consume energía de forma constante de la red eléctrica. .

Miles de GPU pasan del estado inactivo al activo casi al unísono, por lo que la demanda puede oscilar desde un nivel casi constante hasta un pico de más de 100 megavatios en menos de un segundo. Y esto ocurre varias veces por minuto.

Las turbinas de gas, los transformadores y los equipos de conmutación se diseñaron pensando en cambios de carga lentos y predecibles, pero ahora deben hacer frente a variaciones repentinas y drásticas. Por eso, la estabilización de la carga está cobrando cada vez más importancia, ya que la gestión de la energía es, quizás, el reto de ingeniería más difícil que plantea la infraestructura de la IA.

Datos clave: Lo que debes saber Acerca del suavizado de la carga

• Los clústeres modernos de entrenamiento de IA pueden provocar oscilaciones en la demanda de energía de 100 MW o más en intervalos inferiores a un segundo, un perfil que las turbinas de gas y la infraestructura de la red eléctrica no fueron diseñadas para absorber.
• Los sistemas de baterías estándar a escala de red no son, en gran medida, la herramienta adecuada para esta tarea. La estabilización de la carga requiere baterías con una alta tasa C, diseñadas para alternar entre la carga y la descarga cientos de veces al día, y no sistemas de almacenamiento lentos y de gran capacidad. 
• El suavizado basado en software se está imponiendo como complemento del hardware.
• Las instalaciones que no pueden equilibrar las cargas eléctricas solo tienen una opción: limitar la potencia de las GPU y funcionar de forma conservadora, lo que se traduce en un mayor coste operativo o en un menor rendimiento de entrenamiento. 
• El DOE estimaciones Para 2030 se necesitarán 100 GW adicionales de capacidad de generación en EE. UU., de los cuales aproximadamente la mitad corresponderá a los centros de datos; por eso, el perfil de carga influye en las decisiones de adquisición y renovación de hardware.  
  

La red eléctrica no se diseñó para las cargas de trabajo de los centros de datos de IA

La carga de un centro de datos tradicional es tan sencilla que puede resultar aburrida. La utilización varía por horas, no por milisegundos, y los activos de generación pueden adaptarse a ella. 

El entrenamiento de la IA echa por tierra esa suposición por completo. 

Las GPU de un clúster sincronizado dedican parte de su ciclo a realizar cálculos y otra parte a esperar en un punto de sincronización, como una operación «all-reduce», y miles de ellas esperan al mismo tiempo. 

El resultado no se parece en nada a la curva habitual de un centro de datos. Más bien, es como si se encendiera y se apagara un interruptor. Si multiplicamos eso por todo un clúster, la oscilación se aprecia primero en el rack, luego en las instalaciones y, por último, en la interconexión con la red eléctrica.

Las turbinas de gas, en particular, funcionan con mayor eficiencia en un rango de carga reducido, e incluso los sistemas avanzados de control de caída de tensión no pueden seguir cambios de frecuencia tan rápidos. Si no se gestiona adecuadamente, esta sobrecarga acorta la vida útil de la turbina y aumenta el riesgo de que se produzca una desconexión total del sistema. 

Los operadores deben saber para qué están diseñadas realmente sus instalaciones actuales y las previstas: ¿para un aumento gradual por hora o para una oscilación que se produce cuarenta veces por minuto? 

Las baterías convencionales no pueden cubrir las necesidades de estabilización de la carga

El almacenamiento de energía en baterías parece la solución obvia, y puede serlo, pero no del tipo que ya tienen la mayoría de las instalaciones. Los sistemas de almacenamiento de energía en baterías (BESS) a escala de red están diseñados para tareas de larga duración: equilibrar la producción de energías renovables, regular la frecuencia durante periodos que van de minutos a horas y reducir los picos de demanda según un calendario predecible. Estos sistemas suelen funcionar a una tasa de 0,5 C, lo que significa que una batería de 1 MWh agotada tarda aproximadamente dos horas en recargarse. 

El suavizado de la carga requiere el perfil contrario: altas intensidades de carga y descarga, ciclos rápidos cientos de veces al día y una menor preocupación por la capacidad energética total, ya que las propias oscilaciones rara vez duran mucho tiempo. Las baterías de grado marino, fabricadas originalmente para la propulsión de buques y plataformas marítimas con cargas igualmente volátiles, se están adaptando ahora precisamente para este caso de uso, funcionando a tasas de carga de aproximadamente 2C y de descarga de 4C, en lugar de 0,5C.
 

Si calculas mal la tasa C, empeorarás las cosas. Eso provocará un mayor número de contenedores, un mayor espacio ocupado, una mayor carga de trabajo en la gestión térmica y una degradación más rápida de las celdas, precisamente debido al patrón de ciclos para el que instalaste las baterías.

Cómo el software puede aliviar la carga del equilibrio de carga

Las soluciones de hardware son caras y su validación en toda una flota lleva mucho tiempo. Esto ha llevado a algunos operadores a optar por una segunda solución: un software que regula la potencia sin intervenir en absoluto en la infraestructura eléctrica. 

Las tolerancias son muy ajustadas. Si te pasas de unos pocos milisegundos en una ventana de inactividad, perderás la mayor parte de la ventaja. Si reaccionas con demasiada lentitud en la fase de recuperación, restarás ciclos al propio proceso de entrenamiento. Durante el entrenamiento, un pequeño retraso se convierte rápidamente en un coste significativo. El suavizado por software te proporciona algo de tiempo extra y es fácil de implementar, pero no sustituye a las baterías ni al diseño de la turbina.

¿Qué ocurre si no se equilibra la carga del centro de datos?

Si los operadores no logran encontrar una solución creativa, recurren a la opción más conservadora: limitar el consumo de la GPU y hacer funcionar la instalación por debajo de su capacidad máxima real hasta que se compruebe que el perfil de carga se comporta correctamente. Esa actitud conservadora tiene un precio.

Se nota en una sesión de entrenamiento más lenta, en una factura de electricidad más elevada por token o en un rack de GPU que se retira y sustituido para disponer de un hardware más eficiente energéticamente mucho antes de que fallara realmente.

Cuando la limitación radica en la capa eléctrica y no en el propio chip, la solución más rápida es recurrir al hardware del rack. La subestación externa no es tan fácil de modificar.

Planificar el equilibrio de carga teniendo en cuenta la capacidad del hardware

Nada de esto se resuelve eligiendo primero un proveedor de baterías. Considera el nivelado de carga como un aspecto fundamental de tu arquitectura desde la primera reunión de diseño. No es un componente que se añada a posteriori. Si este sistema es la piedra angular de tus planes, el resto de decisiones serán más fáciles de tomar en el orden adecuado.

Si tu centro ya está limitando el consumo de las GPU o acortando los ciclos de renovación para mantenerse dentro del presupuesto energético, el hardware que se retira de esos racks sigue teniendo valor de reventa. exIT’s Programa de reventa de GPU convierte las jubilaciones anticipadas en capital recuperado, en lugar de una pérdida contable