La creciente demanda de energía por parte de las fábricas de inteligencia artificial (AI factories) está generando una presión sin precedentes sobre las infraestructuras eléctricas a nivel global. El despliegue de estas instalaciones, cruciales para el desarrollo y la ejecución de modelos de IA de última generación, se ve obstaculizado por la falta de capacidad energética disponible, lo que retrasa su puesta en marcha en muchos lugares, incluyendo importantes centros tecnológicos en Estados Unidos. Datos recientes de la Agencia Internacional de la Energía (AIE) proyectan que la demanda de electricidad de los centros de datos podría duplicarse para 2030, exacerbando aún más este problema. Además, el costo de la energía para estos centros ha aumentado un 30% en los últimos dos años, impactando directamente en la rentabilidad de las operaciones. La situación exige soluciones innovadoras que permitan optimizar el consumo energético y aprovechar al máximo los recursos existentes.
Según el reportaje publicado por NVIDIA Blog, una startup con sede en Washington D.C., Emerald AI, está desarrollando una solución de IA que podría acelerar la puesta en marcha de la próxima generación de centros de datos al utilizar los recursos energéticos existentes de una manera más flexible y estratégica.
Tradicionalmente, los operadores de la red eléctrica han considerado a los centros de datos como consumidores de energía inflexibles, asumiendo que una fábrica de IA de 500 megavatios requerirá acceso constante a esa cantidad total de energía. Sin embargo, Varun Sivaram, fundador y CEO de Emerald AI, explica que las cargas de trabajo que impulsan el consumo energético de estas fábricas pueden ser ahora flexibles, permitiendo ajustar la demanda en momentos críticos. Esta flexibilidad se logra a través de la plataforma Emerald Conductor, un sistema impulsado por IA que actúa como un intermediario inteligente entre la red eléctrica y el centro de datos.
Una reciente prueba de campo realizada en Phoenix, Arizona, demostró que el software de Emerald AI puede reducir el consumo de energía de cargas de trabajo de IA ejecutándose en un clúster de 256 GPUs NVIDIA en un 25% durante un período de tres horas en un evento de estrés en la red, sin comprometer la calidad del servicio de computación. Este logro se basa en la orquestación de las diversas cargas de trabajo que se ejecutan en las fábricas de IA. Mientras que algunas tareas, como la inferencia para servicios de IA utilizados por millones de usuarios, no pueden ser reprogramadas, otras, como el entrenamiento o la optimización de modelos de lenguaje, pueden ser pausadas o ralentizadas. Además, las cargas de trabajo pueden ser redirigidas a otros centros de datos donde la red eléctrica local esté menos congestionada.
La capacidad de modular el uso de energía no solo facilita la puesta en marcha de nuevas fábricas de IA utilizando los sistemas de energía existentes, sino que también podría ayudar a las ciudades a evitar apagones programados, proteger a las comunidades de las subidas de las tarifas de los servicios públicos y facilitar la integración de energías renovables en la red. Ayse Coskun, científica jefe de Emerald AI y profesora de la Universidad de Boston, destaca que las energías renovables, por su naturaleza intermitente y variable, son más fáciles de integrar en una red que cuenta con “amortiguadores” capaces de adaptarse a los cambios en el suministro de energía, y los centros de datos pueden desempeñar ese papel.
Emerald AI, miembro del programa NVIDIA Inception para startups y una empresa del portafolio NVentures, ha anunciado recientemente una financiación semilla de más de 24 millones de dólares. La prueba de concepto en Phoenix, parte de la iniciativa DCFlex de EPRI para la flexibilidad de los centros de datos, se llevó a cabo en colaboración con NVIDIA, Oracle Cloud Infrastructure (OCI) y la empresa de servicios públicos regional Salt River Project (SRP). David Rousseau, presidente de SRP, enfatizó que la prueba representó una oportunidad para reimaginar los centros de datos de IA como recursos valiosos para operar la red eléctrica de manera más efectiva y confiable. Un estudio reciente de la Universidad de Duke estima que si los nuevos centros de datos de IA pudieran flexibilizar su consumo de electricidad en un 25% durante solo dos horas al día, menos de 200 horas al año, podrían desbloquear 100 gigavatios de nueva capacidad para conectar centros de datos, lo que equivale a más de 2 billones de dólares en inversión.
