M. Rogers Resumen Puntos: • Líder en IA para telecomunicaciones: los líderes de la industria de los centros de datos como Vertiv y Equinix respaldan la necesidad de una mayor infraestructura de centros de datos refrigerados por líquido para satisfacer las demandas del creciente uso de GPU. • Soñar en grande: si bien hoy los hiperescaladores están implementando la tecnología, la IA privada impulsará la demanda de refrigeración líquida en centros de datos empresariales más pequeños, con potencial de cuellos de botella. Los centros de datos de todo el mundo que alojan aplicaciones empresariales y de consumo pueden ver un cambio hacia el uso de técnicas de refrigeración líquida, en lugar de las diversas formas de refrigeración por aire (por ejemplo, sala, fila y bastidor) que se utilizan para la gran mayoría de las cargas de trabajo de los centros de datos en la actualidad. La refrigeración líquida, en cambio, utiliza agua o un refrigerante para disipar el calor de las CPU y las GPU. La ventaja de la refrigeración líquida es la mayor eficiencia térmica de la transferencia de calor a través del agua en lugar del aire. Si bien la refrigeración líquida no es una tecnología nueva, hasta ahora se la ha descartado en favor de la refrigeración por aire debido a que la construcción de sistemas de refrigeración líquida en las salas de datos requiere un mayor gasto de capital y a la capacidad de los sistemas de aire acondicionado para hacer frente en gran medida al calor generado por las cargas de trabajo de TI. Las señales de la industria indican que pronto podría haber un cambio hacia diversos sistemas de refrigeración líquida debido al mayor uso de GPU para impulsar la computación de alta densidad para cargas de trabajo como la inferencia de modelos de IA. Esto está aumentando las cargas térmicas de los centros de datos más allá de lo que muchos sistemas de refrigeración por aire pueden gestionar. Por ejemplo, Vertiv considera que la refrigeración líquida es un concepto central para su centro de datos del futuro. Las nuevas instalaciones a hiperescala, diseñadas específicamente para AWS, Azure y Google Cloud Platform, están diseñadas con sistemas de refrigeración líquida en mente, para respaldar la nueva generación de computación de alto rendimiento con uso intensivo de GPU. Sin embargo, la empresa también ve la necesidad de que los centros de datos de nivel empresarial en zonas industriales implementen refrigeración líquida (para obtener más detalles, consulte el Impacto oculto de la IA y la Visión de Vertiv para el centro de datos del futuro, 28 de marzo de 2024). Otros en la industria también se hacen eco de este sentimiento. Equinix, según algunas métricas, el mayor operador de centros de datos del mundo, también está viendo demanda de refrigeración líquida, no solo de los hiperescaladores más grandes, sino también de los inquilinos empresariales minoristas habituales. Equinix, que proporciona centros de datos de inquilino único o bajo al por mayor a los hiperescaladores, denominados xScale, ya está viendo una amplia implementación de refrigeración líquida en estos centros. Sin embargo, más recientemente, la empresa está explorando la implementación de refrigeración líquida en sus centros de datos minoristas IBX. Hay salas refrigeradas por líquido en París y Osaka y se espera que haya más en mercados como Australia. Equinix cree que la demanda de centros de datos de menor escala con refrigeración líquida provendrá de la demanda de servicios de computación de IA privados. Si bien las mayores implementaciones de cargas de trabajo de IA actualmente residen en entornos de hiperescala, a medida que el mercado madure, muchas empresas pueden requerir el uso de GPU en su espacio de centro de datos empresarial privado. Los conjuntos de datos empresariales que se utilizan para entrenar e inferir modelos pueden ser enormes. Esto puede generar costos muy altos relacionados con la salida de datos, así como con el rendimiento a medida que los datos fluyen desde una base de datos privada a un entorno de hiperescala. Además, algunas empresas pueden estar preocupadas por la privacidad o la soberanía de los datos cuando tratan con cargas de trabajo de IA. Por último, la latencia puede ser un problema cuando se trata de grandes volúmenes de datos o aplicaciones de misión crítica compatibles con GPU. Todos estos factores están impulsando la demanda de GPU no solo para hiperescala, sino también para escala empresarial. Esto puede crear un cuello de botella a medida que la industria avanza a lo largo de la curva de madurez en la adopción de IA a escala. No solo la escasez de GPU sigue afectando a la industria, lo que aumenta los precios, sino que la infraestructura del centro de datos, como la refrigeración líquida, necesaria para soportar el uso, aún no está lista para implementaciones de menor escala. El futuro puede ser refrigerado por líquido, pero el viaje recién comienza.