«Infraestructura para IA» suena a un solo problema, pero en realidad son tres resueltos al mismo tiempo: alimentar de energía equipos que consumen muchísimo más que un servidor normal, evacuar el calor que esa energía genera, y elegir el hardware de cómputo correcto. Energía, refrigeración y GPUs. Si uno de los tres falla, el datacenter completo se vuelve inestable, sin importar qué tan bueno sea el resto del diseño. Si todavía no tiene claro qué distingue a estos entornos de un centro de datos convencional, conviene empezar por ¿qué es un datacenter de IA?.
El reto energético de los datacenters de IA
El primer choque con la realidad, para quien viene del mundo de TI tradicional, es el consumo eléctrico. Un servidor convencional consume entre 300 y 600 vatios. Un servidor con varias GPUs de alto rendimiento puede consumir varios kilovatios él solo.
Consumo por rack y por GPU
Esta diferencia se multiplica cuando se piensa en racks completos: mientras un rack tradicional ronda los 5-10 kW, un rack de IA con múltiples servidores GPU puede superar los 40-80 kW, y los diseños más recientes orientados a entrenamiento de modelos grandes llegan a superar los 100 kW por rack. Esto obliga a rediseñar subestaciones eléctricas, sistemas de UPS y esquemas de redundancia (N+1, 2N) pensados para picos de consumo mucho más altos y sostenidos en el tiempo.
Refrigeración: del aire al líquido
Durante décadas, la refrigeración por aire fue suficiente para casi cualquier datacenter. Con las densidades de potencia de la IA, el aire simplemente no puede evacuar el calor con la eficiencia necesaria, y por eso la industria se está moviendo hacia soluciones líquidas.
Refrigeración líquida directa al chip
En este esquema, un líquido refrigerante circula por placas frías (cold plates) ubicadas directamente sobre la GPU y el procesador, retirando el calor en el punto exacto donde se genera. Es más eficiente que el aire y permite densidades de potencia mucho mayores en el mismo espacio físico.
Refrigeración por inmersión
En los diseños más extremos, los servidores completos se sumergen en un líquido dieléctrico (que no conduce electricidad) diseñado para absorber calor de forma directa. Es una tecnología todavía emergente, pero cada vez más común en instalaciones dedicadas exclusivamente a entrenamiento de modelos de gran escala.
GPUs y aceleradores: el corazón del cómputo de IA
Las GPUs son procesadores diseñados para realizar miles de operaciones matemáticas simples en paralelo, algo ideal para las multiplicaciones de matrices que están detrás del entrenamiento y la inferencia de modelos de IA. A diferencia de un procesador de propósito general (CPU), que está optimizado para tareas secuenciales, la GPU brilla cuando el trabajo se puede dividir en miles de piezas pequeñas que se resuelven al mismo tiempo.
Elegir el tipo y la cantidad de GPUs correcta depende del caso de uso: no es lo mismo entrenar un modelo desde cero que ejecutar inferencia sobre un modelo ya entrenado, y los requisitos de memoria, ancho de banda y paralelismo cambian significativamente entre ambos escenarios.
Continuidad operativa y redundancia
Un datacenter de IA que se cae, aunque sea por minutos, puede significar perder horas o días de entrenamiento de un modelo, o interrumpir un servicio de inferencia que otras aplicaciones consumen en tiempo real. Por eso la energía redundante y la continuidad operativa —junto con refrigeración redundante, monitoreo proactivo y planes de contingencia— no son un lujo, sino un requisito de diseño desde el primer día.
Conclusión
De nada sirve comprar las GPUs más potentes del mercado si la refrigeración no las puede sostener o la acometida eléctrica no da abasto. Los tres pilares se diseñan juntos, no por separado. En TIA trabajamos con empresas colombianas evaluando y fortaleciendo justamente esa base —energía, redes, continuidad operativa— antes de que se convierta en el freno de un proyecto de IA. Y si está por definir con quién construir o alojar esa infraestructura, lea también cómo elegir un partner de infraestructura TI para proyectos de IA.