La IA cambia las reglas de la memoria en servidores: ya no es local, se comparte

La inteligencia artificial está transformando la gestión de la memoria en los centros de datos. Ya no es suficiente con la RAM interna de cada máquina; la tendencia es hacia sistemas de memoria compartida o "memory godbox" que distribuyen la capacidad según la demanda. Tecnologías como Compute Express Link (CXL) están acelerando esta transición, permitiendo que procesadores, memoria y aceleradores se comuniquen de forma más flexible. Este cambio es crucial para manejar el inmenso apetito de memoria de los modelos de IA, especialmente en la inferencia y en la gestión de la caché conversacional (KV cache) en modelos de lenguaje.