La IA ha puesto patas arriba una vieja regla de los servidores: la memoria ya no quiere vivir en cada máquina

La escasez de memoria, impulsada por la demanda de la IA, está obligando a un cambio paradigmático en la arquitectura de los servidores. Grandes centros de datos necesitan soluciones que permitan la reubicación de la memoria a sistemas externos compartidos, una idea que se materializa como el "memory godbox". Tecnologías como CXL 3.0 están avanzando para permitir la memoria compartida entre máquinas, una necesidad crítica para el entrenamiento e inferencia de modelos de IA, especialmente para manejar el crecimiento del KV cache en modelos de lenguaje.