1个月前 · ai [Paper] Beluga：一种基于 CXL 的内存架构，用于可扩展且高效的 LLM KVCache 管理 LLM 模型规模的快速增长以及对长上下文推理的日益需求，使得内存成为 GPU 加速服务系统的关键瓶颈……
