Meta 开源缓存引擎 CacheLib 时隔两年重磅更新,应对 AI 时代 DRAM 价格暴涨
2026/05/27 17:39阅读量 2
Meta 发布 CacheLib 重大版本更新,这是该内存缓存引擎开源两年来的首次大升级,主要针对 AI 推理与训练场景下 DRAM 成本高企的问题进行优化,以提升内存利用效率并降低整体运营成本。
Meta 公司开源的内存缓存引擎 CacheLib 近日发布重大更新,这是自 2021 年开源以来的首次大版本升级。本次更新直击 AI 时代 DRAM 价格持续上涨的痛点,通过优化缓存算法与内存管理策略,帮助开发者在高并发、大规模 AI 推理与训练任务中更高效地利用内存资源,从而降低对昂贵 DRAM 的依赖。
据官方介绍,新版 CacheLib 在性能和内存利用率方面均有显著提升,具体改进包括对更细粒度内存块的管理、更低的缓存逐出开销以及更好的多线程并发支持。这些优化使得同样大小的内存可以承载更多缓存对象,或支撑更高的请求吞吐量,尤其适合需要频繁访问大模型权重和中间结果的 AI 应用场景。
目前新版 CacheLib 的源代码已在 GitHub 上发布,开发者可通过 Meta 官方仓库获取完整实现及迁移指导。
