搜索
华为UCM推理记忆管理技术正式开源
2025-11-05
2025年11月5日，华为宣布其针对AI推理加速的关键技术——UCM（Unified Cache Manager）推理记忆数据管理正式开源。UCM以KV Cache为中心，具备稀疏注意力、前缀缓存、预填充卸载、异构PD解耦四大能力。该技术通过推理框架、算力、存储的三层协同，实现首Token时延最高降低90%，系统吞吐最大提升22倍，并达到10倍级上下文窗口扩展，有效降低每Token推理成本。
