在8月12日举办的2025金融AI推理应用落地与发展论坛上，华为正式发布AI推理创新技术UCM。分析认为，这项突破性成果有望降低中国AI推理对HBM（高带宽内存）技术的依赖，提升国内AI大模型推理性能。
据介绍，华为推出的UCM（推理记忆数据管理器）是一款以KVCache为中心的推理加速套件，融合多类型缓存加速算法工具，通过分级管理推理过程中产生的KVCache记忆数据，扩大推理上下文窗口，实现高吞吐、低时延的推理体验。
我们知道，HBM作为解决“数据搬运”问题的关键技术，在AI推理过程中扮演着举足轻重的角色。当HBM资源不足时，用户在使用AI推理时会明显感受到体验下降，任务卡顿、响应缓慢等问题接踵而至。
UCM技术通过优化KV Cache记忆数据管理，能够降低每Token的推理成本。这项技术发布正值AI产业从"追求模型能力的极限"转向"追求推理体验的最优化"的关键节点，推理体验直接关联用户满意度和商业可行性，成为衡量模型价值的重要标准。
(10298871)