随着时间来到 9 月,一年一度的高通骁龙峰会也越来越近了,下一代骁龙旗舰平台也将揭开面纱。而关于全新的骁龙旗舰平台,高通不久前已经通过官方博客分别披露了全新 Oryon CPU 以及 Adreno GPU 的部分特性,还是非常有看点的。而今天,高通又发文介绍了全新 Hexagon NPU 的升级看点。下面我们具体来看一下。
在博客文章中,高通表示他们正在打造全新的 AI 基础能力,其核心是全新的 Hexagon NPU 以及两大关键创新特性。
第一大特性为全新的 Element Accelerator,专为驱动面向当今的生成式 AI 和智能体 AI 的 Transformer 工作负载而打造。
结合向量计算单元和标量计算单元,它能够加速大模型中最关键的运算,帮助智能体更快地响应、更高效地推理,并在保证移动端能效的前提下,提供更丰富的体验。
Hexagon NPU 还将大容量共享内存(Large Shared Memory)最大扩容达 50%。这能将上下文和 KV-cache 数据保留在 NPU 内部,同样可以减少访问 DDR 的次数,降低内存读取和时延,并为其他工作负载释放宝贵的内存带宽。
由此 NPU 得以专注于推理,更快、更高效地交付结果。即使端侧模型要处理更长的上下文窗口、更复杂的推理、更多的工具调用以及并发任务,智能体体验也将实现更及时的响应。
全新的 Hexagon NPU 旨在实现更快、响应更及时的 AI。针对 INT4 模型,其预填充速度提升 50%,这将提升提示词处理和上下文理解的速度,实现近乎即时的交互体验 —— 针对 INT4 模型首个词元生成时间低于 1.5 秒。
高通的 NPU 架构设计也与更完整的精度策略相辅相成。除 INT4 外,这次还支持 INT2、INT8、FP8、FP16 精度,为开发者提供更大的灵活性,以在性能、内存、模型质量和功耗之间取得平衡。
这些技术提升让全新骁龙旗舰平台的 NPU 能够支持下一代模型架构。高通表示他们正与领先的内存和模型厂商合作,引入新一代端侧架构。这一架构围绕从闪存加载的混合专家(MoE)模型构建,MoE 模型在推理和规划方面明显更为先进。
当前的 DDR 内存无法承载 300 亿参数规模的模型,因此高通与合作伙伴携手,将其从闪存中调度加载。例如,一个 300 亿参数的 MoE 模型在保持数百亿参数可用的同时,在 NPU 上每次生成一个词元仅需激活约 30 亿个被路由选中的参数。
更重要的是,考虑到现有的内存瓶颈,这一方式能够减轻内存负担。结合智能的专家模块闪存到内存加载管理机制与缓存技术(Intelligent Flash-to-Memory Expert Management),这种方法能够以低功耗和低内存需求的方式实现更大模型级别的 AI 体验。
除了 NPU,根据之前官方已经披露的消息,新一代骁龙旗舰平台的 Oryon CPU 主要有两大核心升级,一是突破性的 5GHz 主频,二是全新的缓存架构。全新 Oryon CPU 是一颗完全定制的 CPU,每一项微架构特性都由高通自主调校,每个核心还拥有自己的时钟域,可以独立进行频率扩展。这套设计思路与主频达到 5GHz 的骁龙 X2 系列一脉相承,如今在移动平台上落地。而在缓存上,全新 Oryon CPU 做了两层设计,一是缓存分层架构,每个核心均配备大容量的 L1 指令缓存,避免 CPU 周期浪费,L2 缓存集成在 CPU 内部,能以极低的时延访问更大的缓存池;二是这次的重点 Oryon FlexCache,它把 L2 缓存统一成所有核心都能直接访问的共享缓存池,并可动态调整缓存资源分配。
再看新一代 Adreno GPU 的变化,最重要的新设计是加入 Adreno 矩阵核心。高通公布的示意图显示,GPU 预计配备 3 个矩阵核心,专门负责以更低延迟和更低功耗处理本地 AI 任务。Adreno 矩阵核心将为新的 Adreno 神经融合技术提供算力支持。与此前的方案相比,Adreno 神经融合可以减少闪烁、重影等画面瑕疵,让运行表现更加稳定、细节更加清晰,同时最多降低 40% 的功耗。对于游戏玩家而言,最直接的变化预计是帧生成和画面升频效果进一步改善。此外,新一代 Adreno GPU 频率提高到 1.45GHz,高于第五代骁龙 8 至尊版的 1.2GHz。18MB Adreno 高性能内存继续保留,高通同时宣称 GPU 能效提升 12%。
可以看到,全新一代骁龙旗舰平台在 CPU、GPU 和 NPU 上都对 AI 能力做了强化,Oryon CPU 负责指挥、规划、推理,并协调整个工作流程。若任务需要调用云端 API,Oryon 能够快速进行恰当的调度路由。针对多种模型在终端侧同时运行的混合场景,Hexagon NPU 和 Adreno GPU 共同承担 AI 推理,这正是高通下一代旗舰平台赋能智能体体验的方式。
当然,目前已经披露的消息相信都还只是新一代骁龙旗舰移动平台各方面功能看点的冰山一角,大家可以持续关注官方的消息,也期待 2026 骁龙峰会的到来,届时我们一起来看高通面向 AI 智能体时代还准备了哪些大招。
