高通 HBC 技术解析:通过“近内存计算”破解 AI 手机性能瓶颈

2026/09/16 12:04阅读量 4

针对大语言模型推理中因数据搬运导致的“内存墙”问题,高通推出高带宽计算(HBC)技术,通过将计算单元靠近内存来减少延迟和功耗。结合骁龙平台新一代 Oryon CPU、Adreno GPU 及 Hexagon NPU 的异构协同架构,旨在优化 AI 智能体在手机端的实时响应与多任务处理能力。

事件概述

随着生成式 AI 在移动端的普及,传统芯片架构面临严峻挑战。高通提出高带宽计算(High Bandwidth Compute, HBC)理念,旨在解决 AI 推理过程中的效率瓶颈,并通过下一代骁龙平台的硬件升级,重新定义 AI 智能体手机的算力分配逻辑。

核心信息

1. 痛点:“内存墙”与数据搬运成本

  • 现象:AI 模型规模膨胀速度快于内存带宽增长,导致大量时间和能耗消耗在数据从内存到计算单元的搬运上,而非实际计算。
  • 推理阶段差异
    • Prefill(预填充/读题):涉及大量矩阵运算,依赖高计算能力。
    • Decode(解码/答题):每生成一个 token 需读取大量上下文参数,但计算量相对有限,主要瓶颈在于数据供给速度。
  • 类比:如同餐厅后厨(内存)与餐桌(计算)距离过远,传菜员(总线带宽)不足,导致上菜慢。

2. 解决方案:HBC 近内存计算架构

  • 核心理念:将计算单元移至内存附近,减少数据搬运距离,从而加速 AI 推理并降低功耗。
  • 适用场景:适合数据搬运成本高、计算强度适中的操作,如矩阵乘、向量运算、Embedding 查询及部分 Attention/KV Cache 操作。
  • 分工策略:并非取代传统计算,而是形成异构分工。CPU/GPU/NPU 仍负责复杂计算任务,HBC 处理高频数据交互任务。

3. 下一代骁龙平台硬件升级

为适配 AI 智能体(Agent)需求,高通对核心组件进行了针对性优化:

  • Oryon CPU
    • 实现最高 5GHz 主频,提升单核性能。
    • 引入 FlexCache 可扩展缓存架构:允许不同核心共享缓存池,动态调整空间。当超级内核负载增加或线程迁移时,数据无需往返系统内存,降低延迟。
  • Adreno GPU
    • 集成 Adreno Matrix Cores:专门用于 AI 和矩阵计算的硬件加速核心。
    • 推出 Adreno Neural Fusion:将神经网络处理、AI 超分辨率和帧生成统一至图形管线。
    • 新增 18MB Adreno HPM(独立高速显存):存放渲染目标、纹理等中间结果,使更多图形和 AI 数据保留在 GPU 内部,避免频繁访问系统内存。
  • Hexagon NPU
    • 新增 Element Accelerator:专为 Transformer 工作负载设计。
    • 扩大共享内存:容量最高扩容 50%,将 KV-cache(工作记忆)、模型状态和上下文保留在靠近加速器的位置,显著减少访问 DDR 内存的次数。
    • 支持 混合专家模型(MoE):通过动态路由机制,仅激活部分参数(如 30B 模型每次仅激活约 30 亿参数),降低实际计算负载和内存带宽需求。

4. 系统级协作:AI 智能体调度

  • Sensing Hub:保持低功耗环境感知。
  • Oryon CPU:作为“领班”,负责规划、推理和工作流编排(如判断何时调用工具或访问云端)。
  • Hexagon NPU:承担主要的端侧高效 AI 推理。
  • Adreno GPU:参与多模型推理,同时维持图形渲染任务。

值得关注

  • 体验导向:底层复杂的调度(如 KV-cache 管理、缓存共享)对用户透明,最终体现为手机更懂用户意图、响应更快、多任务切换更流畅。
  • 行业趋势:手机芯片设计正从单纯的“算力堆叠”转向“能效与数据流动优化”,以应对 AI Agent 对实时性和连续性的严苛要求。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。