高通徐晧 WAIC 演讲:智能体 AI 推动端侧 Token 处理量十倍递增
高通全球副总裁徐晧在 WAIC 端侧 AI 论坛指出,智能体浪潮使手机 Token 处理量从万级跃升至百万级,高通正以…
2026 年 7 月 19 日,世界人工智能大会(WAIC)「端侧 AI 创新和行业发展论坛」上,高通公司全球副总裁、中国区研发负责人、IEEE Fellow 徐晧博士发表《智能体 AI 时代:计算架构与模型效率的持续创新》主题演讲,系统阐述了智能体浪潮对终端计算架构带来的范式变革,并介绍了高通与面壁智能在端侧模型领域的合作进展。
智能体推动 Token 处理量十倍递增
徐晧在演讲中指出,端侧 AI 应用拥有广阔前景,但手机使用模式的演进对算力提出了数量级挑战。从最初的单轮对话,到多轮交互,再到智能体调度,设备所需处理的 Token 量正以十倍量级递增——从一万、十万到百万级。他以手机端运行龙虾或智能体为例说明,现阶段更可行的方案是端云结合:端侧小模型处理隐私性强、需要实时响应的任务,云端负责深度推理与规划。展望未来,徐晧认为随着硬件算力持续提升,将有越来越多的大模型以小模型形式迁移至端侧运行,以降低数据传输和云端 Token 运算的压力。
端侧硬件的四大设计要点
围绕智能体终端的硬件设计,徐晧归纳了四个核心能力:
- CPU 负责任务规划与控制:智能体手机需要出色的任务规划能力,这由全新设计的 CPU 承担。
- 低功耗传感器中枢:智能体需 24 小时主动感知用户与环境,例如自动判断场景静音、调节座舱温度与座椅位置,这对低功耗传感器数据融合与处理提出更高要求。
- NPU 提供模型运算能力:高通通过模型适配与优化,充分利用 NPU 高效张量计算能力,使 2B 到 3B 参数量级的大模型在手机端流畅运行。
- 5G/6G 连接实现端云协同:随着模型逐步下沉到端侧,端、边、云三级算力需要无缝协同,无线连接能力成为关键。
与面壁智能的端侧模型合作
徐晧特别介绍了高通与面壁智能的合作。他表示,高通很早就注意到面壁在端侧的布局,双方在多个方向高度契合。高通的 NPU 已可为端侧提供强劲算力,包括徐晧提及的 20 亿、30 亿参数 mini CPM 大模型均能在端侧流畅运行。在座舱场景中,高通的座舱芯片可支持百亿参数以上的大模型稳定运行。第五代骁龙 8 至尊版移动平台已支持相关端侧运算,更新一代移动平台也将在年内推出。
从生成式 AI 走向物理 AI 与机器人
徐晧在演讲最后勾勒了 AI 落地的演进路径:从最初的感知 AI,到生成式 AI,再到当前正在经历的智能体 AI,下一阶段是物理 AI,实现从小模型向多功能大模型的转变。在算法层面,高通围绕模型压缩与量化、长上下文处理与增强、端侧设备持续学习(on-device learning)开展了一系列适配工作。在终端形态演进上,高通正从汽车芯片向机器人芯片拓展,将二维规划升级为对三维真实世界的理解,针对更复杂场景进行优化设计,期待联合面壁智能等合作伙伴共同推进端侧 AI 在智能手机与多种智能终端上的落地。
