WAIC 2026 多位行业人士指出,纸面算力与实际产出差距超七成,推理已超越训练成为算力主战场,软件生态正取代硬件参数…
在 WAIC 2026 现场,多位芯片与 AI 行业从业者抛出一个不太舒服的参照数字:一台 AI 服务器交付后,真正被有效利用的算力,可能不到规格表数字的 30%。这一判断来自不同细分领域的芯片企业,他们不约而同地把话题从「算力有多大」转向「算力用得好不好」,这种叙事转变本身就是一个信号——AI 产业已经跨过「能不能」的第一道门槛,进入「好不好用」的阶段。
据现场观察,2024 年行业资金几乎全部涌向训练侧,而到 2026 年,推理对算力的调用量已经超过训练。曦望智能商业产品与解决方案高级总监付庆平指出,训练芯片追求「学得更好」,推理芯片追求「用得更省」,二者背后是两种不同的设计哲学和商业逻辑。推理调度的粒度正从任务级细化到算子级,「越细粒度越高效,每高效一分,token 成本就降一分」。
视频场景对推理需求的爆发更为直观。VPU 厂商判断未来 80% 的视频将由 AI 生成,而视频生成的 token 消耗据测算约为文字生成的 1000 倍。将视频相关计算从 GPU 中剥离、由 VPU 专责处理,VPU + GPU 协同有望将视频生成成本降低约八成。后摩智能战略生态 VP 杨大卫总结道:「训练决定模型能力上限,推理决定 AI 能不能大范围落地。」
需求结构的变化也在改写芯片格局:云端需要规模化推理芯片,视频场景需要 VPU,端侧快思考需要 NPU,低功耗端侧推理则倾向于存算一体架构。通用 GPU 不再是唯一答案,专用化正从理论讨论变成商业现实。
镕铭微电子联合创始人兼 CEO 朱照远认为,算力成本降低的根本原因是效率提升。他用交通工具的升级作类比:从马车、汽车到火车,同样从 A 点到 B 点,成本是下降的,但下降的核心不是「省」,而是效率的「升」。这也解释了为什么本届 WAIC 上,多家企业不再把 TOPS 数字放在首位,而是开始谈「综合成本」。
据现场讨论,数据中心客户在评估芯片方案时通常关注至少六个维度:稳定性、性能、延时、功耗、画质和 TCO。一位行业人士直言:「客户不关注你叫什么 PU。」背后的逻辑是:当 AI 从实验室进入生产环境,评价标准不是考试分数,而是工作结果。
推理芯片通过硬件裁剪掉训练相关的冗余功能来降低成本,这呼应了从通用到专用的长期趋势。从最早的 CPU,到 GPU,再到 DPU、VPU,每一次专用化都对应着某一类计算需求从通用平台中剥离。VPU + GPU 协同降本的案例已为这一趋势提供了商业验证。
端侧推理的逻辑与云端不同。爱芯元智联合创始人、副总裁刘建伟指出,端侧推理的三大刚需是隐私、token 成本和物理世界交互的延时;云端先看体验再降成本,端边则先看成本再提体验。端侧 AI 的商业模式也因此发生变化:当用户发现订阅费可能比硬件本身还贵时,从订阅制转向一次性买断的诉求开始出现。
具身智能被多家企业提及为下一个爆发点。WAIC 现场的机器人展区提供了佐证:不同于往年以表演型机器人为主,今年已有机器人能长时间连续完成细致性工作,从展台秀进入工厂产线。
但具身智能的产业形态远未收敛。有观点主张广义——扫地机、割草机这类能自主干活的机器也可称为「机器人」;也有观点倾向人形路线,理由是人类所有基础设施都为人形设计,人形机器人适用性最广,规模化后成本可降。现阶段人形制造成本仍高,最终取决于哪种形态先做到成本可行。
机器人对 AI 的依赖程度与其他终端有本质区别。一家采用存算一体路线的企业给出了一个对比:「PC 离开 AI 还是 PC,汽车离开 AI 还是汽车,但机器人离开 AI 就是一块铁。」这意味着机器人在隐私、token 成本和实时性三个维度上,对端侧低功耗、高能效比芯片的需求最为迫切,而存算一体架构可将功耗能效比提升 1 到 2 个数量级。
对于具身智能行业来说,数据瓶颈已有所缓解——行业巨头已收集大量视频和操作数据,算法基本可用,WAIC 上多家机器人公司的展示已证明这一点。真正的挑战在于算法如何高效跑在算力上:模型剪枝、低功耗、低延时必须协同优化,本质仍是系统工程问题。数百家具身智能创业公司正在物流、装配、陪伴等不同场景试水,但尚未出现公认的杀手级应用。
成本效率是竞争的终点,而软件生态是通往终点的关键路障。回到开篇提到的纸面算力与实际产出的巨大差距,其根源在于模型选型、微调、知识库建设、中底层软件栈优化和机房配置等环节——「交付一台 AI 服务器和实施一个 AI 项目,就像买了一口锅和炒出一盘菜,中间还有着相当大的工作量」。
存算一体等新架构面临的核心挑战同样指向软件生态:芯片做得出来,但软件生态跟不上。一位芯片企业高管表示:「一项技术从能用到好用,需要很多脏活累活。」有观点指出,中底层软件栈优化可以把同样硬件的算力输出提高 2 到 5 倍,但本届 WAIC 上深入讨论这一方向的企业并不多。
端侧 AI 的模型迭代速度极快——云侧大模型已经从半年一个版本加速到两个月一个版本,端侧模型同样在快速演进。每一次模型迭代都需要与芯片重新适配,工程落地速度直接决定商业化速度。当被问及国产 AI 芯片最需要发展的是性能还是生态时,一家推理芯片企业的回答是:两者都不构成当前瓶颈,最缺的是产业协同。
从客户侧看,数据中心芯片从接触到大规模上线通常需要 6 到 24 个月,测试周期长、导入门槛高,这意味着即使芯片技术达标,商业化落地仍需要漫长的验证周期。这一周期不是单点技术能压缩的,需要芯片厂商、软件供应商和客户方的深度协同。
从存算一体到端侧 NPU,从 VPU 到全栈集成,不同技术路线的企业全部指向软件生态而非硬件性能。芯片架构的专用化方向已有行业共识,但对专用化的速度、深度和最终形态,业内仍存在实质分歧。分歧的底层逻辑在于:AI 应用场景的碎片化程度,是否足以支撑多种专用架构共存?还是最终会收敛到少数几个通用平台?
当硬件参数竞赛接近边际收益递减的拐点,竞争主阵地必然上移到软件层。这一上移过程,恰恰是国产芯片从「追赶性能」转向「追赶体系」的关键窗口期。现场多位行业人士判断,国产 AI 芯片在性能和生态上都不构成当前瓶颈——这一判断若放在三年前几乎不可想象。芯片参数已经很漂亮,但系统工程仍需大量工作。差距不在「能不能」,而在「好不好」。从 AI 推理芯片到真正落地,需要解决方案、用户场景、超节点网络等多个层面的产业协作,每一个环节都需要有人去做。