来源节选(非本站原创长文,完整内容请见来源)
发言人:高通公司AI产品技术中国区负责人 万卫星2026年11月7日,上海 终端侧AI发展到了什么阶段?终端侧AI经过过去3至4年的发展,正在迎来一个比较重要的变化节点。从应用来看,终端侧AI并不是从大模型开始的。影像其实是AI较早在终端落地的领域之一。近年来手机拍照效果不断提升,背后就有终端侧AI技术的推动。如今,终端侧AI已经进一步拓展到简单问答、聊天、图像生成与处理,以及文本处理、语音转录、实时翻译等多模态应用,其中不少功能在端侧落地的条件已经比较成熟。
不过,目前很多端侧AI应用仍然偏向单点功能。例如自动语音识别(ASR)、文本摘要、图片处理、简单聊天机器人等,大多解决的是一个具体任务。如果未来希望终端能够进一步完成意图理解、任务编排、实时操作目标App等系统级、规划类任务,就需要更强的端侧模型能力。这意味着,终端侧AI正在逐渐从解决一个个具体任务,向更加复杂的智能体体验演进。 为什么需要终端侧AI?端侧和云端是什么关系?
高通并不强调端侧的唯一性,而是强调端云协同或者“计算连续体”,其中一个重要思路是“端侧优先”(on-device first)。传统依赖云端的AI服务,每一次推理都需要消耗云端Token、GPU以及云端调度资源,同时依赖网络连接。如果将合适的AI能力部署到端侧,则可以减少对网络的依赖,提供更加及时和稳定的响应,同时发挥终端在安全…
来源:雷峰网