端侧AI大模型纷至沓来，手机要被颠覆？

(资料图片)

飞象网讯（高靖宇/文）近年来手机产业发展进入创新瓶颈期，手机厂商正试图寻找新的差异化出路。特别今年以来，随着ChatGPT的横空出世和全民级应用发展趋势，众多手机厂商纷纷入局AI大模型赛道，其中不乏荣耀、OPPO、vivo、小米、华为等国产手机巨头。

荣耀将把AI大模型引入端侧，赋能YOYO智慧助手，打造更加个人化、人性化，隐私保护更周全的端侧个人模型；小米将小爱同学升级大模型，小米手机端侧大模型已初步跑通；OPPO、vivo 也计划在系统中整合AI 大模型能力。

除了手机厂商外，高通、联发科等芯片巨头也在探索将AI大模型植入端侧。这预示着，部署AI大模型的手机终端就要来了。

手机巨头抢跑“AI 大模型”赛道

8月4日，华为对外发布HarmonyOS 4，将AI大模型能力内置在了系统底层。华为常务董事、终端BG CEO余承东介绍，HarmonyOS 4由华为盘古大模型提供底层支持，希望给用户带来智慧终端交互、高阶生产力效率、个性化服务的全新AI体验变革。

在8月14日晚举办的小米年度演讲中，雷军表示，小米AI大模型最新一个13亿参数大模型已经成功在手机本地跑通，部分场景可以媲美60亿参数模型在云端运行结果。小米旗下人工智能助手小爱同学已开始升级AI大模型能力，在发布会当天开启邀请测试。

荣耀是最早布局AI的手机厂商之一，根据赵明的描述，其AI能力的进阶主要分为三个阶段：第一阶段是从0到1提出概念，将需求场景化，比如相机可以直接识别绿植、天空，AI能够对图像进行对应的优化；第二阶段，AI有了上下文理解与学习，基于位置、时间对消费者习惯进行整合式机器的决策；第三阶段就是把AI引入端侧。

“之所以提出端侧大模型的概念，是因为网络侧大模型存在局限性。”在赵明看来，大模型的学习能力的确很强，但我们需要划分个人隐私以及人类知识库之间的边界。每个人都有自己的独立空间，它应该完全地被保护，这也是端侧大模型的价值所在。

OPPO、vivo 也逐渐开始在大模型领域发力。OPPO推出了基于 AndesGPT 打造的全新小布助手即将开启大型体验活动。据介绍， AndesGPT 是 OPPO 安第斯智能云团队打造的基于混合云架构的生成式大语言模型。升级后的小布助手将具备 AI 大模型能力，拥有更强的语义理解对话能力。此外，vivo将在今年10月左右推出新的OriginOS 4.0系统，新系统将内置AI大模型。

端侧运行AI大模型，手机芯片顶得住吗？

作为推动手机物种进化的先进技术，与单纯在云端部署生成式 AI 应用和服务相比，手机终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面带来了更加广阔的应用前景。

同时，在手机端部署AI大模型仍然面临不小的挑战，手机芯片能否支撑庞大的算力消耗，是现有芯片性能所无法满足的。以网络侧大模型ChatGPT为例，按其在今年1月的独立访客平均数1300万计算，其对应芯片需求为3万多片英伟达A100 GPU图形处理器。

目前，高通等芯片厂商，正在针对AI大模型端侧部署研发专用的芯片。目前，高通正在将AIGC嵌入下一代高端芯片骁龙8 Gen3中，该芯片将于今年10月底在夏威夷举行的高通骁龙峰会上首次亮相。

在Asghar的实验室中，高通芯片能够处理70亿个参数的AI模型，虽然远远低于OpenAI GPT-3模型的1750亿个参数，但应该适合移动搜索。

早在今年2月份，高通就已经发布了全球首个运行在安卓手机上的图片生成软件Stable Diffusion的终端演示，该手机搭载了骁龙8 Gen2芯片。在设备上使用生成式AI有很多好处。比如，所搜索记录和个人数据是保密的，不会通过远程服务器中转。本地AI也比云端更快，而且可以在飞机上等缺少手机服务的地区工作。

除了芯片端，为了在手机上高效运行大模型，研究人员和开发者致力于将模型进行压缩和轻量化处理，通过剪枝、量化、分解等技术，以减小模型的大小和计算量，同时保持较高的性能。此外，、开发者也在针对手机场景设计专用的AI模型。这些模型通常在快速响应、低功耗和小尺寸等方面进行了优化。

在业内看来，目前AI大模型在手机端侧的应用还在起步阶段，但却是未来必争的技术高地。根据IDC预测，到2026年，中国市场中近50%的终端设备的处理器将带有AI引擎技术。这意味着，手机厂商拥有AI大模型的能力将变得越来越重要。对于用户而言，在AI大模型的赋能下，未来手机演进将迎来更多体验层的“质变”性创新。

关键词：