人工智能行业动态报告：端侧AI变革将至，迎接AIPC／Phone时代

端侧AI变革将至，迎接AI PC/Phone时代证券研究报告行业动态报告发布日期：2023年11月7日本报告由中信建投证券股份有限公司在中华人民共和国（仅为本报告目的，不包括香港、澳门、台湾）提供。在遵守适用的法律法规情况下，本报告亦可能由中信建投（国际）证券有限公司在香港提供。同时请务必阅读正文之后的免责条款和声明。分析师：于芳博yufangbo@csc.com.cnSAC编号：S1440522030001研究助理：辛侠平xinxiaping@csc.com.cn分析师：金戈jinge@csc.com.cnSAC编号：S1440517110001SFC编号：BPD352 核心观点：端侧AI是AI发展下一阶段，其具备独立性、低时延等性能，能够完成各种AI推理任务，大模型小型化、端侧AI框架开源等为终端硬件承载AI算法提供了可能；端侧AI芯片性能提升,存储、模组等升级打通了终端硬件运行AI算法的道路。AI PC、AI Phone作为端侧AI的核心持续向前发展，近期英特尔、高通、联想等国内外厂商持续发布相关产品、战略规划，打造智能终端的同时也完善相关产业生态，我们看好端侧AI产业进展。 端侧AI是AI发展下一阶段，大模型轻量化等技术推进端侧AI发展。端侧AI具备安全性、独立性、低时延、高可靠性等特点，能很好地完成各种AI推理任务。目前，多个大模型均已推出“小型化”和“场景化”版本，其轻量化提供了端侧运行基础。此外，对于数据精度例如INT4、INT8的支持优化、ExecuTorch等AI框架的开源，为端侧AI进展铺平道路。 端侧AI核心在于手机和PC，AI Phone和AI PC将开启新时代。从今年2月份举行的世界移动通信大会，高通展示了其手机端离线运行大模型，到5月份微软开发者大会高通展示其PC运行AI大模型，再到近期英特尔、联想等发布AI PC加速计划、发布首款AI PC等，可以看出，国内外厂商持续发力AI Phone和AI PC，端侧AI将走入新的时代。 AI PC核心升级在于芯片。AI PC不同于传统PC的主要之处在于其SoC芯片中要有AI模块，通过AI芯片中的NPU等模块为硬件终端提供算力支撑，从而运行端侧AI大模型。过去PC芯片主要是以Intel为代表的x86架构芯片，AIPC的提出要求了SOC芯片有AI算力，在端侧AI推理能力方面，过去手机上就搭载了NPU，高通经验积累深厚，Intel的笔记本芯片则是CPU+GPU。生态上，Windows也开始全力支持ARM体系，自去年开始了多轮支持Arm架构芯片的操作系统更新，高通大概率会在PC市场上拿到部分份额。除芯片外，DRAM、计算模组等有望迎来新的升级与市场机遇。 我们看好端侧AI产业进展，尤其是AI Phone和AI PC领域，其已有相关产品落地，将传统PC、Phone结合上AI能力有望带动整个PC、Phone产业链复苏；通过将大模型赋能终端硬件，AI应用浪潮将有望开启。核心观点端侧AI是AI发展下一阶段资料来源：创业邦，中信建投• 端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、分析与推理能力，使其能够在端侧完成数据处理闭环，形成感知、计算、推理三个智能力。• 当前云侧AI呈现向端侧AI的转型趋势。端侧运行具备四大优势：（1）通过终端独立运行以及云-端协同承担计算负载，可大大降低云端算力需求及能耗成本；（2）解决“弱网”“溢云”等极端场景使用难题，保证低时延、高可靠性；（3）强隐私保护性和强定制性，可生成专有用户画像；（4）具有自然语言语音交互的天然优势，可以便捷地获取图片、照片、视频、位置等信息，优化使用体验。图表：端侧AI是必然趋势图表：端侧智能化要素图表：高通在安卓手机上进行Stable Diffusion演示图表：高通全栈AI优化端侧AI在于AI Phone与AI PC• 2023年2月，在于巴塞罗那举行的世界移动通信大会（MWC）上，高通展示了全球首个在安卓手机上跑AI画图大模型的能力。高通AI Research利用高通AI软件栈（Qualcomm AI Stack）执行全栈AI优化，并且首次在Android智能手机上部署Stable Diffusion。• 首先，为了将模型从FP32压缩至INT8，该团队使用了高通AI模型增效工具包(AIMET)的训练后量化，使模型在高通专用AI硬件上高效运行，在提高性能的同时降低内存带宽消耗。在编译方面，该团队利用高通AI引擎Direct框架将神经网络映射到能够在目标硬件上高效运行的程序中。最后，高通AI引擎Direct框架基于高通Hexagon处理器的硬件架构和内存层级进行序列运算，从而提升性能并最小化内存溢出。这一全栈优化最终让Stable Diffusion能够在智能手机上运行，在15秒内执行20步推理，生成一张512x512像素的图像。这是在智能手机上最快的推理速度，且用户文本输入完全不受限制。资料来源：高通，中信建投端侧AI在于AI Phone与AI PC图表：在搭载高通芯片的PC上运行Stable Diffusion图表：在搭载高通芯片的PC上加速图像处理• 在微软Build2023开发者大会期间，高通展示了其最新的终端侧AI能力，包括骁龙平台上运行生成式AI以及支持在下一代Windows 11 PC上开发生成式AI的工具。• 此次高通发布的重点在其骁龙8cx Gen 3上。高通展示了集成Hexagon运算单元的骁龙8cx Gen3在本地运行的优秀表现，并且为了进一步推动其发展，高通开放了AI引擎Direct SDK，让任何开发者都可以充分利用该硬件进行加速。高通使用集成骁龙8cx Gen 3的联想ThinkPad X13s进行了相关展示。• 10月25日，高通在2023骁龙峰会上正式发布了首款基于自研CPU架构“Oryon”的PC平台方案——骁龙X Elite，可运行包括大语言模型(LLM)在内的130亿参数大模型，进一步优化自研AI芯片业态。根据高通公布数据，骁龙X Elite单核性能强于苹果M2 Max、英特尔i9-13980HX，能耗还更低，分别降低30%、65%。资料来源：高通，中信建投AI+PC/Phone能大幅提升手机/电脑性能体验• AI Phone方面，小米14/14 Pro搭载相关大模型，无需联网，可本地端实现AI画图、智能问答、AI写作等功能，例如根据语音、文字指示生成对应文本甚至程序代码，可细化到APP定制文案；另外，也可根据用户浏览记录、工作内容生成配套的总结和推送；在美图方面，配备了AI抠图和修图技术，可自动替换背景、美化人像，并进行多APP互动；在用户进行休闲游戏体验时，可自动修改为性能模式，实时配套帧率；最后，小米14系列手机也是HyperOS系统产品，可实现与小米旗下的家居互联，自动调控小米音箱、洗衣机等。• AI PC方面，在2023 联想Tech World创新科技大会中，进行了端侧大模型与云端大模型的比较。两个模型同时进行斯德哥尔摩音乐节的规划，生成速度差异不大。值得注意的是，端侧AI的规划内容更加个性化，可以将家庭地址、酒店偏好等考虑进去。图表：小米Hype