AI行业跟踪报告之二十二：昇腾万里，力算未来

证券研究报告 昇腾万里，力算未来 2023年9月12日 作者： 通信电子研究团队 计算机研究团队 — — A I 行 业 跟 踪 报 告 之 二 十 二 刘凯 执业证书编号： S0930517100002 电话： 021-52523849 邮件：kailiu@ebscn.com 吴春旸 执业证书编号：S0930521080002 电话： 021-52523686 邮件：wuchunyang@ebscn.com 请务必参阅正文之后的重要声明 目录 1 1、昇腾计算体系 2、昇腾系列硬件 3、昇腾基础软件 4、昇腾应用使能 5、应用落地 6、产业生态 7、投资建议 8、风险提示 请务必参阅正文之后的重要声明 目录 2 1、昇腾计算体系 2、昇腾系列硬件 3、昇腾基础软件 4、昇腾应用使能 5、应用落地 6、产业生态 7、投资建议 8、风险提示 请务必参阅正文之后的重要声明 AI技术持续快速发展，数据处理需求指数级增长 AI技术持续快速发展，在图像识别、语音识别、语义理解等诸多特定领域已超过人类能力。随着技术的成熟，计算机视觉、智能分析、机器学习、智能语音识别等AI技术助力各产业实现智能化转型升级，在未来将进一步创造新的价值。根据IDC预测，2023年中国AI市场支出为148亿美元，2026年将达到264亿美元，CARG为21.5%。 伴随5G、智慧城市、物联网等领域多样化应用的普及，非结构化数据的生成速度不断加快，处理需求呈指数级增长。而AI算力处理这些数据的效率远远高于通用算力，从而带动AI算力需求快速增长。根据IDC数据，2019年中国智能算力规模为31.7EFLOPS，2026年将达1271.4EFLOPS，CARG为69.45%。 资料来源：IDC预测，光大证券研究所 资料来源：IDC预测，光大证券研究所 图表2：2019-2026年中国智能算力规模（EFLOPS） 图表1：2021-2026年中国人工智能市场支出（亿美元） 110.5 130.3 147.5 179.2 217.7 264.4 050100150200250300202120222023E2024E2025E2026E31.7 75.0 155.2 268.0 427.0 670.4 922.8 1271.4 020040060080010001200140020192020202120222023E2024E2025E2026E3 请务必参阅正文之后的重要声明 AI需求对计算系统提出巨大挑战 要满足AI的巨大需求，让AI成功应用到千行百业，必须具有性能强大且成本合理的软硬件系统和解决方案。计算机系统要满足行业AI场景的复杂巨大且多样性的计算需求，AI模型的规模和需要学习的数据开始爆炸性增长。从2012年开始的六年中，AI计算的需求增加了30万倍，远远超过了摩尔定律的增长速度。同时，自动模型结构搜索等新方法的涌现，导致计算需求持续增加。这些都将对AI计算系统的计算性能、通信性能、可扩展性等全方位提出巨大的压力诉求。 资料来源：昇腾计算产业发展白皮书，光大证券研究所 图表3：训练AI系统计算使用的两个不同时代 4 请务必参阅正文之后的重要声明 华为为世界算力提供中国方案 5 华为在技术架构与工程实现上持续创新，为世界提供中国的算力解决方案。昇腾计算是基于华为昇腾系列(Ascend)AI处理器和基础软件构建Atlas的人工智能计算解决方案，包括Atlas系列模块、板卡、小站、服务器、集群等丰富的产品形态，打造面向“端、边、云”的全场景AI基础设施方案，覆盖深度学习领域推理和训练全流程。整个昇腾软硬件全栈包括五层，自底而上分为Atlas系列硬件、异构计算架构、AI框架、应用使能和行业应用。 资料来源：昇腾计算产业发展白皮书，光大证券研究所 图表4：华为昇腾AI全栈软硬件平台 请务必参阅正文之后的重要声明 目录 6 1、昇腾计算体系 2、昇腾系列硬件 3、昇腾基础软件 4、昇腾应用使能 5、应用落地 6、产业生态 7、投资建议 8、风险提示 请务必参阅正文之后的重要声明 昇腾AI处理器：AI应用的底座 7 随着深度学习需求日益扩大，基于神经网络的AI处理器技术创新蓬勃发展。NPU针对矩阵运算进行专门优化设计，解决了传统芯片在神经网络运算时效率低下的问题。华为于2018年发布昇腾310，于2019年发布昇腾910，均为针对AI的专用芯片，是全球首款覆盖全场景的AI芯片。在国际上对标英伟达的GPU，国内对标的包括寒武纪、海光等厂商生产的一系列AI芯片产品。 资料来源：华为官网，光大证券研究所 资料来源：华为官网，光大证券研究所 图表6：华为昇腾910处理器 图表5：华为昇腾310处理器 请务必参阅正文之后的重要声明 昇腾AI处理器：AI应用的底座 8 昇腾系列处理器是基于华为达芬奇架构的NPU。华为达芬奇架构是面向AI计算设计的架构，通过独创的16*16*16的3D Cube设计，每时钟周期可以进行4096个16位半精度浮点MAC运算，为人工智能提供强大的算力支持。同时，为了提升AI计算的完备性和不同场景的计算效率，达芬奇架构还集成了向量、标量、硬件加速器等多种计算单元。同时支持多种精度计算。支撑训练和推理两种场景的数据精度要求，实现AI的全场景需求覆盖。 资料来源：华为官网，光大证券研究所 图表7：华为达芬奇架构 请务必参阅正文之后的重要声明 昇腾AI处理器：AI应用的底座 9 昇腾310面向推理场景，主要应用在移动端，需要对性能和功耗进行一定的平衡。昇腾910面向训练场景，芯片的性能为优化重点，代表了昇腾系列AI芯片的最强算力。昇腾910半精度算力达到320TOPS，整数精度算力达到640TOPS，是英伟达V100的2倍以上，并略超英伟达A100 80GB PCle版本，但相比于英伟达的最新旗舰产品H100仍有不小差距。昇腾910同样达到寒武纪第三代云端AI芯片元370的两倍以上。 资料来源：玺阳资本，华为官网，英伟达官网，光大证券研究所 图表8：华为昇腾AI处理器与英特尔AI处理器主要参数对比 昇腾310 昇腾910 英伟达V100 英伟达A100 英伟达H100 发布时间 2018Q4 2019Q3 2017Q2 2020Q2 2022Q1 制程（nm） 12 7 12 7 4 架构 DaVinci DaVinci Volta Ampere Hopper 半精度FP16算力（TFLOPS） 8 320 112/125/130 312/624 1513/1979 整数精度INT8算力（TOPs） 16 640 -- 624/1248 3026/3958 最大功耗 8 310 250/300 300/400 300-350/700 请务必参阅正文之后的重要声明 Atlas系列：基于昇腾处理器的多产品形态 10 Atlas系列是基于昇腾910和昇腾310打造出来的、面向不同应用场景(端边、云)的系列AI硬件产品。包括AI训练集群Atlas900、AI训练服务器Atlas800、智能小站Atlas500、AI推理与训练卡Atlas300和AI加速模块Atlas200等，覆盖云、边、端全场景，向训练