电子行业AI系列报告之接口：AI大算力需求加速新技术渗透

有关分析师的申明，见本报告最后部分。其他重要信息披露见分析师申明之后部分，或请与您的投资代表联系。并请阅读本证券研究报告最后一页的免责申明。 电子行业 踪 ⚫ AI 模型数据量和算力需求大。ChatGPT3 相较 ChatGPT2 在数据存储端从百 G 提升至 40T，在存储量上有约 100 倍的提升，算力需求同样也呈几何倍增长。据 OpenAI测算，2012 年以来全球头部 AI 模型训练算力需求 3-4 个月翻一番，每年头部训练模型所需算力增长幅度高达 10 倍，远超摩尔定律的增长速度。美光表示，一个典型的人工智能服务器的 DRAM 容量是普通服务器的 8 倍，NAND 容量是普通服务器的3 倍。 ⚫ AI 服务器快速增长，内存技术同步升级。根据 TrendForce，预计 2022 年搭载GPGPU 的 AI 服务器年出货量占整体服务器比重近 1%，而 2023 年 ChatGPT 相关应用有望再度刺激 AI 相关领域，预计 2023 年出货量增长率可达 8%，2022-2026年复合成长率将达 10.8%。为提升服务器性能，AI 服务器需搭载多个 CPU 处理器，同时服务器 CPU 性能不断升级，要求内存技术同步升级。DDR5、HBM、CXL、NVLink 等内存技术将加速渗透，有望充分受益于 AI 带来的算力需求增长。 ⚫ DDR5 需要使用更多内存接口芯片。DDR5 的内存接口缓存芯片 RCD 价格远高于DDR4，内存接口芯片有望迎来量价齐升。DDR5 芯片需要搭载更多的 SPD、电源管理芯片（PMIC）和温度传感器（TS）等配套芯片。 ⚫ HBM 为大算力芯片提供支撑。如今搭载于新兴 AI 应用的内存芯片亟待升级，而HBM 是一种基于 3D 堆叠工艺的 DRAM 内存芯片，被安装在 GPU、网络交换设备、AI 加速器及高效能服务器上。HBM 作为一种带宽远超 DDR/GDDR 的高速内存，将为大算力芯片提供能力支撑，同时生成类模型也会加速 HBM 内存进一步增大容量和增大带宽。TrendForce 预估 2023-2025 年 HBM 市场年复合成长率有望成长至 40-45%以上。 ⚫ CXL 兼容性强、可实现内存一致性。CXL 为英特尔于 2019 年推出的一种开放性互联协议，能够让 CPU 与 GPU、FPGA 或其他加速器之间实现高速高效的互联，从而满足高性能异构计算的要求。在 AMD、ARM、IBM 以及英特尔等主要 CPU 供应商的支持下，CXL 已经成为领先的行业标准。美光科技在 22 年 5 月与投资者交流时曾预测 CXL 相关产品的市场规模，到 2025 年预计将达到 20 亿美金，到 2030 年可能超过 200 亿美金。 ⚫ NVLink 可最大化提升系统吞吐量。第四代 NVIDIA® NVLink®技术可为多 GPU 系统配置提供高于以往 1.5 倍的带宽，以及增强的可扩展性。单个 NVIDIA H100 Tensor Core GPU 支持多达 18 个 NVLink 连接，总带宽为 900GB/s，是 PCIe 5.0 带宽的 7倍。第三代 NVIDIA NVSwitch™基于 NVLink 的高级通信能力构建，可为计算密集型工作负载提供更高带宽和更低延迟。NVIDIA DGX™ H100 等服务器可利用NVLink 技术来提高可扩展性，进而实现超快速的深度学习训练。 ⚫ 我们看好服务器带来的接口芯片技术升级趋势，建议关注澜起科技、聚辰股份、裕太微、龙迅股份。 风险提示 ⚫ 服务器需求拉动不及预期、新技术渗透率不及预期。 投资建议与投资标的 核心观点 国家/地区 中国 行业 电子行业 报告发布日期 2023 年 04 月 18 日 蒯剑 021-63325888*8514 kuaijian@orientsec.com.cn 执业证书编号：S0860514050005 香港证监会牌照：BPT856 李庭旭 litingxu@orientsec.com.cn 执业证书编号：S0860522090002 杨宇轩 yangyuxuan@orientsec.com.cn 韩潇锐 hanxiaorui@orientsec.com.cn 张释文 zhangshiwen@orientsec.com.cn 薛宏伟 xuehongwei@orientsec.com.cn 大模型增加存储需求，行业景气底部反暖 2023-04-17 AI 系列报告之 PCB：AI 算力需求增长，服务器 PCB 厂商受益 2023-04-07 算力需求提升，光芯片正扬帆 2023-03-26 AI 系列报告之接口：AI 大算力需求加速新技术渗透 看好（维持） 电子行业动态跟踪 —— AI系列报告之接口：AI大算力需求加速新技术渗透 有关分析师的申明，见本报告最后部分。其他重要信息披露见分析师申明之后部分，或请与您的投资代表联系。并请阅读本证券研究报告最后一页的免责申明。 2 AI 大算力需求加速新技术渗透 AI 模型数据量和算力需求大。ChatGPT3 相较 ChatGPT2 在数据存储端从百 G 提升至 40T，在存储量上有约 100 倍的提升，算力需求同样也呈几何倍增长。据 Open AI 测算，2012 年以来全球头部 AI 模型训练算力需求 3-4 个月翻一番，每年头部训练模型所需算力增长幅度高达 10 倍，远超摩尔定律的增长速度。随着算力的不断进步，所需存储的数据量在以指数级的增长速度攀升。得益于人工智能、物联网、云计算、边缘计算等新兴技术在中国的快速发展，中国数据圈正在迎来快速增长。据此前 IDC 预测，预计到 2025 年，中国数据圈将增长至 48.6ZB，占全球数据圈的27.8%，成为全球最大的数据圈。美光首席商务官萨达纳表示，一个典型的人工智能服务器的DRAM 容量是普通服务器的 8 倍，NAND 容量是普通服务器的 3 倍。 图 1：2017-2021 我国存储容量增量（EB） 图 2：2017-2023E 中国数据存储市场规模及增速 数据来源：中国信通院、东方证券研究所 数据来源：观研报告网、东方证券研究所 AI 服务器快速增长，内存技术同步升级。根据 TrendForce，在自动驾驶汽车、AIoT 与边缘运算等新兴应用的带领下，自 2018 年起诸多大型云端业者开始大量投入 AI 相关的设备建设，预计 2022 年搭载 GPGPU 的 AI 服务器年出货量占整体服务器比重近 1%，而 2023 年 ChatGPT 相关应用有望再度刺激 AI 相关领域，预计 2023 年出货量增长率可达 8%，2022-2026 年复合成长率将达 10.8%。内存接口芯片是高端服务器中 CPU 与内存之间进行数据传输的核心部件，其主要作用是提升高速内存数据访问的速度及稳定性，满足服务器 CPU 对内存模组日益增长的高性能及大容量需求。为提升服务器性能，AI 服务器需搭载多个 CPU 和 GPU 处理器，同时服务器 CPU 性能不断升级，要求内存技术同步升级。DDR5、HBM、CX