通信：CXL高速互联：破解AI时代“内存墙”新途径

1 行业报告│行业专题研究 请务必阅读报告末页的重要声明 通信 CXL 高速互联：破解 AI 时代“内存墙”新途径 ➢ AI 时代“内存墙”问题愈发明显 AI 大模型的快速发展推动“算力”和“存力”需求快速增长，与此同时，对“运力”也提出了更高的需求，系统需要更高的带宽、更快的传输。但内存的性能提升速度远低于处理器的性能提升速度，导致处理器无法充分发挥其计算能力。“内存墙”问题由来已久，在 AI 时代表现的愈发明显，“算力”和“运力”之间的差距越来越大。Transformer 类的模型参数的数量呈现指数增长，每两年增加 410 倍，而 GPU 内存仅以每两年 2 倍的速度扩展。 ➢ CXL 提高内存利用效率，技术优势明显 CXL 技术是一种新型的高速互联技术，旨在提供更高的数据吞吐量和更低的延迟，同时实现内存共享、提高内存利用效率，为化解“内存墙”问题提出新的解决方案。CXL 通过将计算和存储分离，形成内存池，从而能动态按需配置内存资源，提升效率。CXL 技术具有优势：1）CXL 延迟较低，通常为 10ns，而 PCIe 的延迟为 100ns。2）CXL 支持内存一致性，一致性的缺乏限制了 PCIe 应用程序。3）CXL 地址空间可按定义缓存，PCIe 则不可以。 ➢ CXL 版本持续升级迭代，国际巨头纷纷加入 CXL 联盟 CXL 历经 5 个版本的升级发展。CXL1.0 于 2019 年 3 月发布，后历经 1.1、2.0、3.0 版本，2023 年 11 月，CXL 联盟发布了最新的 CXL3.1 版本。随着CXL 技术的不断演进，未来数据中心各个计算节点和内存节点的互联将更加快速、高效和灵活。CXL 联盟由英特尔牵头成立，目前成员已经超过 255个，涵盖了主要的 CPU、内存、存储和网络设备制造商。国际巨头加入 CXL联盟，积极布局 CXL 技术，推出支持 CXL 技术的产品，助力 CXL 的发展。 ➢ CXL 市场空间广阔，DRAM 占据主要份额 CXL 高速互联目前处于市场应用的早期阶段，未来采用 CXL 协议服务器的占比持续提升。Yole 预测到 2028 年，CXL 市场总收入将超过 150 亿美元，DRAM 将占据 CXL 市场的主要份额，Yole 预计到 2028 年，DRAM 占到 CXL 市场规模的 79%。三星和海力士相继推出了采用 CXL 内存控制器的 CXL 内存模组，三星推出其首款支持 CXL2.0 的 128GB DRAM，加速下一代存储器解决方案的商用化进程。 ➢ 投资建议：关注国产算力和国产芯片相关领域 AI 大模型的快速发展，对“运力”也提出了更高的需求。CXL 凭借高速率低时延的优势，同时可以实现内存共享、提高内存利用效率，有望破除“内存墙”。CXL 市场空间广阔，目前渗透率仍较低，有望迎来快速发展，同时，CXL 的发展也利好国产算力和芯片的进步，我们建议对此保持高度关注。 风险提示：CXL 渗透率不及预期的风险，AI 发展不及预期的风险，产品技术迭代不及预期的风险。 证券研究报告 2024 年 04 月 28 日 投资建议： 强于大市（维持） 上次建议： 强于大市 相对大盘走势 作者 分析师：张宁 执业证书编号：S0590523120003 邮箱：zhangnyj@glsc.com.cn 联系人：李宸 邮箱：lichyj@glsc.com.cn 相关报告 1、《通信：Marvell AI day，算力需求推动光互联加速迭代》2024.04.21 2、《通信：夯实算力基础，助力 AI 产业发展》2024.04.14 -30%-10%10%30%2023/42023/82023/122024/4通信沪深300请务必阅读报告末页的重要声明 2 行业报告│行业专题研究 正文目录 1. 本周通信板块表现回顾 .............................................. 3 1.1 本周（4.22-4.26）通信板块走势 ............................... 3 1.2 本周市场个股表现 ............................................ 3 2. CXL 高速互联：破解 AI 时代“内存墙”新途径 ............................ 4 2.1 AI 时代“内存墙”问题愈发明显 ................................... 4 2.2 CXL 高速互联应运而生，提高内存利用效率 ....................... 4 2.3 CXL 技术优势明显 ............................................. 5 2.4 CXL 版本持续升级迭代 ......................................... 6 2.5 国际巨头纷纷加入 CXL 联盟 .................................... 7 2.6 CXL 联盟定义了三种类型的设备 ................................. 8 2.7 CXL 市场空间广阔，DRAM 占据主要份额........................... 8 3. 投资建议：关注国产算力和国产芯片相关领域 ......................... 10 4. 风险提示 ........................................................ 10 图表目录 图表 1： 本周（4.22-4.26）通信板块走势 ................................ 3 图表 2： 本周（4.22-4.26）通信板块个股涨跌幅前十....................... 3 图表 3： 大模型参数量增长速度远超硬件迭代速度 ......................... 4 图表 4： 带宽增长与算力增长差距明显 ................................... 4 图表 5： CXL 内存池化和共享 ........................................... 5 图表 6： PCIe 和 CXL 关于存储应用的特性对比 ............................. 6 图表 7： CXL 的发展过程 ............................................... 7 图表 8： 不同版本 CXL 的对比 ........................................... 7 图表 9： CXL 联盟董事会成员 ........................................... 8 图表 10： 三种已定义的 CXL 设备类型 .............................