电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存
识别风险,发现价值 请务必阅读末页的免责声明 1 / 12 行业专题研究行业专题研究|电子电子 2025 年 10 月 26 日 证券研究报告 [Table_C ontacter] 本报告联系人: 刘倚天 19164966221 liuyitian@gf.com.cn [Table_Title] AI 的进击时刻 22 MRDIMM 和 CXL 增加 AI 服务器内存 [Table_Author] 分析师: 王亮 分析师: 耿正 分析师: 张大伟 SAC 执证号:S0260519060001 SFC CE.no: BFS478 SAC 执证号:S0260520090002 SAC 执证号:S0260523050001 021-38003658 021-38003660 021-38003657 gfwangliang@gf.com.cn gengzheng@gf.com.cn zhangdawei@gf.com.cn 请注意,耿正,张大伟并非香港证券及期货事务监察委员会的注册持牌人,不可在香港从事受监管活动。 [Table_Summary] 核心观点: ⚫ MRDIMM 和 CXL 增加 AI 服务器内存。如何同时提升并平衡 AI 服务器的内存容量扩展与性能成为当前架构演进的核心难题。当前存在三个难题:(1)HBM 成本高、容量受限;(2)不同应用与负载的内存需求差异明显,需避免内存不足/过度配置;(3)CPU 插槽的内存可扩展容量成为瓶颈,需要新型存储与架构来拓展。MRDIMM与 CXL 形成“近端高带宽+远端大容量”的分层协同,以更低 TCO 增加 AI 服务器内存供给与弹性扩展。 ⚫ MRDIMM 为面向 KV Cache 密集型推理的近端内存基座。MRDIMM 在大模型推理的 KV Cache 场景下提供确定性增益:并发更高、上下文更长、端到端时延更低,并显著优化 CPU–GPU 内存编排与资源利用。具体体现为:(1)带宽提升:根据 Next-Gen AI App Server Performance with CXL3.1 Tier Memory and MRDIMM Gen2 solution 报告,MRDIMM Gen2 最高支持 12800 MT/s 速率,在 AI 负载下相对 DDR5 RDIMM 带宽可提升 2.3倍;更快的内存访问显著降低 KV Cache 读/写时延,支撑高吞吐推理;(2)容量扩展:单条支持 64/96/128GB容量,支持更长上下文与更多并行会话;(3)解耦式内存设计:MRDIMM 的高带宽与大容量适配 CPU 侧 KV Cache 卸载。Intel Xeon 6“Granite Rapids”搭载 12 通道内存控制器,可充分释放 MRDIMM 带宽潜力,有效缓解 GPU 显存压力,并利于多会话调度与跨会话 KV Cache 复用,在延迟与成本间取得平衡。 ⚫ CXL 提供远端/池化拓展,在 KV Cache 密集型推理中形成显著 TCO 优势。CXL 3.1 对 KV Cache 的性能提升尤为明显,特别适用于高并发、超长上下文的负载。具体体现为:(1)内存池化与扩展:在 CPU/GPU/加速器间做内存池化,将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备,在不增加 GPU 成本前提下扩大有效容量至 TB 级;(2)低时延访问:CXL 访问时延可逼近 CPU DRAM,使置于 CXL 的 KV Cache 在高负载下亦能维持接近实时的解码性能;(3)解耦式 KV Cache 架构:在字节跳动 LLM 服务栈中,将 KV Cache 卸载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍;(4)分层内存管理:CXL 支持冷热分层,允许根据访问频率对 KV Cache 进行动态放置。热点 KV 驻留 GPU/CPU DRAM,温冷数据迁移至 CXL 池。以 DeepSeek-1.73B 量化模型为例,单路 CPU(CPU0+128GB)+CXL 扩展 128GB较双路 CPU(CPU0/CPU1 各 128GB)在提示与解码吞吐基本持平,但处理器数量更少,形成明显 TCO 优势。 ⚫ 投资建议。在高并发、长上下文的密集型推理中,MRDIMM 与 CXL 形成“近端高带宽+远端大容量”的分层协同,以更低 TCO 增加 AI 服务器内存供给与弹性扩展。建议关注产业链核心受益标的。 ⚫ 风险提示。AI 产业发展以及需求不及预期;AI 服务器出货量不及预期,国产厂商技术和产品进展不及预期。 [Table_Report] 相关研究: AI 的进击时刻 21:AI&存储服务器用 eSSD 空间广阔 2025-10-20 AI 的进击时刻 20:CXL 存储池化助力 AI 推理 2025-10-02 AI 的进击时刻 19:AI 推理驱动存储需求增长,SPD&VPD 芯片空间广阔 2025-09-28 识别风险,发现价值 请务必阅读末页的免责声明 2 / 12 行业专题研究|电子 [Table_impcom] 重点公司估值和财务分析表 股票简称 股票代码 货币 最新 最近 评级 合理价值 EPS(元) PE(x) EV/EBITDA(x) ROE(%) 收盘价 报告日期 (元/股) 2025E 2026E 2025E 2026E 2025E 2026E 2025E 2026E 澜起科技 688008.SH CNY 146.05 2025/07/13 买入 111.10 2.22 2.84 65.79 51.43 63.02 49.39 19.60 21.40 聚辰股份 688123.SH CNY 164.33 2025/07/29 买入 106.00 2.65 3.72 62.01 44.17 58.06 42.36 16.30 19.20 兆易创新 603986.SH CNY 221.08 2025/08/26 买入 183.95 2.42 3.17 91.36 69.74 84.11 72.56 9.00 10.70 中微公司 688012.SH CNY 281.36 2025/04/18 买入 226.45 3.64 5.08 77.30 55.39 89.88 60.31 10.30 12.60 拓荆科技 688072.SH CNY 286.00 2025/04/27 买入 243.87 3.65 5.24 78.36 54.58 59.83 42.15 16.20 18.90 北方华创 002371.SZ CNY 414.80 2025/04/27 买入 574.34 13.68 17.60 30.32 23.57 31.09 24.51 19.00 19.70 华海清科 688120.SH CNY 147.35 2024/10/30 买入 21
[广发证券]:电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存,点击即可下载。报告格式为PDF,大小1.79M,页数12页,欢迎下载。



