通信行业AI算力架构系列1:GB200网络架构测算,1.6T光模块需求有望超预期
敬请阅读末页的重要说明 证券研究报告 | 行业深度报告 2024 年 04 月 17 日 推荐(首次) GB200 网络架构测算,1.6T 光模块需求有望超预期 TMT 及中小盘/通信 2024 年 3 月,英伟达发布推出 NVIDIA Blackwell 平台, Blackwell 平台包括全域 NVLink 和 Infiniband 两种连接方式。NVLink 连接方式中若单机柜连接,则全部采用铜缆连接;若构建 576 张卡的集群,则需要光模块与 GPU 的比例为9:1,我们测算光模块价值量 5080 万元。Infiniband 架构中,若为两层架构则1.6T 光模块与 GPU 比例为 2.06:1;若为三层架构则 1.6T 光模块与 GPU 比例为2.98:1(将 800G 均换算为 1.6T)。当机柜出货量达到 5.8 万时,我们预计有望带来 650 万支 1.6T 光模块需求,1.6T 光模块需求有望超预期。 ❑ GB200 机柜内算力密度大幅提升,互联技术是关键。2024 年 3 月,英伟达宣布推出 NVIDIA Blackwell 平台。Blackwell 平台包括最新一代的 B200 芯片、第二代 Transformer 引擎、第五代 NVLink、RAS 引擎、安全 AI、解压缩引擎六项核心变革性创新。GB200 单机柜算力大幅提升,包括 9 个交换托盘和 18 个计算托盘。在交换托盘内包含两颗最新一代 NVLink 芯片支持 72端口双向 1.8TB 传输速率交换。同时顶部装配一台 NVIDIA Quantum-X800交换机提供 144 端口 800Gb 速率端口用于 Infiniband 架构连接。计算托盘包含两颗 Blackwell Superchip 芯片,每颗 Superchip 芯片上包含1 颗 Grace Cpu与两颗 B200 GPU。同时包含 4 颗 ConnectX-8 SuperNIC 芯片与 1 颗BlueField-3 DPU 芯片。 ❑ 全域 NVLink:机柜内部仅用铜缆,外部连接需九倍光模块。1)NVL72: NVL72中单机柜内 18 个 Compute Tray 共有 72 颗 B200 芯片,9 个 Switch Tray 共有 18 颗 NVSwitch 芯片。NVL72 中需要 5184 根铜缆连接。2)NVL576:16机柜互联,光模块数量 9 倍于 GPU。NVL72 方案已将所有 NVLink 端口插满,不具备进一步扩大规模的空间。若要扩大集群规模需降低机柜内算力密度,给出空的 NVLink 端口用于向上连接。在 L2 与 L1 之间连接需要光模块,我们测算第二层总共有 10368 个端口 50GB 端口需要连接,需要 5184 个 1.6T光模块进行连接。假设 1.6T 光模块单价 1400 美金,则 NVL576 总共需要光模块价值量 5080 万元。 ❑ Infiniband 连接:架构与 H100 SuperPod 相仿,光模块比例介于 2-3 之间。Infiniband 网络传输为单端口单向传输速率 800Gb,远小于 NVLink 单端口单向传输速率的 900GB(7.2Tb),因此应用光模块比例小于 NVLink 连接。GB200 的 Infiniband 连接结构与 DGX H100 SuperPod 的网络架构类似,但是与光模块比例关系略小于 H100 SuperPod 架构。据测算,两层交换机最多支持 9216 张卡互联,光模块与 GPU 比例关系为 2.56:1,将 800G 换算为 1.6T后与 GPU 比例关系为 2.06:1。三层交换机最多支持 73728 张卡互联,光模块与 GPU 比例关系为 3.48:1,将 800G 换算为 1.6T 后与 GPU 的比例为2.98:1。 ❑ 投资建议:考虑到 GB200 为英伟达当前最新一代产品,在当前 GB200 供应有限的情况下,超过 576 卡的 Infiniband 集群预计为主要出货形式。在假设NVL72、NVL576 与 Infiniband 三种情形的比例分别为 15%、15%、70%,Infiniband 中两层和三层架构的比例分别为 50%的前提下,当机柜出货量达到 5.8 万个时有望带来 650 万支 1.6T 光模块需求。GB200 芯片批量出货有望带 行业规模 占比% 股票家数(只) 194 3.8 总市值(十亿元) 2663.0 3.5 流通市值(十亿元) 1965.6 2.9 行业指数 % 1m 6m 12m 绝对表现 -9.0 -15.2 -17.0 相对表现 -8.4 -12.1 -3.7 资料来源:公司数据、招商证券 相关报告 1、《AI 算力网络系列报告 16:—IDC供需格局边际好转,AI 打开全新增长空间》2024-03-31 2、《NVIDIA GTC 前瞻之二,新架构推动 AI 发展再迎关键时刻—AI 算力网络系列报告 16》2024-03-16 3、《AI 算力网络系列报告 15:—NVDIAGTC 前瞻,液冷时代加速到来》2024-03-12 梁程加 S1090522060001 liangchengjia@cmschina.com.cn 刘浩天 S1090523070005 liuhaotian@cmschina.com.cn -40-30-20-1001020Apr/23Aug/23Nov/23Mar/24(%)通信沪深300AI 算力架构系列 1 敬请阅读末页的重要说明 2 行业深度报告 动 1.6T 光模块需求超预期。重点推荐北美光通信核心供应商:中际旭创、天孚通信。建议关注:新易盛。 ❑ 风险提示:计算假设与实际情况存在差异,GB200 市场接受度不及预期,1.6T光模块产业链成熟度低于预期 重点公司主要财务指标 公司简称 公司代码 市值 22EPS 23EPS 23PE PB 投资评级 中际旭创 300308.SZ 136.1 1.52 2.74 61.9 10.0 强烈推荐 天孚通信 300394.SZ 65.3 1.02 1.84 90.1 22.6 强烈推荐 资料来源:公司数据、招商证券(备注:市值单位为十亿元) 敬请阅读末页的重要说明 3 行业深度报告 正文目录 一、 互联技术是关键,GB200 架构层层剖析 .................................................... 5 1.1 网络连接部分:NVLink 迭代升级,组成更大网络集群 ................................ 6 1.1.1 机架内部连接 .................................................................................... 6 1.1.2 机架向外连接 .......................................................
[招商证券]:通信行业AI算力架构系列1:GB200网络架构测算,1.6T光模块需求有望超预期,点击即可下载。报告格式为PDF,大小3M,页数18页,欢迎下载。
