半导体行业“AI的裂变时刻”系列12：从数据中心TCO角度看，GB200 NVL72性价比显著

识别风险，发现价值 请务必阅读末页的免责声明 1 / 9 [Table_C ontacter] 本报告联系人： 李佳蔚 021-6881588 shlijiawei@gf.com.cn [Table_Page] 行业专题研究|半导体 2024 年 6 月 20 日 证券研究报告 [Table_Title] “AI 的裂变时刻”系列 12 从数据中心 TCO 角度看，GB200 NVL72 性价比显著 [Table_Author] 分析师： 王亮 分析师： 耿正 SAC 执证号：S0260519060001 SFC CE.no: BFS478 SAC 执证号：S0260520090002 021-38003658 021-38003660 gfwangliang@gf.com.cn gengzheng@gf.com.cn 请注意，耿正并非香港证券及期货事务监察委员会的注册持牌人，不可在香港从事受监管活动。 [Table_Summary] 核心观点： ⚫ TCO 是 CSP 等厂商的重要考虑因素。从提供云服务的 CSP 厂商的角度来讲，考虑整体集群系统的计算效率、能耗关系，因此对产品和解决方案能否提供更好的 TCO（总体拥有成本；Total Cost of Ownership，TCO=一次性硬件投入 CapEx+营运成本 Opex）较为关注。TCO 可结合算力租赁价格和利用率等因素，计算得出的 ROI。从 CSP 等厂商角度看，TCO 和 ROI 表现如何是 CSP 等厂商考虑是否建设数据中心新集群和建设集群大小的重要考虑因素。 ⚫ 英伟达产品和解决方案预计比竞争对手 GPU 带来更好 TCO。当前数据中心面临不同厂商供应的 GPU 方案、同 GPU 厂商之间不同代际以及不同产品形式（如 8 卡服务器和 Rack 方案）等多种选择。GPU 厂商之间的竞争已经从在单卡能力上的竞争升级为对产品 AI 集群系统的算力、网络通信能力以及能耗效率的提升。复盘英伟达的产品升级思路来看，公司产品系列从单 GPU 芯片性能升级到推出系统级解决方案平台，产品线也在朝着为客户降低数据中心的 TCO 的角度而升级。根据英伟达 CEO 黄仁勋在 2024 年 3 月的 View From The Top会议上表示“即使竞争对手的芯片是免费的，就 AI 数据中心的 TCO 而言，也不够便宜”。 ⚫ GB200 NVL72 有利于降低 AI 集群功耗和 TCO。液冷 GB200 NVL72 机架可减少数据中心的碳足迹和能源消耗。液冷增加了计算密度，减少了占地面积，并促进了与大型 NVLink 域架构的高带宽、低延迟 GPU 通信。根据 Nvidia Blackwell 白皮书，与同规模 H100 相比，GB200 NVL72 的成本和能耗最多可降低 25 倍。过去，训练一个 1.8 万亿参数的模型，需要 8000 个 Hopper GPU 和 15MW 的电力，在 2 万个 Blackwell GPU（使用GB200 NVL72，约 278 个 Rack）就能完成这项工作，耗电量仅为 4MW，即约为原有功耗的 1/4。 ⚫ GB200 按照整机柜形式出货对 ODM 厂商提出更高要求。在 GB200NVL 时代，我们预计云服务商、NCP、品牌商等客户会直接下服务器订单，出货则以整机的形式来进行。在这种情况下，拥有提供整体解决方案的能力成为了 ODM 厂商获取订单的关键能力之一。此外，由于单机柜的价值量远高于此前的八卡 DGX/HGX 形式的服务器价值量，在 buy and sell 模式下，承接 Rack 需要撬动的资金规模更大，对 ODM 厂商的现金流合营运能力提出了更高的要求，因此规模越大、营运能力越强的厂商越具有优势。 ⚫ 风险提示。AI 大模型推进不及预期；GPU 价格、运营成本波动风险；GB200 NVL72/36 量产节奏或需求不及预期。 识别风险，发现价值 请务必阅读末页的免责声明 2 / 9 [Table_PageText] 行业专题研究|半导体 [Table_impcom] 重点公司估值和财务分析表 股票简称 股票代码 货币 最新 最近 评级 合理价值 EPS(元) PE(x) EV/EBITDA(x) ROE(%) 收盘价 报告日期 （元/股） 2024E 2025E 2024E 2025E 2024E 2025E 2024E 2025E 数据来源：Wind、广发证券发展研究中心 备注：表中估值指标按照最新收盘价计算 识别风险，发现价值 请务必阅读末页的免责声明 3 / 9 [Table_PageText] 行业专题研究|半导体 目录索引 一、TCO 是 CSP 厂商建设数据中心的重要考虑因素 ........................................................ 5 二、TCO 视角下，GB200 提升数据中心性价比 ................................................................ 5 三、风险提示 ...................................................................................................................... 7 识别风险，发现价值 请务必阅读末页的免责声明 4 / 9 [Table_PageText] 行业专题研究|半导体 图表索引 图 1：GB200NVL72 具备更好的 TCO ................................................................... 5 图 2：鸿佰展示数据中心液冷解决方案 GB200 NVL72 ......................................... 5 图 3：L1 到 L12 不同服务器制造等级区别 ............................................................ 6 图 4：Coumptex 会上展示的 GB200 NVL72 机柜 ................................................ 6 识别风险，发现价值 请务必阅读末页的免责声明 5 / 9 [Table_PageText] 行业专题研究|半导体 一、TCO 是 CSP 厂商建设数据中心的重要考虑因素