电子行业动态点评：英伟达GH200 vs AMD MI300

免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 1 证券研究报告 电子 英伟达 GH200 vs AMD MI300 华泰研究–海外科技 电子 增持 (维持) 研究员 何翩翩 SAC No. S0570523020002 SFC No. ASI353 purdyho@htsc.com +(852) 3658 6000 华泰证券 2023 年中期投资峰会 2023 年 5 月 30 日│美国 动态点评 千呼万唤始出来，DGX GH200 超级计算系统助力新一代大 AI 模型 英伟达在 2023 COMPUTEX 大会上更新了多款 AI 算力产品。当中焦点落在DGX GH200 超级计算系统上。该系统是通过 NVLink 互连技术及 NVLink Switch System，串联 32 台由 8 块 GH200 超级芯片（总计 256 块）合并而成的单一超级计算系统，存储器容量高达 144 TB，大规模的共享内存能解决 AI 大模型训练的关键瓶颈，将为生成式 AI 语言应用、推荐系统和数据分析工作负载的大模型增添动力。英伟达宣布 Google Cloud、Meta 与微软将是其首批用户。 先进的加速计算+网络技术，为吞吐量和可扩展性迎来新突破 DGX GH200 集成了英伟达最先进的加速计算和网络技术，为提供最大的吞吐量和可扩展性而设计。NVIDIA NVLink-C2C 将 CPU 与 GPU 相连组成GH200 超级芯片，它们再通过 NVLink Switch System 组成高带宽的多 GPU系统，每个 Grace Hopper 超级芯片还配有一个 NVIDIA ConnectX-7 网络适配器和一个 NVIDIA BlueField-3 NIC。从具体参数上看 DGX GH200 性能优异，DGX GH200 可提供高达 1 exaFLOPS=1000 petaFLOPS 的算力。在 2023 年底，结合 Quantum-2 InfiniBand 技术与 4 台 DGX GH200 的 AI 超级计算机 NVIDIA Helios（含 1024=4*256 个 GH200 超级芯片）将会推出，或标志英伟达在 AI 和数据分析工作负载加速计算的又一突破。 英伟达 GH200 vs AMD MI300，互联和生态圈或是 AMD 破局的主要障碍 英伟达的 Grace Hopper 与 AMD 的 MI300 同为 CPU+GPU 架构。我们认为，该架构已成为 AI 芯片的趋势，鉴于 AI 的最终目标是模仿人类大脑的操作，AI 芯片也应仿生人脑结构，并顺应多模态模型的发展。CPU 更像左脑，负责对信息的逻辑处理，如串行运算、数字和算术、分析思维、理解、整理等，而 GPU 更像右脑，负责并行计算、创造性思维和想象等。在面对不同模态的推理时，CPU 与 GPU 的分工也各有不同。例如，在处理语音、语言和文本时，计算有序，因此或更适合使用 CPU；但在处理图像、视频等推理时，需要大规模并行运算，或更适宜 GPU。此前，英特尔也曾准备发布同类产品 Falcon Shores。 AI 训练多方入局苗头初生，AI 推理百花齐放难决胜负 英伟达的高算力 GPU 一直是 AI 训练的首选，但随着谷歌 TPU、AMD MI300 及云厂商自研芯片等的强势涌入，AI 训练的市场格局变化苗头渐生。谷歌的 TPU 是少数能与英伟 GPU 匹敌的芯片，但面临着通用性的局限；AMD MI300 在制程、架构及算力等多方面虽向英伟达 GPU 看齐，但仍存在软件生态和互联的突围障碍。在 TCO、研发可控性及集成生态圈等因素下，微软、谷歌及亚马逊等头部云厂商推进自研芯片乃大势所趋。在算力要求比训练低的推理端，各类芯片百花齐放，主要根据不同 AI 工作负载来选择，或不会演变出像训练端一家独大的竞争局面。总体而言，AI 训练和推理的 TAM虽在不断变大，但英伟达在当中的增速能否跟上是支撑公司发展的关键。 从 Spectrum-X 网络平台到超算系统，英伟达为 AI 计算全面加速 除了 GH200 芯片及 DGX GH200 超算系统的重磅发布，CEO 黄仁勋在本次2023 COMPUTEX 还宣布了多款新品全面加速 AI 计算：专门用于提高以太网 AI 云性能和效率的网络平台 Spectrum-X 及用于创建加速服务器的模块化参考架构 NVIDIA MGX，为 AI 及 HPC 的客户提供多元化选择。 风险提示：AI 技术落地和推进不及预期、竞争格局越演越烈、中美关系升级。相关信息数据来自于相关公司的公开的客观信息，不代表对相关公司的研究覆盖和推荐。 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 2 电子 正文目录 DGX GH200 超级计算系统为新一代大 AI 模型而设 .................................................................................................... 3 英伟达 GH200 vs AMD MI300 ..................................................................................................................................... 7 从 Spectrum-X 网络平台到超算系统，英伟达全面加速 AI 计算 ............................................................................... 12 风险提示 ..................................................................................................................................................................... 14 图表目录 图表 1： Grace Hopper Superchip 在首次发布的 14 个月后终于宣布投产 ................................................................. 3 图表 2： 英伟达 Grace Hopper 架构示意图 ................................................................................................................. 4 图表 3： 英伟达 Grace Hopper 与 x86 + Hopper 的最终用户应用程序性能模拟 .....................................................