海外TMT行业英伟达GTC 2024大会点评：Blackwell平台实现AI性能跃升，软硬协同助力英伟达转型AI全链条平台

敬请参阅最后一页特别声明 -1- 证券研究报告 2024 年 3 月 20 日 行业研究 Blackwell 平台实现 AI 性能跃升，软硬协同助力英伟达转型 AI 全链条平台 ——英伟达 GTC 2024 大会点评 海外 TMT 行业 事件：美国时间 3 月 18 日-3 月 21 日期间，英伟达举行 GTC 2024 大会。其中美国时间 3 月 18 日下午 1:00-3:00，英伟达 CEO 黄仁勋发表了《见证 AI 的变革时刻》的主题演讲，分享在芯片迭代、软件生态和机器人等应用上的进展。 Blackwell 新架构：多芯片封装、Transformer 引擎和互联传输升级，助力单芯片性能和整体算力集群性能提升。1）4NP 制程+双芯片设计，将 2 颗 GPU 以10 TB/s 通信速率融合成一颗芯片，晶体管数量由 H100 的 800 亿提升至 2080亿，大幅提升单芯片处理能力；2）第二代 Transformer 引擎，使 Blackwell具备在 FP4 精度的 AI 推理能力，能在将性能和效率翻倍的同时保持混合专家模型的高精度；3）互联传输方面，NVLink + NVLink Switch + X800 系列交换机提升集群通信连接速率；4）内嵌解压引擎、RAS 引擎和加密协议。 通信互联：推出第五代 NVLink、NVLink Switch 和 X800 系列交换机，增强大规模 AI 算力网络传输速度。1）第五代 NVLink：带宽突破 1.8TB/s，相比第四代提升一倍；2）NVLink Switch：支持 576 颗 GPU 组成计算集群，上一代仅支持 256 颗 GPU 连接；3）X800 系列交换机：成为全球首款具备端到端 800Gb/s 吞吐量的网络平台，相比上代产品带宽容量提高 5 倍，网络计算能力提高 9 倍。 英伟达推出 B200 GPU、超级芯片、服务器到大型算力集群等全套算力硬件组合。1）B200：搭载 8 颗 HBM3e，内存容量达 192GB，FP4 精度下算力高达 20 PFLOPS，预计 2024 年晚些时间上市；2）超级芯片 GB200：2 颗 Blackwell GPU +1 颗 Grace CPU，FP4 精度下算力高达 40PFLOPS；3）超级计算机 GB200 NVL72：72 颗 BlackwellGPU+36 颗 Grace CPU，训练和推理性能相比等同数量的 H100 GPU 表现提升 4 倍和 30 倍；4）DGX Super POD：一站式 AI 超算解决方案，搭载 8 套 DGX GB200 NVL72 系统，有望成为未来重要基础设施。 软件工具链：NIM 打通软硬件、降低客户软件开发难度，NeMo 帮助企业采用专用数据开发定制大模型，英伟达将逐步转型成类苹果/微软的平台提供商。1）NIM 推理微服务：集成数十个企业级生成式 AI 模型，可提供从最浅层的应用软件到最深层的硬件编程体系 CUDA 的直接通路，帮助开发者在 CUDA GPU 上创建和部署生成式 AI 应用；2）NeMo Retriever：挖掘企业“数据金矿”价值，客户可以使用其他公司或英伟达提供的行业基础 NeMo 并添加自己的数据来生成专用大模型；3）NIM 已在半导体、医药等多领域落地。 软件应用：英伟达拓展 AI 应用发展方向，积极在机器人和自动驾驶等领域开展合作。1）机器人：英伟达看好 AI+机器人领域前景，发布机器人基础大模型Project GR00T，推出 Jetson Thor 计算机、Isaac 软件开发工具和库等，并与众多公司在机器人开发领域达成合作关系；2）自动驾驶：自动驾驶芯片采用Blackwell 新架构，英伟达与比亚迪等车企加强合作。 硬件迭代+软件协同+拓展应用领域，我们看好 AI 算力产业链维持高景气度，建议关注：1）英伟达：AI 芯片性能强劲，软硬件协同服务打开想象空间；2）其他 AI 芯片：AMD、英特尔；3）服务器：超微电脑、联想集团、工业富联、戴尔科技、慧与；4）HBM：三星电子、SK 海力士、美光科技；5）ASIC 芯片设计：Marvell 科技、博通；6）CoWoS：台积电、日月光、Amkor 科技；7）CoWoS设备：ASMPT；8）云技术服务商：Oracle；9）光模块：中际旭创。 风险分析：1）下游应用程序开发和场景拓展较慢，导致 AI 商业化进度不及预期；2）B200 等新品产能扩张受限，数据中心业务出货量不及预期；3）若 AIGC 进展不及预期，大模型训练和推理的算力需求高速增长的可持续性或降低。 买入（维持） 作者 分析师：付天姿 执业证书编号：S0930517040002 021-52523692 futz@ebscn.com 分析师：王贇 执业证书编号：S0930522120001 021-52523862 yunwang@ebscn.com 联系人：董馨悦 021-52523858 dongxinyue@ebscn.com 相关研报 惠普、慧与、戴尔科技业绩表现不一，AI服务器需求强劲增长——AI 算力产业链跟踪报告（八）…………………2024-03-03 ARM：FY24Q3 业绩和 Q4 指引超预期，强劲 AI 需求提供增长新动力——AI 算力产业链跟踪报告（七）……………2024-02-09 AMD：看好业绩 24Q1 触底后回升，公司上调 24 年数据中心 GPU 指引——AI 算力产业链跟踪报告（六）………2024-02-01 英特尔：数据中心业务逆风致 24Q1 指引疲软，24 全年有望修复——AI 算力产业链跟踪报告（五）………………2024-01-27 美股巨头财报季序幕拉开，印证 AI 算力产业链持续高景气——AI 算力产业链跟踪报告（四）………………………2024-01-21 AI 芯片助力台积电 Q3 盈利超预期，消费电子需求企稳展现复苏信号——AI 算力产业链跟踪报告…………………2023-10-20 要点 敬请参阅最后一页特别声明 -2- 证券研究报告 海外 TMT 目 录 1、 硬件：“AI 核弹”Blackwell 新架构发布，硬件设备全面升级 .............................................. 3 1.1、 Blackwell 新架构：单芯片性能和整体算力集群性能提升明显 ............................................................... 3 1.2、 B200 GPU：基于 Blackwell 架构，实现算力增长、内存升级和网络传输加快 ....................................... 4 1.3、 通信互联：NVLink+NVLink Switc