海外科技行业：英伟达持续狂奔，看好AI趋势的能见度至2024年

请务必阅读正文之后的免责条款部分 [Table_MainInfo] [Table_Title] 2023.11.14 英伟达持续狂奔，看好 AI 趋势的能见度至 2024 年 李奇(分析师) 0755-23976888 liqi028295@gtjas.com 证书编号 S0880523060001 本报告导读： 英伟达推出 H200 的 GPU 显卡，更新了更快更大的 HBM3e 的存储，将性能提升了60%-90%。我们看好 AI 进入快速发展的成长期，能见度持续至 2024 年。 摘要： [Table_Summary]  事件：英伟达推出 H200 的 GPU 显卡。与前一代 H100 相比，H200 的性能直接提升了 60%到 90%。目前，H200 预计于 2024 年第二季度出货。  相较于 H100，此次最大的更新在于H200搭载了更快、更大的HBM3e的存储。H200 的容量接近翻倍，带宽增加 2.4 倍，加速生成式 AI 和大语言模型的同时，推进 HPC 工作负载的科学计算。H200 在 700 亿参数的 Llama2 大模型上的推理速度比 H100 快了一倍，而且在推理能耗上 H200 相比 H100 直接降低了一半。  H200的提前发布再次证明持续奔跑这种能力本身才是英伟达的护城河。在黄氏定律时代，GPU 将推动 AI 性能实现逐年翻倍，GPU的进化速度可能远超投资者的预期。当 H100 横空出世时，这几乎成为大模型时代最稀缺的资源。但是市场终究不会只让英伟达独自享受新时代的算力红利。随即，二号玩家 AMD 的 MI300 显卡推出，芯粒堆叠技术使得晶体管的数量达到疯狂的 1460 亿个。同时，这款显卡芯片集成了 Zen4 架构的 24 个 CPU 核心、大容量的 Infinity Cache 无限缓存，还有 8192-bit 位宽、128GB 容量的 HBM3 高带宽内存。Intel、IBM 等科技巨头以及新晋企业正陆续推出新的 AI 芯片，试图与英伟达 AI 芯片抗衡；谷歌、微软、亚马逊、阿里、百度等公司也纷纷布局自研芯片，以减少对外部供应商的依赖。所以，在芯片行业内，一款产品很难形成一个超过两年的护城河。此次更大内存，更大带宽的H200 发布再次证明英伟达持续奔跑，持续领先的能力或是英伟达真正的护城河。  看好 AI 进入快速发展的成长期，能见度持续至 2024 年。对于 AI 上升趋势的判断，我们认为有三重催化：1. 算力是一切变革的基础设施。此次 H200 的发布，将过去数据中心芯片两年一更新的速率直接翻倍。2. 更强劲，更低价的大模型 GPT 4 Turbo 发布降低进入门槛，自定义 GPT+GPT 应用商店预计将打造一个充满活力的软件与应用生态。3. 性能无边的 B100 与 GPT5 预计在 2024 年发布，重磅升级或释放前所未有的生产力。  风险提示：AI 商业化不及预期；地缘政治风险；毛利率、净利率不及预期。 [Table_Invest] 评级： 增持 上次评级: 增持 [Table_subIndustry] 细分行业评级 [Table_DocReport] 相关报告 海外科技《消费待复苏，性价比消费成双 11主题》 2023.11.14 海外科技《OpenAI 首届开发者大会落幕，AI 生态初建成》 2023.11.08 海外科技《高通进入景气拐点，低价成为双11 风向标》 2023.11.05 海外科技《美国升级芯片出口管制，特斯拉利润率修复仍需时日》 2023.10.22 海外科技《9 月社零超预期，建议把握平台经济底部的反弹机会》 2023.10.21 行业事件快评 股票研究 证券研究报告 [Table_industryInfo] 海外科技 股票报告网整理http://www.nxny.com 行业事件快评 请务必阅读正文之后的免责条款部分 2 of 5 表 1：参数上 H200 与 H100 唯一的差别在于内存和带宽 H200 SXM H100 SXM FP64 34 TFLOPS 34 TFLOPS FP64 Tensor Core 67 TFLOPS 67 TFLOPS FP32 67 TFLOPS 67 TFLOPS FP32 Tensor Core 989 TFLOPS 989 TFLOPS BFLOAT16 Tensor Core 1,979 TFLOPS 1,979 TFLOPS FP16 Tensor Core 1,979 TFLOPS 1,979 TFLOPS FP8 Tensor Core 3,958 TFLOPS 3,958 TFLOPS INT8 Tensor Core 3,958 TFLOPS 3,958 TFLOPS GPU Memory 141 GB (+76.25%) 80 GB GPU Memory Bandwidth 4.8TB/s (+43.28%） 3.35TB/s Decoders 7 NVDEC 7 JPEG 7 NVDEC 7 JPEG Max Thermal Design Power(TDP) Up to 700W (configurable) Up to 700W (configurable) Multi-Instance GPUS Up to 7 MIGs @ 16.5GB each Up to 7 MIGs @ 10GB each Form Factor SXM SXM Interconnect NVIDIA NVLink 900GB/s PCIe Gen5: 128GB/s NVIDIA NVLink 900GB/s PCIe Gen5: 128GB/s Server Options NVIDIA HGX H200 partner and NVIDIA-Certified Systems with 4 or 8 GPUs NVIDIA HGX H100 partner and NVIDIA-Certified Systems with 4 or 8 GPUs NVIDIA DGX H100 with 8 GPUs NVDIA AI Enterprise Add-on Add-on 数据来源：英伟达，国泰君安证券研究 图 1 英伟达官网宣称 H200 为世界上最强大的 GPU 数据来源：英伟达官网，国泰君安证券研究 股票报告网整理http://www.nxny.com 行业事件快评 请务必阅读正文之后的免责条款部分 3 of 5 图 2：单张 H200 比 H100 运行 Llama-70B（700 亿参数）推理性能几乎翻倍，8 张 H200 相比 H100 运行 GPT3-175B（1750 亿参数）提升 60%。 数据来源：英伟达官