电子行业AI系列报告5 AMD：发布MI300，指引Chiplet等AI芯片新方向

1 证券研究报告 2023年7月2日 【中泰电子】AI系列报告5 AMD：发布MI300，指引Chiplet等AI芯片新方向 中泰电子王芳团队 分析师：王芳 执业证书编号：S0740521120002 分析师：游凡 执业证书编号： S0740522120002 分析师：杨旭 执业证书编号：S0740521120001 分析师：李雪峰 执业证书编号：S0740522080004 研究助理：张琼 研究助理：刘博文 2 AMD MI300 VS 英伟达GH200： 1）在制程上，MI300属台积电5nm，相较MI200系列的6nm实现了跃迁，并与英伟达Grace Hopper的4nm制程（属台积电5nm体系）看齐。 2）封装技术，AMD MI300使用台积电SoIC（3D）和CoWoS（2.5D）两种封装技术，而Nvidia GH200仅使用CoWoS（2.5D）封装技术。3D Chiplet封装技术可以提升封装密度，并在降低能耗的基础上进一步提高性能。 Chiplet+存算一体+异构计算，构建了AMD MI300强大的AI竞争力： Chiplet：MI300利用3D封装技术将CPU和加速计算单元集成在一起，增强了集成度。 存算一体：在MI300采用的CDNA3架构中，CPU和GPU共享一块“统一存储”HBM（Unified Memory），缩短了计算和存储芯片的“沟通距离”，提升了CPU与GPU间的连接速度。 异构计算：MI300是市场上首款“CPU+GPU+内存”一体化产品，能更好满足如今AI大模型的算力需求。 看好Chiplet产业链： 封测：通富微电/长电科技；减薄：华海清科；ABF：兴森科技；设备/第三方测试：长川科技/华峰测控/伟测科技；IP：芯原股份； EDA：华大九天/概伦电子等； 看好AMD产业链： 封测：通富微电； PCB：沪电股份/奥士康； 设计：芯原股份； 服务器：工业富联； 风险提示：Chiplet相关技术路径尚未定型，存在技术路径被颠覆的风险。AMD AI相关产品市场销售不及预期。竞争加剧对行业的盈利性造成影响。 投资逻辑：看好Chiplet+AMD产业链 qRmPoOqRxPnOoOnOmPsNqR9PaO8OoMnNtRtQlOrRsNkPmMnO6MpOoQNZqQuNNZnPoR目 录 一、逐鹿AI：AMD发布最强AI芯片MI300系列 二、Chiplet产业链及投资建议 三、AMD产业链及投资建议 3 1.1.1 紧随Nvidia，AMD加入超算竞赛 4 来源：AMD官网、CES 2023、中泰证券研究所 北京时间6月14日AMD举行新品发布会，推出重磅产品MI300系列，包括MI300A/MI300X两颗芯片：1）MI300 A是一款针对AI和HPC (高性能计算)的APU，采用CDNA 3架构的GPU和24个Zen 4CPU内核，配置128GB的HBM 3内存，在13个小芯片中集成1460亿个晶体管，多于英伟达H100的800亿个；2）MI300 X是一款GPU专用的AI芯片，配置192GB的HBM 3内存、5.2TB/s的存储带宽，针对大语言模型的优化版，在12个5nm的小芯片中集成1530个晶体管。MI300X提供的HBM密度最高是Nvidia AI芯片H100的2.4倍，其HBM带宽最高是H100的1.6倍，单个MI300X可以运行一个参数多达800亿的模型；3）AMD还发布了AMD Instinct平台，它配置了八个MI300 X，能提供总计1.5TB的HBM3内存，采用行业标准OCP设计。 根据AMD预期，随AI发展，模型规模扩大，算力需求将不断增长，数据中心人工智能加速器的潜在市场总额将从2023年的300亿美元增长到2027年的1500亿美元以上，复合年增长率超过50%。 图表： Nvidia与AMD主要产品参数比较 Nvidia AMD 产品名称 A100 H100 MI300A MI300X 发布时间 2020.06 2022.03 2023.06 2023.06 峰值算力（TFLOPS） FP16: 312 | 624 FP32: 19.5 FP64: 19.5 FP8: 3,026 | 3,958 | 7,916 FP16: 1,513 | 1,979 | 3,958 FP32: 51 | 67 | 134 FP64: 51 | 64 | 134 工艺制程 7nm 4nm 5nm和6nm 5nm和6nm 晶体管数量（亿） 540 800 1460 1530 内存容量 80GB(HBM2e) PCIe: 80 GB(HBM2e) SXM: 80 GB(HBM3) NVL: 188GB(HBM3) 128GB(HBM3) 192GB(HBM3) 封装技术 CoWoS CoWoS 3D Chiplet 3D Chiplet 互联带宽 600 GB/s NVLink for 2 GPUs 64GB/s PCIe Gen4 600 | 900 | 900 GB/s NVLink 125 GB/s PCIe Gen5 - 5.2TB/s的带宽和896GB/s的Infinity Fabric带宽 1.1.1 紧随Nvidia，AMD加入超算竞赛 5 来源：AMD官网、CES 2023、中泰证券研究所 Instinct MI300简化系统结构，大幅提升AI性能。MI300采用3D堆叠技术和Chiplet设计，配备了9个5nm制程的芯片组，置于4个6nm制程的芯片组之上。MI300属台积电5nm，相较MI200系列的6nm实现了跃迁。AMD 上一代 Instinct MI250 芯片包含独立CPU和GPU，中间依靠EPYC CPU来协调工作负载。相比之下，Instinct MI300包含一个内置的24核第四代 EPYC Genoa 处理器，从而减少了一个独立CPU的存在，简化了系统拓扑结构。由此实现了一个四个元素完全连接的all-to-all拓扑，使所有处理器可以直接相互通信，而无需另一个CPU或GPU作为数据中继，从而减少了延迟和不确定性。MI300的AI性能是上一代产品MI250X的8倍，每瓦性能则是它的5倍，实现了颠覆式升级。 AMD MI300使用台积电SoIC（3D）和CoWoS（2.5D）两种封装技术。MI300采用的3D Chiplet封装技术将13个chiplets 分布在两层：上层为9个5nm制程的chiplets，而下层为4个6nm制程的chiplets，芯片两侧排列8个HBM3。3D Chiplet封装技术可以提升封装密度，并在降低能耗的基础上进一步提高性能。 图表： MI300与MI250结构比较 MI300产品示意图 1.1.2 AMD与英伟达比较：AMD产品矩阵 6 AMD产品矩阵包括CPU、GPU、FPGA等，业务线主要分为客户端（台式机、笔记本电脑处理器（CPU）和芯片组）、数据中心、游戏业务、嵌入式业务（包含收购赛灵思后的FPGA业务）四个板块。23Q1 AMD营收53.53亿美元，同比下降9%，其中1）客户端23Q1营收7.39亿美元，同比跌幅达