驱动人工智能支撑数据中心的半导体生态系统

驱动人工智能支撑数据中心的半导体生态系统Powering AI: The Semiconductor Ecosystemat the Foundation of Data Centers美国半导体行业协会（SIA）与德勤（Deloitte）联合报告2026年6月目录执行摘要一、AI核心处的众多芯片推动AI进步的芯片创新半导体AI芯片分类二、拆解AI硬件栈：AI数据中心服务器中的芯片计算托盘加速器互连托盘电源托盘网络与智能平台管理接口（IPMI）托盘冷却液分配单元（CDU）托盘三、芯片如何协同执行AI训练工作流四、AI增长曲线：市场视角五、巨额支出：半导体内容价值分析六、从设计到数据中心：了解AI数据中心的全球供应链七、AI基础设施的新兴前沿八、结论作者简介术语表参考文献执行摘要3执行摘要半导体是人工智能（AI）的基础，这项技术正在改变我们的经济和社会，使整个产业更具生产力和创新性，并推动重大科学突破。当今的AI系统建立在半导体生态系统数十年创新的基础之上。随着芯片技术的不断进步，AI将变得更有能力、更节能、更具成本效益。更强大的AI反过来将有助于改进芯片设计、优化半导体制造，并推动对支撑AI的广泛芯片类别的更多需求。执行摘要4关键要点：1. 半导体是AI的基础使能技术。芯片为现代AI系统提供了基础硬件层，在现代AI服务器总价值中占据重要份额：单个AI服务器机架包含超过4,500颗封装芯片，由约20,000个独立晶粒（即独特的集成电路）组成。半导体占领先AI服务器机架内容价值的95%以上，以及建设和运营AI数据中心所需总资本支出的50%以上。2. AI需要全方位的半导体技术。要运行复杂的AI训练和推理工作负载，当今的AI数据中心需要大量的计算、存储和内存带宽、电力分配和网络能力——所有这些都由全套芯片技术提供。这些芯片技术中的每一项对于推动美国的AI建设都至关重要，而这些领域中任何关键依赖都可能阻碍这一建设。AI数据中心中的芯片包括：先进逻辑芯片，如AI加速器、专用集成电路（ASIC）、现场可编程门阵列（FPGA）、中央处理单元（CPU）、数据处理单元（DPU）和网络芯片。存储芯片，如高带宽存储（HBM）、动态和静态随机存取存储器（DRAM和SRAM）以及非易失性闪存（NAND）。模拟和基础芯片，如电源芯片、收发器、控制器和传感器。3. AI是整个半导体行业芯片的主要需求驱动力。在一个正反馈循环中，AI的进步推动了对改进的半导体性能和效率的需求，而半导体技术的进步则使更强大、更先进的AI系统成为可能：为满足全球对新AI应用的需求，政府和行业将在2028年前向新数据中心基础设施投资超过4万亿美元，其中高达2.8万亿美元将用于半导体。部署在AI数据中心的半导体年收入到2028年可能超过1.2万亿美元，四年内增长近十倍。AI数据中心市场正经历前所未有的增长，预计2022年至2028年的复合年增长率（CAGR）为88.8%。虽然最初的势头由生成式AI的快速采用推动，但持续的需求保持强劲，预计2025年至2028年的CAGR为56.3%。整个半导体供应链使AI基础设施的建设成为可能。没有半导体，就没有AI。要在这项变革性技术中保持领先，政府和行业必须共同努力推进政策，加速全谱芯片技术的增长和创新，并与全球合作伙伴密切合作，建立强大和有弹性的供应链。一、AI核心处的众多芯片5一、AI核心处的众多芯片人工智能（AI）近年来经历了爆炸性增长，吸引了大量关注于那些训练和部署AI模型的人和组织。各种各样的半导体作为AI硬件栈的支柱和使能技术，芯片技术的进步推动了AI应用在处理能力、计算效率和整体性能方面的提升。半导体支撑着嵌入日常数字体验中的AI系统。本报告通过拆解最先进的AI数据中心服务器——现代AI基础设施的基础单元——提供了关于构成AI基础设施核心的多种芯片的独特由内而外的视角。与传统停留在系统级性能或市场规模分析的报告不同，本报告深入探讨服务器每个子系统内部的半导体内容本身——映射出驱动当今数据中心的芯片、晶粒和支持组件。我们进一步通过聚焦这些服务器系统中价值集中的位置以及哪些技术至关重要来补充这一分析，从基于领先工艺节点的尖端逻辑到成熟节点组件——如电源管理集成电路（PMIC）、电可擦可编程只读存储器（EEPROM）、化合物半导体和微控制器——所有这些都是AI系统和基础设施功能不可或缺的。推动AI进步的芯片创新尽管AI看似是现代发展，但其基础贯穿数十年的先进计算能力发展。早期的AI系统在大型机和通用CPU上运行，计算成本高昂、速度慢且耗电量大，将AI限制在学术和国防实验室。随后由于训练方面的限制，AI经历了多次寒冬。随着微处理器性能的提升和内存成本的降低，AI研究进入了更实用的应用领域，如语音识别和决策树。高性能计算（HPC）集群开始支持大规模并行计算，GPU迅速取代CPU成为训练工作负载的主力处理器。ResNet等突破性模型推动了对定制AI加速器的需求。2012年AlexNet在GPU上的训练标志着现代AI的黎明， ushering in an era of massive training，推动了对定制AI加速器的需求。2022年生成式AI中大语言模型（LLM）的出现推动了对更专门的AI加速硬件的需求，通常与高带宽存储（HBM）配对。如今的AI基础设施要求前所未有的复杂性，AI训练运行需要数以万计的AI加速器，通常与HBM共同封装并通过光互连连接。2.5D/3D封装、芯粒和液冷方面的创新正在重塑数据中心架构。瓶颈已从纯计算转向热能管理、内存带宽和互连速度。在过去几年中，逻辑、存储、网络、电源和冷却技术的规模和复杂性的持续改进为高性能AI系统的广泛部署铺平了道路。这些进步催生了AI数据中心的兴起。虽然传统数据中心已经存在数十年，用于管理企业IT运营、网站托管和存储，但现代AI数据中心代表的不仅仅是增量演变，而是一种根本性的能力专业化。每个AI数据中心服务器机架都集成了一组由先进半导体器件组成的复杂组件，旨在支持并行化、数据邻近性和可扩展性。单个AI服务一、AI核心处的众多芯片6器机架由约20,000个独立半导体晶粒组成，整合为超过4,500颗封装芯片。这些包括提供高吞吐量计算的逻辑处理器、超低延迟存储子系统、电源管理单元和网络组件。AI数据中心中的芯片数量AI数据中心中的每个服务器机架包含超过4,500颗芯片，而这些芯片又由约20,000个独立半导体晶粒组成。一个领先的数据中心可以容纳超过45,000,000颗芯片。注：假设领先的AI数据中心拥有10,000个AI计算机架随着各行业组织竞相部署AI驱动的解决方案，对AI数据中心容量以及先进半导体的需求skyrocketed。这种需求激增的影响贯穿整个半导体价值链。芯片设计师面临着缩短创新周期的压力，更频繁地发布新一代尖端器件。与此同时，晶圆代工厂必须交付重大的制造技术升级，以实现AI工作负载所要求的性能飞跃。这些工作负载正在推动前几代硬件的极限，暴露了架构优化、散热和数据在庞大系统中的移动等关键问题。作为回应，芯片制造商正在共同设计硬件和软件，并追求更紧密的内存和计算集成，从而推动了实现高密度、高带宽配置的创新封装技术的发展。半导体需求增长循环这是