2024中国智算产业全景调研：技术重构与演进报告

与非研究院资深行业分析师 张慧娟2024中国智算产业全景调研：技术重构与演进SupplyFrame Media + E-Commerce2Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.智算产业现状总览, 智算产业运行状况, 智算中心核心驱动力, 智算产业关键技术, 智算产业竞争格局生成式AI驱动的变革, 生成式AI对智算产业的影响, 生成式AI发展挑战, 大模型对智算产业的作用, 智算产业是否过度依赖大模型算力基础设施架构和国产化情况, 智算中心如何影响我国算力分配, 算力卡供应情况, 国产算力卡替代情况, 智算中心AI芯片主要方向, 智算中心利好AI芯片类型未来挑战与趋势, 如何提高智算中心运行效率, 智算产业要解决的关键问题, 智算产业发展挑战, 智算产业应用领域, 智算产业投资趋势Agenda3Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览核心点：驱动力｜ AI训练与推理需求激增，驱动算力基础设施快速迭代技术体系全景 ｜ 覆盖芯片器件层（CPU/GPU/TPU）、硬件设施层（AI服务器/液冷）、平台调度层（弹性调度/绿色节能）、应用场景层（AI训练/边缘智能）规模与增长｜ 2024年中国智能算力规模达725.3EFLOPS，同比增速74.1%，市场规模190亿美元，增速超通用算力3倍未来趋势｜ 2026年智能算力规模将达2024年两倍（1,460.3EFLOPS），市场规模增至337亿美元4Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览智算中心技术体系全景图应用场景层｜ • AI训练 • 实时推理 • 边缘智能 • 科学仿真算力资源层｜ • 基础算力 • 智能算力GPU集群 • HPC • 边缘算力平台调度层｜ • 异构资源管理 • 弹性调度系统 • 数据湖仓 • 绿色节能控制 • 安全可信框架硬件设施层｜ • AI服务器 • 存储阵列 • 高速网络 • 边缘节点 • 液冷机柜芯片器件层｜ • CPU/GPU/NPU/TPU • HBM • DPU • 供电/散热模组算法理论层｜ • 深度学习框架 • 分布式训练 • 模型压缩 • 联邦学习 • 能效优化来源：与非研究院5Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览我国智算产业主要驱动力来源：与非研究院AI算法和芯片是核心驱动力，大数据和云计算提供重要支撑，政府政策与企业需求发挥推动作用。6Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览我国智算产业发展的关键技术来源：与非研究院智算产业关键技术，高性能AI芯片和大模型技术占比最高。云原生、云数据库、5G/6G通信、算力网络等也发挥重要作用。7Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览我国智算中心运行现状大部分满负荷运行，满足当前算力需求部分满负荷运行，存在一定程度的算力闲置多数未满负荷运行，算力闲置情况较普遍几乎没有满负荷运行，算力闲置问题严重不确定来源：与非研究院我国智算中心整体运行良好，但需优化资源分配以提升整体效率。8Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览影响智算中心满负荷运行的主要因素市场需求不足，导致算力利用不充分运维管理能力不足，影响算力发挥电力消耗大，运营成本高，限制了满负荷运行硬件资源利用率低，技术问题导致算力未充分利用不确定来源：与非研究院市场需求不足、促成更多商用落地是目前最大障碍，但运维管理、成本控制和资源利用等问题也不容忽视。9Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览智算产业发展格局与演进趋势来源：与非研究院智算产业呈现高度集中与多元化并存的格局，技术创新和政策驱动为主要推动力，绿色低碳与国产替代成为新趋势。10Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.1. 智算产业现状总览我国智能算力规模和增长趋势：2024年，中国智能算力规模达725.3EFLOPS，同比增长74.1%，增幅是同期通用算力增幅(20.6%)的3倍以上；市场规模为190亿美元，同比增长86.9%。未来两年，中国智能算力仍将保持高速增长：中国智能算力规模：2025年将达到1,037.3 EFLOPS，较2024年增长43%；2026年将达到1,460.3 EFLOPS，为2024年的两倍。中国人工智能市场规模：2025年将达到259亿美元，较2024年增长36.2%；2026年将达到 337亿美元，为2024年的1.77倍。数据来源：《2025年中国人工智能计算力发展评估报告》11Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.2. 算力基础设施架构和国产化情况核心点：基础地位｜ 算力基础设施是智算产业底座，我国在用/在建算力规模反映产业发展潜力。架构选择｜ AI训练主要依赖GPU集群，推理向边缘算力延伸，需异构资源管理与高速网络支持。国产替代｜ 国产算力卡逐步替代进口，但关键芯片仍依赖国际供应链。能耗挑战｜ 单机柜性能提升导致能耗压力，需液冷技术等绿色节能方案优化。12Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute.2. 算力基础设施架构和国产化情况智算中心对我国算力格局的影响集中度提高，算力更加集中在少数大型数据中心推动算力向边缘计算下沉，满足实时数据处理需求促进区域平衡，缩小不同地区的算力差距影响算力价格，由于技术进步和规模经济，价格更加亲民提高智算中心服务效率，促进产业高质量发展来源：与非研究院智算中心建设提升了算力集中度和效率，对促进区域算力平衡、降