人工智能行业AI算力报告:穿越AI的基石,算力基建的起始

姓名:王聪(分析师)姓名:王彦龙(分析师)姓名:舒迪(分析师)姓名:谭佩雯(分析师)邮箱:wangcong@gtjas.com邮箱:wangyanlong@gtjas.com邮箱:shudi@gtjas.com邮箱:tanpeiwen@gtjas.com电话:021-38676820电话:010-83939775电话:021-38038385电话:0755-23976032证书编号:S0880517010002证书编号:S0880519100003证书编号:S0880521070002证书编号:S0880521040001姓名:文紫妍(分析师)姓名:黎明聪(研究助理)姓名:刘校(研究助理)邮箱:wenziyan@gtjas.com邮箱:limingcong@gtjas.com邮箱:liuxiao026731@gtjas.com电话:021-38038321电话:0755-23976500电话:021-38038661证书编号:S0880523070001证书编号:S0880121080014证书编号:S0880122070050201020304053 /3/ CONTENTS01020304054 /45算力是智能世界的基础,基础设施从云向算泛在演进1.1•智能世界三要素:数据、算力、算法是智能世界三要素,其中算力平台是核心基础。•算力两大类:通用算力、 HPC(高性能计算,High-performance computing)算力。其中通用算力计算量小,用于常规应用。HPC算力是一个计算机集群系统,通过各种互联技术将多个计算机系统连接在一起,利用所有被连接系统的综合计算能力来处理大型计算问题。•算力基础设施从云向算泛在演进,其位置的分布从中心向边缘和端侧泛在延伸,将出现云、边、端三级算力架构。数据来源:国泰君安证券研究图:构建数据、算力、智能之间的互联网络算力类型通用算力专用算力科学计算类:物理化学、气象环保、生命科学、天文探测等工程计算类:计算机辅助工程/制造、电子设计自动化、电磁仿真等智能计算类:机器学习、深度学习、数据分析等图:专用算力是算力中极为重要一环图:算力基础设施从云向算泛在演进6AI大模型带动算力需求超越摩尔定律增长1.1•AI模型训练算力增长速度超越芯片摩尔定律。AI 训练任务中的算力增长(所需算力每 3.5个月翻一倍)已经超越摩尔定律(晶体管数量每 18 月翻一倍)。•ChatGPT仅推出两个月,月活跃用户数预计已达1亿。ChatGPT在2023年1月达到1亿月活跃用户,平均每天有1,300多万访客,用2个月时间达到1亿月活数,成为史上最快达到1亿月活跃用户的应用,TikTok、Instagram、Facebook、Twitter则分别用了9个月、2年半、4年半、5年的时间。数据来源:Google Scholar,国泰君安证券研究图:大模型时代算力需求增长超越摩尔定律图:chatgpt仅用2个月月活用户突破1亿数据来源:Sensor Tower,国泰君安证券研究2个月9个月两年半三年半四年半五年六年半ChatGPTTikTokInstagramWhatsAppMetaTwitteriTunes7AI大模型核心在数据、算力与模型,需消耗大量算力1.1数据来源:Open AI,国泰君安证券研究表:不同 NLP 模型参数量及训练算力对比模型总计算量(PFlop/s-day)总计算量(Flops)参数量(百万个)令牌数量(十亿)T5模型T5-Small2.08E+001.80E+20601000T5-Base7.64E+006.60E+202201000T5-Large2.67E+012.31E+217701000T5-3B1.04E+029.00E+2130001000T5-11B3.82E+023.30E+22110001000BERT 模型BERT-Base1.89E+001.64E+20109250BERT-Large6.16E+005.33E+20355250ROBERTa-Base1.74E+001.50E+211252000ROBERTa-Large4.93E+014.26E+213552000GPT 模型GPT-3 Small2.60E+002.25E+20125300GPT-3 Medium7.42E+006.41E+20356300GPT-3 Large1.58E+011.37E+21760300GPT-3 XL2.75E+012.38E+211320300GPT-3 2.7B5.52E+014.77E+212650300GPT-3 6.7B1.39E+021.20E+226660300GPT-3 13B2.68E+022.31E+2212850300GPT-3 175B3.64E+033.14E+23174600300•预训练算力需求:训练一次13亿参数的GPT-3 XL模型需要的全部算力约为27.5PFlop/s-day,而训练一次1,746亿参数的GPT-3模型需要的算力约为3,640 PFlop/s-day,对应的单次训练成本高达460万美元。•日常运营算力需求:ChatGPT在日常与用户交互过程中需要大量的算力支持,结合访问量与内容量测算,单月运营算力约4,800PFlop/s-day;2023年1月ChatGPT官网总访问量已经达到6.16亿次,而ChatGPT每次交互产生的算力云服务成本约1~5美分,对应的单月运营成本高达千万美元。•调优迭代算力需求:ChatGPT模型需要不断进行Finetune模型调优,以确保模型处于最佳应用状态;预计每月模型调优带来的算力需求为82.5~137.5 PFlop/s-day。图:模型的尺寸在过去5年增长了5000倍8MR、车载等数字经济新型应用场景带来新的算力需求1.1•MR的推出更带来对低延时网络传输和底层算力技术升级的需求。虚拟世界需要强大的图像实时渲染能力、计算和存储海量数据资源,头显交互设备的出现将进一步增加对云计算和边缘计算的应用需求。云计算能将终端渲染逐步迁移至云端,基于规模效应摊低运算成本,提升服务器使用效率,提升虚拟世界的可进入性。而边缘计算则更能满足实时数据分析需求、缓解中心云的计算负载。•汽车智能化需求持续升级带来数据流量的急剧飙升。随着自动驾驶等级提升,车载信息娱乐系统、长续航电池及5G网络的引入,车辆要面对的计算量越来越大,网络架构升级、本地实时处理能力、“大容量缓存和存储”规格将成为硬需求。数据来源:中国信通院、华为,国泰君安证券研究图:算力升级是支撑虚拟世界内容创作与真实交互的保障图:2025年L4等级无人自动驾驶数据存储需求数据来源:Counterpoint Technology Market Research,国泰君安证券研究9算力与经济水平直接挂钩,且具有倍增效应1.2•全球各国算力规模与经济发展水平呈现正相关。2021 年算力规模前 20 的国家中有 17 个是全球排名前 20 的经济体,并且前五名排名一致。•算力对经济有倍增效应。数字经济作为GDP的组成部分,占比正在逐年增加,而算力是数字化技术持续发挥效益的根本性要素。根据IDC的报告,计算力指数平均每提高1个点,

立即下载
信息科技
2023-07-18
国泰君安
100页
11.18M
收藏
分享

[国泰君安]:人工智能行业AI算力报告:穿越AI的基石,算力基建的起始,点击即可下载。报告格式为PDF,大小11.18M,页数100页,欢迎下载。

本报告共100页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
本报告共100页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
水滴研报所有报告均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
相关图表
从主板级供电到数据中心级供电
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
主板级供电方案
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
英伟达 DGX A100 产品 图表 13:英伟达 DGX H100 产品
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
AI 服务器(推理)出货量预测及复合增速(千台,%) 图表 11:2022 年采购 AI 服务器占比(%)
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
Ocean Stor A310
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
南亚科技对于未来市场的展望
信息科技
2023-07-18
来源:电子行业周报:H1业绩预告陆续发布,需求增温,低点或已过
查看原文
回顶部
报告群
公众号
小程序
在线客服
收起