电子:如何看待算力芯片与服务器的弹性?

如何看待 AI 算力芯片与服务器的弹性? [Table_ReportDate] 2023 年 3 月 31 日 请阅读最后一页免责声明及信息披露 http://www.cindasc.com 2 证券研究报告 行业点评 [Table_ReportType] 行业专题研究(普通) [Table_StockAndRank] 电子 投资评级 看好 上次评级 看好 [Table_Author] 莫文宇 电子行业首席分析师 执业编号:S1500522090001 联系电话:13437172818 邮 箱:mowenyu@cindasc.com 韩字杰 联系人 邮 箱:hanzijie@cindasc.com 信达证券股份有限公司 CINDASECURITIESCO.,LTD 北京市西城区闹市口大街9号院1号楼 邮编:100031 [Table_Title] 如何看待 AI 算力芯片与服务器的弹性? [Table_ReportDate] 2023 年 3 月 31 日 本期内容提要: [Table_Summary] [Table_Summary] ➢ Transformer 模型是参数量可以无限增长的通用模型,可以处理长序列的输入、输出。Transformer 模型是一种基于自注意力机制的深度学习模型,相较于传统 AI 模型如循环神经网络(RNN)和卷积神经网络(CNN),它在处理序列数据时具有更高的并行性和可扩展性。其中,自注意力机制使得模型能够捕捉序列中长距离依赖关系,同时避免了 RNN 中的梯度消失或爆炸问题。Transformer 模型的参数量之所以会随着数据量和任务复杂度无限增长,是因为它可以通过堆叠更多的层或增加隐藏层宽度来提高模型性能,从而适应更复杂的数据和任务;在传统 CNN/RNN 模型中,增加网络参数量会提高模型的拟合能力,但过多的参数容易导致过拟合现象。因此,长期来看大模型领域或许会出现没有上限的“军备竞赛”。 ➢ 训练:根据英伟达测算,在 4096 颗 A100 GPU 互联的情况下,训练10000 亿参数的模型约需要 3-4 周时间,而在 4096 颗 H100 GPU 互联的情况下,时间约需要 1 周左右。考虑到 1 周是研发阶段可承受的周期,因此我们认为 4000 颗左右 H100 将是一个大型云计算企业每年支持 30-50 个 5000 亿参数模型项目训练所需要的芯片数量。考虑到目前大模型参数量已经步入万亿级别,芯片需求量可能会继续上升。若以英伟达 HGX H100-8 计算集群为单位(1024 Nvidia H100 GPUs),总共需要 4-8 个计算集群,考虑到售价为 4900 万美金/集群,则单个支持 GPT 训练的云计算中心至少投入 1.96-3.92 亿美金用于服务器的购买 。 ➢ 推理:相比训练,模型的部署是更大的市场。我们认为应用对于服务器的最大承载能力要求在于过峰,即满足 PCU 时刻的访问需求。根据 Statista,Steam 2021 年月活用户约为 1.32 亿人左右,而 Steam公布服务器最高访问人数截至 2021 年 12 月 31 日为 2738 万人,最高817 万人同时在线进行游戏。因此我们合理推断一款被高强度访问的应用,最高在线人数约为月活用户的 6.19%-20.74%。假设在国内 8亿用户体量下,最高并发访问人数可高达 4952 万人-16592 万人。根据 10 DGX H100 服务器一秒内可支持 300 用户的并发访问,若响应时长延缓至 5 秒及以上,最高可支持 1000 人以上的并发访问。据此测算,国内由 AI 带动的服务器需求量约为 5 万台-16.6 万台,芯片为50-166 万颗。假设全球活跃用户体量为国内用户体量的 3 倍,则全球服务器需求量为 15-50 万台,芯片需求量为 150-500 万颗。 ➢ 投资建议:ChatGPT 的快速渗透侧面反映出大模型在通用任务上所展现的强大能力,也为人工智能产业未来的投资指引了方向。在AIGC 驱动新一轮产业革命的趋势下,我们认为 AI 算力产业链上下游均有投资机会。 ➢ 建议关注:海光信息、寒武纪-U、龙芯中科、澜起科技、工业富联、紫光国微、中芯国际、华虹半导体、华大九天、概伦电子、芯原股份、兴森科技、通富微电、华正新材、方邦股份、长电科技、海康威视、大华股份、晶晨股份、瑞芯微、全志科技。 ➢ 风险提示:技术迭代不及预期;制裁风险;本文对服务器、芯片需求量等测算是基于一定前提假设,存在假设条件不成立、市场发展不及预期等因素导致测算结果偏差。 请阅读最后一页免责声明及信息披露 http://www.cindasc.com 3 目录 训练与部署:我们如何测算 AI 芯片及服务器的弹性 ..................................................................... 4 训练:迈入万亿参数时代,千卡互联、超级计算是大势所趋 ............................................... 4 部署:强 AI 助手有望实现大规模渗透,服务器市场注入新活力 ......................................... 6 投资建议:趋势确立,下注未来 ............................................................................................... 7 风险因素 .............................................................................................................................................. 9 表目录 表 1:汽车及细分行业近年销量增速情况(%) .......................................................................................... 5 图目录 图 1:传统 NLP 模型存在梯度下降/爆炸问题,无法解决长序列的处理 ...................................... 4 图 2:英伟达 H100 训练卡对 LLM 的训练时长函数曲线 ............................................................... 5 图 3:2022Q4 全球云计算服务商市场份额 ...................................................................................... 6 图 4:英伟达 10 DGX H100 瞬时支持的 300 人的并发访问 .........................

立即下载
电子设备
2023-03-31
信达证券
莫文宇
11页
1.17M
收藏
分享

[信达证券]:电子:如何看待算力芯片与服务器的弹性?,点击即可下载。报告格式为PDF,大小1.17M,页数11页,欢迎下载。

本报告共11页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
本报告共11页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
水滴研报所有报告均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
相关图表
2017-22Q1-3 各公司存货周转率对比(次) 图 33:2014-22Q1-3 各公司应收账款周转天数对比(天)
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
2017-22Q1-3 各公司财务费率(%) 图 30:2017-22Q1-3 各公司研发费率(%)
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
2017-22Q1-3 各公司销售费率(%) 图 28:2017-22Q1-3 各公司管理费率(%)
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
2020 年我国瓦楞纸竞争格局 图 22:2021 年包装纸消费结构
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
瓦楞纸箱包装行业产业链
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
2014-2021 年公司纸包装毛利率(%) 图 19:2019-2021 公司毛利率按地区细分(%)
电子设备
2023-03-31
来源:终端需求复苏,盈利企稳向上
查看原文
回顶部
报告群
公众号
小程序
在线客服
收起