计算机行业专题研究:海外AI大模型发展复盘

免责声明和披露以及分析师声明是报告的一部分,请务必一起阅读。 1 证券研究报告 计算机 海外 AI 大模型发展复盘 华泰研究 计算机 增持 (维持) 研究员 谢春生 SAC No. S0570519080006 SFC No. BQZ938 xiechunsheng@htsc.com +(86) 21 2987 2036 联系人 袁泽世,PhD SAC No. S0570122080053 yuanzeshi@htsc.com +(86) 21 2897 2228 华泰证券研究所分析师名录 行业走势图 资料来源:Wind,华泰研究 2023 年 8 月 21 日│中国内地 专题研究 复盘:海外 AI 大模型发展呈现 5 大趋势 复盘了 2022 年 11 月底 ChatGPT 发布到当前时点海外 AI 大模型的发展情况,我们认为呈现出 5 大趋势。1)闭源大模型龙头效应显著,OpenAI、Google、Anthropic 三足鼎立局面基本形成;2)开源模型生态逐步完善,Meta 引领开源发展;3)模型模态逐步丰富,文本到图像、图像到文本、多模态统一到单一模型等领域均有发展;4)模型落地场景丰富,软件侧场景包括 AI agent、垂类模型,终端侧场景包括智能终端大模型、具身智能模型;5)上下文窗口持续拓宽,更长的上下文窗口意味着模型能够一次性输入更多的内容,使得模型对长内容的掌握更加完善,回答更加合理。 闭源 vs 开源:更好的服务 vs 更自由的开发环境 海外的闭源模型主要包括 OpenAI 的 GPT 系列,Google 的 PaLM/Gemini( 待 发 布 ) 系 列 和 Anthropic 的 Claude 系 列 。 从 模 态 来 看 ,Claude/PaLM/GPT-3.5 均为语言模型,GPT-4/Genimi 为多模态模型;商业模式看,三家均支持 API 付费调用,OpenAI 还另外支持会员服务($20/月);微调功能看,GPT-3 系列支持微调,Claude 模型需要申请微调权限,PaLM 2 暂不支持微调。开源模型生态由 Meta 引领,基于开源发布的 Llama 1/2,开发者和企业纷纷训练/微调新的模型。此外,Llama 2 支持商业化,有助于Meta 进一步拓展开源生态,我们认为有望复刻 Android 的商业化路径。 模态:从单一模态向多模态延展 在模型从单一模态向多模态扩展的过程中,Google、Meta、Stability AI 是典型代表。其中,Google 的 Vision Transformer 打通了文本 Transformer架构与图像的“壁垒”,在此基础上,大语言模型 PaLM 吸收了 ViT 得到PaLM-E,扩展了多模态和具身智能。此外,PaLM 也可以扩展到音频领域得到 AudioPaLM。Meta 在音频生成领域成果丰富,先后发布通用文本转语音模型 Voicebox,以及文本转音乐/音效模型 AudioCraft 等。Stability AI 则反其道而行,其起家模型为文生图的稳定扩散(stable diffusion)模型,随后在 LLM 和代码模型上先后发布新成果。 场景:具身智能+AI agent+智能终端+垂类模型 具身智能领域,主要思路是使用机器人动作数据来训练大模型,实现机器人动作预测。代表模型包括 Google 的 PaLM-E/RoboCat/RT-2,英伟达的 VIMA等。AI agent 定义为 LLM(核心大脑)、记忆、任务规划以及工具使用的集合,能够自动化的分解、处理、记忆、输出用户需求,典型 agent 包括Auto-GPT/MetaGPT/Hyperwrite AI agent 等。智能终端中,Vifa 已在智能音箱中落地了大模型,高通则基于骁龙平台部署了可端侧运行的稳定扩散模型。垂类模型方面,彭博基于金融专业数据训练了 BloombergGPT,Google也基于医疗和网安数据分别训练了 Med-PaLM 和 Sec-PaLM 行业模型。 上下文窗口:呈继续拓宽趋势 在语言模型中,上下文窗口对于理解和生成与特定上下文相关的文本至关重要。较大上下文窗口可以提供更丰富的语义信息、消除歧义、处理上下文依赖性,并帮助模型生成连贯、准确的文本,还能更好地捕捉语言的上下文相关性,使得模型能够根据前文来做出更准确的预测或生成。目前,商业闭源模型中 Claude 全系提供了 100K 的上下文窗口。研究层面,微软 LONGNET通过引入新的记忆力机制将上下文窗口扩展到 10 亿 token。 风险提示:宏观经济波动,技术进步不及预期。本报告内容均基于客观信息整理,不构成投资建议。 (17)(1)163349Aug-22Dec-22Apr-23Aug-23(%)计算机沪深300股票报告网整理http://www.nxny.com 免责声明和披露以及分析师声明是报告的一部分,请务必一起阅读。 2 计算机 图表1: 提及公司列表 公司代码 公司简称 MSFT US 微软 NVD US 英伟达 GOOG US 谷歌 未上市 彭博 未上市 Vifa 未上市 OpenAI 未上市 Anthropic 未上市 Hyperwrite 资料来源:Bloomberg、华泰研究 风险提示 宏观经济波动。若宏观经济波动,产业变革及新技术的落地节奏或将受到影响,宏观经济波动还可能对 AI 投入产生负面影响,从而导致整体行业增长不及预期。 技术进步不及预期。若 AI 技术和大模型技术进步不及预期,或将对相关的行业落地情况产生不利影响。 本报告内容均基于客观信息整理,不构成投资建议。 股票报告网整理http://www.nxny.com 免责声明和披露以及分析师声明是报告的一部分,请务必一起阅读。 3 计算机 免责声明 分析师声明 本人,谢春生,兹证明本报告所表达的观点准确地反映了分析师对标的证券或发行人的个人意见;彼以往、现在或未来并无就其研究报告所提供的具体建议或所表迖的意见直接或间接收取任何报酬。 一般声明及披露 本报告由华泰证券股份有限公司(已具备中国证监会批准的证券投资咨询业务资格,以下简称“本公司”)制作。本报告所载资料是仅供接收人的严格保密资料。本报告仅供本公司及其客户和其关联机构使用。本公司不因接收人收到本报告而视其为客户。 本报告基于本公司认为可靠的、已公开的信息编制,但本公司及其关联机构(以下统称为“华泰”)对该等信息的准确性及完整性不作任何保证。 本报告所载的意见、评估及预测仅反映报告发布当日的观点和判断。在不同时期,华泰可能会发出与本报告所载意见、评估及预测不一致的研究报告。同时,本报告所指的证券或投资标的的价格、价值及投资收入可能会波动。以往表现并不能指引未来,未来回报并不能得到保证,并存在损失本金的可能。华泰不保证本报告所含信息保持在最新状态。华泰对本报告所含信息可在不发出通知的情形下做出修改,投资者应当自行关注相应的更新或修改。 本公司不是 FINRA 的注册会员,其研

立即下载
电子设备
2023-08-22
华泰证券
5页
0.58M
收藏
分享

[华泰证券]:计算机行业专题研究:海外AI大模型发展复盘,点击即可下载。报告格式为PDF,大小0.58M,页数5页,欢迎下载。

本报告共5页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
本报告共5页,只提供前10页预览,清晰完整版报告请下载后查看,喜欢就下载吧!
立即下载
水滴研报所有报告均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
相关图表
行业日均成交额前五(亿元) 图表 7:行业日均换手率涨幅前五(%)
电子设备
2023-08-22
来源:计算机行业周报:必争之地,持续看好智能算力发展
查看原文
全板块当周涨跌幅排名(%)
电子设备
2023-08-22
来源:计算机行业周报:必争之地,持续看好智能算力发展
查看原文
全行业当周涨跌幅排名(%)
电子设备
2023-08-22
来源:计算机行业周报:必争之地,持续看好智能算力发展
查看原文
主要指数当周单日涨跌幅(%)
电子设备
2023-08-22
来源:计算机行业周报:必争之地,持续看好智能算力发展
查看原文
交通车辆数据资源潜在市场规模测算
电子设备
2023-08-22
来源:计算机行业点评报告:数据要素全知道系列1:数据要素市场空间有多大?
查看原文
2022 年 12 月保险业经营数据
电子设备
2023-08-22
来源:计算机行业点评报告:数据要素全知道系列1:数据要素市场空间有多大?
查看原文
回顶部
报告群
公众号
小程序
在线客服
收起