电子行业动态点评：从ChatGPT热议看大模型潜力

免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 1 证券研究报告 电子 从 ChatGPT 热议看大模型潜力 华泰研究 电子 增持 (维持) 研究员 黄乐平，PhD SAC No. S0570521050001 SFC No. AUZ066 leping.huang@htsc.com +(852) 3658 6000 联系人 胡宇舟 SAC No. S0570121040041 SFC No. BOB674 huyuzhou@htsc.com +(852) 3658 6000 联系人 权鹤阳 SAC No. S0570122070045 quanheyang@htsc.com +(86) 21 2897 2228 行业走势图 资料来源：Wind，华泰研究 2022 年 12 月 09 日│中国内地 动态点评 ChatGPT 展现优秀能力，大模型蕴含潜力 OpenAI 发布对话式人工智能语言模型 ChatGPT，在文本生成、代码生成与修改、多轮对话等领域，已经展现了大幅超越过去 AI 问答系统的能力。未来，对话式 AI 随着性能的进一步提升，在搜索、结合其他 AIGC 工具生成元宇宙内容等场景都有很大应用空间。ChatGPT 显示出预训练大模型正在取得技术突破。多模态、跨模态的大模型与微调、模型压缩方法结合，使大模型更适应下游任务，未来将有更多新的应用场景涌现。在大模型方面，百度的文心 Ernie，华为盘古以及商汤视觉模型在中国企业中处于领先地位。GPU 方面，燧原、壁仞、天数智芯等正在快速缩小和世界领先企业差距。 ChatGPT 在文本生成、代码生成等领域，展现远超 GPT-3 的优秀能力 OpenAI 于美国当地时间 11 月 30 日发布 ChatGPT，在短短几天内用户突破100 万人。ChatGPT 能够：1）根据数个关键词或问题生成几百字的应用文书、趣味性文章、科普回答；2）与用户进行连贯的多轮问答；3）根据用户要求，自动生成代码，根据用户后续要求修改代码。虽然生成内容的质量还存在一定波动，并且推理能力较弱，但我们认为, ChatGPT 已经展现了大幅超越过去 AI 问答系统（例如同属 OpenAI，基于 GPT-3 的问答系统）的能力，未来随着性能的进一步提升，对话式 AI 在搜索、结合其他 AIGC 工具生成元宇宙内容等领域有很大的应用空间。 ChatGPT 的成功，显示预训练大模型的广阔应用前景 2016 年 AlphaGo 在围棋比赛中击败李世石以来，深度学习等 AI 技术快速发展。深度学习中的预训练大模型是重要方向。以文本模型为例，2018 年的 GPT 模型参数量 1.1 亿，2019 年的 GPT-2 参数量 15 亿，2020 年的 GPT-3参数量攀升至 1750 亿，引领大模型进入千亿参数时代。大模型逐渐成为全球科技巨头竞争的焦点。同时，大模型从早期的纯文本模型，发展到横跨图、文、音、代码等的多模态、跨模态模型。今年以来，图像模型 DALL-E2，Stable Diffusion 在 AI 绘画领域取得成功。未来，大模型在各行业的应用落地还有望引发应用创新浪潮迭起。 大模型研发逐渐成为资本和数据密集的业态，是中美科技巨头竞争的焦点 据 Alchemy API、Lambda Labs 估计，不计前期训练成本，GPT-3 最终训练成本约 460-1200 万美元。Eleuther AI（致力于开源大模型的组织）在 22年推出的 200亿参数 GPT-NeoX-20B中使用 96块 A100 芯片训练了三个月，据 The Next Platfrom 估计，最终一次训练成本大约 53-66 万美元。大模型研发逐渐成为资本和数据密集的业态。美国目前主要大模型包括 OpenAI 的GPT-3、英伟达与微软的 Megatron Turing-NLG、Meta 的 OPT 等。中国主要大模型包括百度文心 Ernie、华为盘古、商汤视觉模型等。今年 8 月以来，美国限制对华出口 A100 等高端 GPU，或影响中国大模型发展速度。 风险提示：AI 及技术落地不及预期；本研报中涉及到未上市公司或未覆盖个股内容，均系对其客观公开信息的整理，并不代表本研究团队对该公司、该股票的推荐或覆盖。 (42)(32)(21)(11)0Dec-21Apr-22Aug-22Dec-22(%)电子沪深300仅供内部参考，请勿外传 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 2 电子 ChatGPT：OpenAI 最新对话式语言模型，展现出多场景强大实力 ChatGPT 在 GPT-3.5 系列模型（2022 年初完成训练）上微调而成。GPT-3.5 基于 4Q21前已有的文本和代码训练，至今并未发布，本次 ChatGPT 面世揭晓了其存在。ChatGPT采用 Web 浏览器上的对话形式交互，能够回答后续问题、承认错误、质疑不正确的前提和拒绝不适当的请求。ChatGPT 一经发布，12 月 5 日用户数量超过 100 万。ChatGPT 已经在文书写作、方案设计、剧本撰写、代码生成与修改、生成 AIGC 提示词等领域展现出强大的能力。 图表1： ChatGPT 根据关键词进行科普回答并生成代码 资料来源：ChatGPT，华泰研究 仅供内部参考，请勿外传 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 3 电子 图表2： ChatGPT 根据数个关键词或问题生成几百字的应用文书、趣味性文章、科普回答 资料来源：ChatGPT，华泰研究 ChatGPT 与 OpenAI 前代对话式语言模型——2022 年 1 月发布的基于 GPT-3 的InstructGPT 都采用了基于人类反馈的强化学习（RLHF），以实现有害和不真实输出的减少。ChatGPT 实现的效果更加优化，例如输入“哥伦布 2015 年来到美国”，InstructGPT 信以为真，而 ChatGPT 则判断出哥伦布不可能在 2015 年来到美国。 图表3： ChatGPT 能分辨出哥伦布无法在 2015 年到达美国，而 OpenAI 前代对话式语言模型 InstructGPT 则无法分辨 资料来源：OpenAI，华泰研究 仅供内部参考，请勿外传 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 4 电子 图表4： ChatGPT 在血腥、暴力等有害信息过滤方面相比 InstructGPT 进步明显 资料来源：OpenAI，华泰研究 在编程方面，目前应用最广泛的 AI 编程工具是 Copilot（基于 OpenAI Codex 模型），根据用户输入的部分代码实现代码补全。ChatGPT 则可以根据用户输入的需求来输出整段代码、修复代码、解释代码，可以理解为更便捷精准的技术问答网站 Stack Overflow。 信息时效性与准确性短板仍存，有害信息屏蔽仍需加强。ChatGPT 基于 4Q21 前的数据训练，根据《麻省科技评论》的报道，OpenAI 未来可能会使