人工智能助力量化投资_ChatGLM介绍

证 券 研 究 报 告 证监会审核华创证券投资咨询业务资格批文号：证监许可（2009）1210 号 未经许可，禁止转载 金融工程 专题报告 2023 年 06 月 14 日 【专题报告】 人工智能助力量化投资——ChatGLM 介绍  大语言模型在量化投资中的机遇与挑战 自 OpenAI 发布 ChatGPT 后，大语言模型(LLM)受到了广泛的关注。它在文本处理上发挥的强大性能使我们看到了 LLM 辅助量化研究的潜力。然而，使用基于 API 的大语言模型服务仍然存在诸多限制，例如模型响应时间长、成本高、数据隐私等问题。而开源模型为我们提供解决了上述问题的可能性，本篇我们介绍了 ChatGLM 开源大语言模型，它使用中英双语语料进行训练，能够在本地的消费级显卡上进行部署并实现中文问答和对话功能。  开源模型的应用展望 本文介绍的 ChatGLM 的开源版本拥有 62 亿参数，参数规模远远少于基于 API的 LLM 服务，那么它的能力是否足够？我们采用两个公开数据集对 ChatGLM和 ChatGPT 进行了对比实验测试，结果发现： 1、相比于 ChatGPT，ChatGLM 在高阶推理能力上表现较弱，无法理解较为复杂的逻辑类问题，ChatGLM 的知识储备远小于 ChatGPT； 2、在较为简单的文本总结任务中，ChatGLM 和 ChatGPT 的差异缩小，部分文本总结测试中二者的回答质量没有显著差异； 基于我们的测试结果，我们认为将 ChatGLM 运用于辅助量化文本分析，62 亿的参数规模使它无法满足高阶推理类、逻辑类的运用，但对于相对简单、传统的文本处理问题，例如文本总结、文本分类、信息抽取等问题上，ChatGLM发挥出了不错的性价比。此外，开源模型的另一大优势是可以通过本地数据微调以丰富模型知识，加强模型解决特定领域能力。最后，我们看到了 LLM 开源社区正在蓬勃发展，随着未来更多优秀开源项目的出现，利用开源模型进行量化研究辅助的可能性和前景将得到进一步拓宽。  风险提示 本文中所有大语言模型的问答均为采用公开数据作为测试案例，仅对模型进行测试，不保证问答的准确性，不构成任何投资建议。  证券分析师：秦玄晋 电话：021-20572522 邮箱：qinxuanjin@hcyjs.com 执业编号：S0360522080005 证券分析师：王小川 电话：021-20572528 邮箱：wangxiaochuan@hcyjs.com 执业编号：S0360517100001 相关研究报告 《K 线形态学研究系列之三：十字孕线》 2023-06-08 《基于排序学习的行业轮动模型》 2023-05-25 《华创金工形态学研究之二：如何利用形态信号进行市场择时》 2023-05-12 《华创金工事件研究系列——2023 年 6 月指数样本股调整预测》 2023-05-04 《2023 年一季报公募基金十大重仓股持仓分析》 2023-04-24 华创证券研究所 专题报告 证监会审核华创证券投资咨询业务资格批文号：证监许可（2009）1210 号 2 投资主题 报告亮点 现有的关于大语言模型在量化领域的探讨大多以 ChatGPT 为例，ChatGPT 虽然性能强大，但在实际量化策略开发中，使用 OpenAI 提供的 ChatGPT API接口处理大量的数据昂贵且耗时，目前大语言模型开源社区的活跃让我们看了新的选项，我们关注开源模型的能力以及它们能在多大程度上解决问题，探讨开源大语言模型是否能丰富文本类数据的处理工具箱。 投资逻辑 近两年来市场风格轮动较大，传统的基于基本面因子与简单量价因子的量化模型相较以往年份较难取得明显的超额收益。此系列报告结合时代大环境从人工智能辅助投资的大方向来进行量化尝试，希望对原有的传统模型起到提升作用。 nMmPqQsOnNrPqRnRwOoQsN7N9R9PnPnNpNoNjMqQtNlOmNrM6MpOsNNZqQwPNZtPsP 专题报告 证监会审核华创证券投资咨询业务资格批文号：证监许可（2009）1210 号 3 目 录 一、大语言模型简介 ................................................................................................................. 5 （一）大语言模型的原理 ................................................................................................. 6 （二）ChatGLM 的特点 .................................................................................................... 8 二、模型能力测试 ................................................................................................................... 10 （一）推理逻辑能力测试 ............................................................................................... 10 （二）总结能力测试 ....................................................................................................... 13 三、总结 ................................................................................................................................... 14 四、风险提示 ........................................................................................................................... 14 五、参考文献 ........................................................................................................................... 15 专题报告 证监会审核华创证券投资咨询业务资格批文号：证监许可（2009）1210 号 4 图表目录 图表 1 中文开源 LLM 项目 ....................................