金融工程研究：如何部署本地版“ChatGPT”提高研究效率

本报告由中信建投证券股份有限公司在中华人民共和国（仅为本报告目的，不包括香港、澳门、台湾）提供。在遵守适用的法律法规情况下，本报告亦可能由中信建投（国际）证券有限公司在香港提供。同时请参阅最后一页的重要声明。 证券研究报告·金融工程动态 如何部署本地版“ChatGPT”提高研究效率 核心观点 正基于网页交互模式的 ChatGPT 对于人类的生活以及工作方式带来的极大的便利，然而这只是 ChatGPT 的冰山一角。API 以及插件系统的开放，使得 ChatGPT 能够结合各种程序以及软件，让 ChatGPT 的应用空间充满无尽的可能性，这是真正意义上 AI 的 iphone 时刻。 对于金融工程研究而言，除了日常的网页版交互完成一定的指令之外，通过 API 接口能够使研究工作效率极大提高。同时，随着各类技术的应用，本地化部署开源大语言模型框架也得以实现。 本文将介绍如何使用 OPENAI 的 API 接口以及如何本地部署开源大预言模型 Vicuna，能够在程序中调用各类模型，提高研究工作效率 主要结论 简介 基于网页交互模式的 ChatGPT 对于人类的生活以及工作方式带来的极大的便利，然而这只是 ChatGPT 的冰山一角。API 以及插件系统的开放，使得 ChatGPT 能够结合各种程序以及软件，让ChatGPT 的应用空间充满无尽的可能性，这是真正意义上 AI 的iphone 时刻。 对于金融工程研究而言，除了日常的网页版交互完成一定的指令之外，通过 API 接口能够使研究工作效率极大提高。同时，随着各类技术的应用，本地化部署开源大语言模型框架也得以实现。 官方 API 接口 OPENAI 官方开放了 API 接口，可以使用 HTTP 请求，也可以使用 OPENAI 提供的 python 库，Node.js 库以及一些社区维护的库。我们以 python 库为例，介绍如何使用 OPENAI 的 API 接口。 本地部署 VICUNA 本文以 Vicuna 模型为例，介绍如何在个人电脑上部署模型。Vicuna 模型是基于 LLaMA 的微调模型，是由加州大学伯克利分校、CMU、斯坦福大学和加州大学圣地亚哥分校的成员共同提出的。他们从 shareGPT 收集了大约 7 万个对话，借鉴 Alpaca 的微调方式，将 LLaMA 模型进行微调。最终实现了 chatGPT 大约 90%的质量，但是训练成本仅 300 美元左右 金融工程研究 丁鲁明 dingluming@csc.com.cn 021-68821623 SAC 编号:s1440515020001 王超 wangchaodcq@csc.com.cn SAC 编号:S1440522120002 发布日期： 2023 年 04 月 17 日 市场表现 相关研究报告 -11%-6%-1%4%9%2022/4/142022/5/142022/6/142022/7/142022/8/142022/9/142022/10/142022/11/142022/12/142023/1/142023/2/142023/3/14国债指数上证指数 金融工程研究 金融工程动态报告 请参阅最后一页的重要声明 目录 一、简介 ............................................................................................................................................................................ 1 二、官方 API 接口 ............................................................................................................................................................ 1 2.1 准备工作 ............................................................................................................................................................. 1 2.2 请求 ..................................................................................................................................................................... 2 2.3 任务类型 ............................................................................................................................................................. 3 2.4 辅助工作 ............................................................................................................................................................. 5 三、本地部署 Vicuna ...................................................................................................................................................... 10 3.1 准备工作 ........................................................................................................................................................... 11 3.2 模型运行 ........................................................................................................................................................... 12 3.3 模型微调 ...........................................................................