工业大模型技术应用与发展报告1.0-工业互联网产业联盟

工业大模型技术应用与发展报告1.02023.12编写单位（排名不分先后）牵头编写单位：中国信息通信研究院参与编写单位：中科云谷科技有限公司浪潮集团有限公司中科视语科技有限公司苏州海赛人工智能有限公司北京通用AI研究院树根互联股份有限公司华为技术有限公司IBM（国际商业机器（中国）有限公司）美云智数科技有限公司中科斯欧(合肥)科技股份有限公司百度在线网络技术（北京）有限公司羚羊工业互联网股份有限公司创新奇智科技集团股份有限公司智昌科技集团股份有限公司中国科学院自动化研究所中工互联北京科技集团有限公司西门子股份公司航天云网科技发展有限责任公司威派格智慧水务股份有限公司卡奥斯COSMOPlat阿里云计算有限公司腾讯计算机系统有限公司人工智能的几个相关概念人工智能 机器学习深度学习通用人工智能（AGI）生成式AI：能够生成文本、图片、视频等内容的智能技术，大模型为其提供了新的技术手段早期GAN用于内容生成效果有限，如NLP逐词生成大模型拓展了生成能力，如实现多领域多风格图像/文本生成通用人工智能：AI终极发展目标，具备认知、理解、推理、学习、创造和社会协作等能力大模型具备学习、生成等能力，但还缺少完备的推理、认知能力大模型：即基础模型，在海量数据和计算资源的基础上通过预先训练出来的，具有大参数规模的深度学习模型狭义多指大语言模型，广义还包括CV、多模态等各种模型类型技术场景模型结构目标使命大规模预训练模型生成式AI（AIGC）GPTGPT：生成式预训练模型，大模型的一种类型，可生成内容ChatGPT是GPT的一个典型产品细分模型1.1 大模型成为通用AI新范式，引发工业应用变革讨论干亿参数基础模型GPT-1 : 1.17亿GPT-2:15亿GPT-3:1750亿GPT=4：1.48万亿......TB级数据超3000亿单词830GB代码数据1000个外包团队标注E级智能超算总算力超195PFlops我国最快超算“神威·太湖之光”1.7倍AI产品渗透速度全球排名第2引发产业领域应用的热烈讨论与憧憬大模型+大数据+大算力成为发展主旋律 (ChatGPT)热门应用用户破亿所需时间TikTok ChatGPT微信App Store短视频社交即时通讯应用程序商店2年1.2年9个月2个月Threads5天 产业应用场景成为大模型最佳“练兵场”——科技日报 AI大模型落地背后，正带来一场智能制造的系统重构——百度 工业大模型将会带来一场新的工业革命，它将来会成为工业领域的基础设施——中工互联 制造业是AI大模型的重要战场，未来10年最大的机会——阿里…1.2 工业大模型与专用小模型成为工业AI发展的两条协同路径 Transformer为基础框架 在大量通用数据上进行预先训练，以实现良好的通用性 模型参数一般达十亿以上（最大模型参数已达万亿级）1满足大模型技术基本特征2具备在工业各环节进行应用的能力，或与工业装备软件等融合赋能工业大模型=工业+大模型工业大模型Transformer结构工业专用小模型传统模型结构 模型更新快：参数量少，可进行快速迭代 轻量化部署：所需存储空间和算力更小 新场景：代码生成、CAD生成等新应用… 泛化性强：单模型应对多任务，更适合长尾落地 低成本运维：低成本开发+维护应用层面工程层面 特定任务：点状场景应用效果更好1.3 大模型初步形成赋能工业的核心方式与产品形态3类主要赋能方式当前(可用于)工业领域大模型超30个4类模型产品形态基于通用底座直接赋能行业ChatGPTYonGPT制造、矿山等行业大模型航天、能源等行业大模型式说大模型星火大模型3D打印GPTPLC编程基于通用底座进行场景化适配调优或形成外挂插件工具……大模型API调用或软件方案成熟工业产品叠加基础模型能力外挂插件工具用于私有化部署的一体机•工业管理软件企业Authentise推出插件，用户可查询最大的增材制造知识库•浙大开发用于表格处理的TableGPT•倍福将大模型融入 TwinCAT XAE客户端，实现基于对话辅助编程•基于ChatGPT直接开展智能客服等应用•科大讯飞推出星火一体机Einstein GPT面向工业或具体任务针对性开发科学大模型ESMFoldUni-MolAlphaFold2…2.1 大模型赋能工业领域的适用边界与核心能力 语言理解 生成创作 识别/模拟/预测 多模态核心能力工业领域应用变革规则式生成 → 工业代码/图文内容的”涌现式”生成局部建模预测 → 基于全局信息高效高精度预测优化预置型对话 → 与设备/工业系统的自然交互与推理适用问题：大模型并非万金油 大场景 大语料 工业场景具备一定通用性 涉及关联复杂的智能任务 数据边界对决策效果有直接影响 工业场景的基础数据/语料/规则约束充足 结果存在于封闭信息环境，不依赖语料外的信息单一格式工业数据处理 → 多格式数据综合转换分析 问题边界清晰2.2 应用总体视图：4类核心模型、15+应用场景，目前处于初步探索阶段 工业各环节围绕语言、专用、多模态和视觉四类大模型开展探索 当前以大语言模型为主，4类模型应用占比：75%、15%、8%和2% 通用模型的场景化适配调优是主要部署方式，问答交互为主要应用模式最具变革潜力率先切入率先切入*信通院统计的全球79个大模型工业应用案例部署方式应用模式75%8%15%2%语言大模型视觉大模型多模态大模型专用大模型2.2 （1）大语言模型：主要应用于工业问答交互、内容生成，以提升任务处理效率为主，暂未触及工业核心环节工业代码西门子：与微软合作，基于GPT开发代码生成工具，可通过NLP输入生成PLC代码C3：通过自然语言对话，以文字+统计图完成业务指标的分析和洞察BACANCY：基于RPA+GPT实现自动邮件回复等功能有望形成具有认知智能的数字员工及超级自动化链路，实现从需求理解到规划、自动化执行及结果交付的全链条能力工业代码生成：基于输入文本实现PLC代码生成与辅助编程研发生产设备设备控制与维保助手：从基于对话实现设备指令识别与维保知识获取工业相关性高低管理通用文档生成：基于输入文本实现设计方案、报告与邮件编写工业文档外挂与快速检索：实现设备诊断、知识查询、员工培训、设计合规检查工业管理助手：实现BI数据查询与图表绘制内容生成问答交互问答交互: 应用相对广泛，行业与设备的(半)开放数据是主要语料内容生成：已能实现通用内容和PLC基本控制逻辑代码的生成通用内容管理助手检索助手中工互联：基于智工大模型实现跨行业、跨领域和跨岗位工业专用知识检索罗克韦尔：将数字孪生与AIGC相结合，实现设备状态以及设备故障原因咨询运维助手8%68%24%3%74%2%21%2.2 （2）专业任务大模型： 围绕研发形成辅助设计、药物研发两个重点方向，进一步增强研发模式的创新能力DeepMind：基于图像或文本进行2D-CAD草图构建，受样本数量+生成规范的限制，仅个别企业开展验证性探索需求导向的辅助设计药物/材料研发突破研发设备、生产、管理智能辅助设计：自动生成大量符合需求的设计，并与既有零组件及加工能力结合优化高效研发：整合基因库/结构库，加速材料发现、药物分子结构发现、性能