企业软件与AI原生应用

企业软件与AI原生应用黄斌 畅捷通信息技术股份有限公司演讲嘉宾黄斌用友（畅捷通）基础技术研发总监，技术委员会技术架构负责人十五年以上软件及互联网技术产品从业经验，曾在360、美团等大厂参与AI平台、搜索等智能工程架构工作，在企业级软件开发、微服务治理、搜索工程、AI平台等领域有丰富的经验。4目 录CONTENTS1.应用形态的变革趋势2.知识问答-RAG实践3.Agent开发平台搭建4.Agent应用开发实践5.企业软件的新方向应用形态的变革趋势PART 01应用形态的演进基本功能C/汇编/神秘WPSDOS图形界面GUI设计与开发QQWindows浏览器跨平台用户体验、在线淘宝Web随时随地触屏体验抖音移动互联网智能化自然交互ChatGPTAI原生应用7传统 - 预设/标准01产品设计好的固定界面，预设能力和交互，标准化强。设定的UI/UE02通过代码/流程配置能力提供出复杂的业务服务。设定的代码/配置8创新 - AI成为企业生产力的一部分01以更人类更自然的方向进行多模态交互。交互 - 开放的Chat体验02通过Agent的规划Tools能力升级流程，并且满足长尾、更加个性化的业务需求。流程 - Agent编排9创新 - 从面向流程到面向目标10大语言模型落地的几个阶段通过提示词工程获取想要的结果。LLM基础模型引入检索增强机制，为LLM外挂专业知识与私域知识。RAG检索增强构建智能体，基于用户目标分解并规划任务执行。Agent智能体构建多智能体系统，协同工作，处理复杂任务，解放生产力。Multi Agent探索落地11系统架构12知识问答 - RAG实践PART 02小畅助手 - 产品更易用 客服更智能产品生态客户聊天群 - 辅助客服侧边栏应用14小畅助手消息转发与调度中心（主动推送+被动触发）扮演角色角色需求应用对接接入位置企微客户-智能ai服务客户专属群，提高企微客户回复效率主动&被动发送企微客服-客服助手客服背后的智囊团小畅ai助手-产品助手与客户互动，为客户答疑解惑，协助工作消息发送模板知识问答& 产品API转人工能力企微社群企微侧边栏（碎片化对接）产品内（标准对接）消息发送模板接口API功能查询前端配置（碎片化）消息发送模板知识库&API转人工能力前端配置知识问答任务执行数据查询通用需求场景需求客户情况近期高频问题自动推送消息拉取群中文件同步至系统与系统已有能力协作：如打开菜单售前售后生态ISV服务中台工单信息...订单情况生态消息订单数据...客户数据查询税表信息产品能力基础语料库消息调度管理帮助文档类图片类视频类语音类文本类Function Tool机器人管理什么场景什么人发出什么内容效果如何选择推送位置用户标签+聊天内容话术+交互卡片数据看板机器人配置机器人管理安全护栏知识库同步知识库Sug提示词工程应用编排Agent日志标注语料库管理畅捷智融......语料采集语料生成语料审核数据看板风险合规管理AI应用平台OpenAPI异常维护知识问答任务执行15Balance - 开放与封闭VS.LLM输出有幻觉 & 期望输出可控16整体流程设计01 提问前引导用户：热门问题、猜你想问……02 输入中提高效率，优化匹配：语音输入、输入联想、相关问题推荐……03 解答中提升准确率、优化体验：召回优化、流式输出、近似直出、相关问题引导……04 解答后收集反馈：收集用户满意度，持续优化体验；抽检评测17RAG整体方案 - 索引 + 生成索引阶段- 分块策略- 语料自动整理与生成- 语料评级- 结构化索引生成阶段- 情绪判断快速转人工- 精确匹配快速响应- Query改写提升Query质量- 多路召回优化语料召回质量- 审核角色提升体验- ……18实际落地 - AI应用流程编排19评估方法20Agent开发平台搭建PART 03Agent的核心逻辑“以大语言模型为大脑驱动，具有自主理解感知、规划、记忆和使用工具的能力，能自动化执行完成复杂任务的系统。”22Tools + Action - 技能的声明与实现知识：RAG技能：API - 后端API - 前端应用/工作流23技能声明事实规约 - OpenAI030201函数名称入参声明函数描述https://json-schema.org/understanding-json-schema24后端API - OpenAPI规范简介OpenAPI3.0是RESTful API的规范标准，用于定义API的结构、接口、参数等。接口描述使用YAML或JSON格式描述API，包括路径、方法、请求体、响应等。入参说明详细定义接口入参的类型、格式、是否必填等，确保接口调用的准确性。响应格式定义接口响应的状态码、响应体结构、数据类型等，便于客户端理解和处理。25后端API - 实现方法1、声明OpenAPI转化为函数声明三元素2、实现Python Requests - 个性化生成OpenAPIRequester - 通用函数26前端API - 实现方法27RAG & 应用/工作流三元素RAG知识库或应用名称生成方法命名知识库：声明主要包含的内容应用：声明解决的问题是什么方法说明知识库：Query String应用：Query, History, 其他参数说明28Agent节点支持能力Prompt词：为Agent补充角色、任务、上下文限制等。工具集：1、动作：选择要启用的后端OpenAPI接口2、知识库：选择要启用的知识库（支持多路召回）3、插件：选择要启用的其他应用4、前端函数：不在界面上体现，可以通过SDK对接此AI应用时自动注册29Agent应用开发实践PART 04Agent起航 - POC展示31Agent起航 - POC说明商品库存订单……后端API前端API绘图交互……Prompt词角色定义以及业务规则、背景指导32新的选择 - 研发助手慢GPT4响应快内部工具开发33研发助手 - 痛点问题测试环境报错了，一脸懵？01平台有没有提供这个功能组件，我要不要重新造轮子？02这个组件功能要怎么用？有说明文档吗？谁能帮帮我？03团队最近有没有快过期的重要任务？不能一个个问吧？04周五啦，要交周报了，事也忘差不多了，整理起来好麻烦？05………………0634开发环境诊断 - 思路与工具定位请求异常，分析请求参数和响应结果，识别错误类型和原因。查请求日志执行系统健康检查，检查服务状态、资源使用情况等，确认系统是否正常运行。健康检查查看应用启动日志，分析启动过程中的错误和警告信息，定位启动失败的原因。分析启动日志后端API后端API后端API35文档知识 - 思路与工具通过Wiki内容快速了解各组件的使用说明，以及负责人、分工等情况。查知识RAG知识库36周报助手 - 思路与工具本周新增、推进的任务、截止本周尚未完成的任务等。查JIRA代码仓库及对应提交、提交日志、代码评审记录等。查Git会议、评审、面试等安排。查日程后端API后端API后端API37应用编排方案一 - 单Agent38应用编排方案二 - 多Agent39应用发布 - 体验Agent的能量40内部提效实例 - Code Review小助手41企业软件的新方向PART 05语音开单 - 流程