AI应用（AI Agent）开发新范式

AI 应用（AI Agent）开发新范式计缘阿里云智能云原生应用平台01 AI 应用概述从“工具”到“智能伙伴”的进化被动的命令处理工具智能伙伴AI Agent + LLM的双引擎模式AI 应用 ：AI Agent + LLM 双引擎LLM扮演着认知核心，也就是“大脑”的角色。它负责处理所有与“思考”相关的任务： 理解意图： 当用户用自然语言提出复杂需求时，LLM负责精准地理解其背后的真实意图。 规划任务： 它能将一个模糊的目标（如“分析销售数据”）分解成一系列清晰、有序的步骤。规划 & 指令回馈&自省AI Agent（执行者）LLM工具AI Agent赋予了LLM“手和脚”，让“思考”得以转化为“行动”。如果说LLM负责“思考做什么”，那么AI Agent则负责“如何去完成”： 工具调用： 这是AI Agent最关键的能力。它可以根据LLM的规划，去调用各种外部工具来执行任务，例如查询数据库、调用公司内部系统的API、访问互联网、读写文件等。 任务执行与编排： Agent负责管理整个任务流程，确保LLM规划的步骤被逐一、准确地执行。 与环境交互： 它能将执行结果（如数据库查询返回的数据）反馈给LLM，供其进行下一步的思考和决策，形成一个“思考-行动-观察-再思考”的闭环。企业能力的核心 - MCP服务企业AI AgentMCP 服务HR系统财务系统CRM系统客服系统ERP系统MCP的出现，很好的解决了构建AI Agent技能系统的痛点问题： 规范化了多者的协同关系：MCP协议规范约束了用户、AI Agent、LLM、后端服务四者之间的系统关系。 AI Agent和后端服务快速对接：无需后端服务改造，也无需AI Agent改造，无需了解和解析后端服务接口的返回格式。MCP服务是企业AI应用的基石。它将企业零散的IT资产和服务，转化为AI可以理解和调用的标准化能力，从而为上层的AI Agent源源不断地输送技能。构建AI应用的两种路径：全新开发 vs. 存量改造Brand New DevelopmentExisting Business TransformationCRMERPOASaaS这指的是从零开始，为一个全新的业务场景或颠覆性的产品构想，原生设计和开发AI应用。这种模式不受历史技术债务的束缚，可以采用最先进的架构，最大化地发挥AI Agent的能力，是实现颠覆式创新的最佳路径。例如，打造一个面向金融行业的AI研究分析师，或者开发一个企业内部的“超级知识入口”。全新开发：开创业务新大陆这是绝大多数企业会选择的路径。它指的是在企业现有的、成熟的核心业务系统（如ERP、CRM、SCM）中，嵌入AI Agent的能力，对其进行“智能化升级”。这种方式能直接作用于核心业务流程，价值释放路径更短、更明确。改造现有业务：为核心引擎注入AI动力AI 应用的核心是 AI AgentAI 应用基础架构AI Agent 平台MCP ServerAgentPrompt TemplateModelPlatform-Level AgentsUniversal AgentsMulti-AgentsSiloed,Single-PurposeAgentsLevel Of IntelligenceSmarter models using more tools to accomplish higher value tasksUsefulnessInstructionsPlanning /Reasoning大脑PromptResponse执行官技能池AgentAgentMCP ServerMCP ServerLLMLLM多模态模型多模态模型AI 观测AI 应用架构新范式Model代理/MCP服务代理端 & 生态AI AgentWorkFlow / AI Framework / Prompt / EvaluationAI ProxyToken限流Cache / RAGTools/MCP ServerAgent代理Agent API 管理流量防护认证鉴权策略/插件绿网/敏感信息过滤工具集移动端Web端智能终端车机终端其他生态终端MCP ServerOpen Telemetry 可观测标准协议AI 应用观测 & 评估体系LLM ObservabilityMCP Registry & Prompt 安全管理MSE NacosAI网关AI网关事件驱动定时 / MQ / SLS / CDN / DTS / OSS …AIStudioAI Agent Self Runtime on 函数计算AI Agent Sandbox on 函数计算AI 应用架构新范式刨析调用链路说明①用户向AI应用发起请求，请求流量进入AI网关，使用Agent API代理AI Agent。② AI网关侧维护管理了不同类型的AI Agent的API或路由规则，将用户请求转发至对应的AI Agent。③ AI Agent无论以哪种方式实现，只要它需要使用工具解决用户的问题，便向AI网关管理的MCP服务请求获取可用的MCP服务及工具的信息。④因为AI网关处可能维护了很多MCP信息，可以借助LLM缩小MCP范围，减少Token消耗，所以可以通过AI网关代理的小参数LLM，做意图识别，进一步缩小MCP服务范围。（可选，需用户自己实现）⑤ AI网关将确定好范围的MCP服务及工具的信息List返回给AI Agent。⑥ AI Agent将用户的请求信息及从AI网关拿到的所有MCP信息再通过AI网关发送给LLM。⑦经过LLM推理后，返回解决问题的一个或多个MCP服务和工具的信息。⑧ AI Agent拿到确定的MCP服务和工具的信息后通过AI网关对该MCP工具做请求。实际生产中 ③ - ⑧ 步会多次循环交互 一个AI网关三种角色，具备统一的管控底座，同时又实现各角色的协同调度。 MSE Nacos 发挥注册中心优势，增加MCP Registry能力，实现普通服务和MCP服务的统一管理，结合网关实现现存业务0改造转换为MCP服务。 AIStudio为阿里云自研的低代码构建AI Agent的产品，解决开源Dify高可用，稳定性，性能问题，使AI Agent的运行引擎更稳定。 FC具备丰富的触发器和各语言运行环境，基于Serverless计算自身的特性，完美适配AI Agent自身运行环境和AI Agent Sandbox的基础组件。02 AI Agent 概述什么是 AI AgentAI Agent大语言模型（LLM）推理通过工具执行行动MCP服务作为技能池像人一样的思考机制执行思考（Think） -> 执行（Action）-> 自省（Observe） -> 纠错一个AI Agent其实是一个系统，包括以下三个核心内容： 使用大语言模型（LLM）来推理 可以通过工具执行各类行动。 执行思考（Think） -> 执行（Action）-> 自省（Observe） -> 纠错（既重复思考到自省的持续改进）这样一个循环。AI Agent和Chatbot的最大区别是前者可以解决需要通过不同领域的知识和能力协同才可以解决的问题，通俗的说就是复合的、复杂的、多步