管理AFC代理：模型治理与验证如何演变以适应具有自主行动能力的AI在金融犯罪合规领域的应用

模型治理与验证如何演变以适应具有自主行动能力的AI在金融犯罪合规领域的应用管理AFC代理© Oliver Wyman2 摘要无论是内部开发还是向第三方采购，每个物料代理人都应连接到企业代理保证层，该层允许机构进行配置、测试、观察、挑战、约束和停止系统，并保留用于监管的证据。金融机构正开始在反金融犯罪（AFC）系统中部署具有自主性的AI，而监管环境仍在不断演变。 现有的关于模型风险管理（MRM）的监管指南、如欧盟AI法案等新兴的横向AI治理框架以及行业在金融犯罪中应用AI的原则，都提供了重要的治理原则。然而，这些都没有为具有自主性的AFC系统提供一个完整的框架，后者的自主规划、工具使用、动态工作流程和授权决策带来了独特的治理问题。全文中，我们以美国货币监理署（OCC）跨机构模型风险管理指南为例，因其提供了一个为许多合规和模型风险团队所熟悉的治理生命周期，阐述了现有治理原则如何扩展应用于自主式自动柜员机（AFC）系统。由此产生的建议旨在本身作为一个治理框架，适用于自主式自动柜员机系统，并可适用于不同的监管和监管体系。核心论点是，有效的监督必须从管理独立模型转向管理更广泛的代理系统。 该系统的固有物质性由业务用例决定，但其残余风险以及其所需的相应治理和控制可以通过围绕自主性、工具权限、工作流约束和运行时安全措施进行的工程选择来塑造。采用这种更广泛的治理视角的机构将能更好地部署安全、有效且符合不断变化的监管预期的代理式人工智能。本文提出了一种适用于机构当前应用的自主金融科技公司（AFC）系统的实用治理框架。 该框架并非取代现有指导方针——包括跨机构模型风险管理指导、沃尔夫斯贝格人工智能原则以及金融行动特别工作组（FATF）关于人工智能的工作——而是确定了在现有监管指导方针中仍然适用的治理原则，并引入了管理在AFC环境中运行的自主系统所需的额外控制措施。 4 19 36摘要210. 从框架到制度实践 3511. 结论4. 代理风险与基于风险的实质性框架 112. 定义代理式AFC系统 77. 治理、控制与权限 265. 代理开发与系统使用 163. 将现有治理原则应用于能动型AFC 9内容在专门的指导方针出台前，为AFC管理代理式人工智能6. 代理验证与监控8. 供应商和第三方代理解决方案：无责任转移的保障 289. 示例：一名反洗钱调查代理人员© Oliver Wyman4 这创造了一个实际的治理挑战。 机构必须运用并监督一种全新的技术，而所使用的监管框架是为上一代分析和人工智能系统开发的。在网络安全、数据治理、身份与访问管理、隐私和运营风险等领域现有的框架解决了这一挑战的重要部分；然而，它们通常不提供针对端到端智能体系统的集成治理模型，包括其自主规划、工具使用、动态工作流程、授权委托以及与人类决策者的交互。在专门的治理框架出现之前，机构需要一种实用的方法，将当今的监管原则应用于智能体人工智能，并加以扩展。2020年反洗钱法（AMLA），该法案要求银行特定反洗钱报告“极具价值”，并确立了国家反洗钱/反恐怖融资优先事项； 后续的FinCEN及跨机构材料进一步强化了以结果和有效性为导向的方法。现有的模型风险指引为持续有效的治理原则和当前框架的界限提供了有用的说明。 2026年4月更新的美国跨机构模型风险管理监管指南，废止并取代了长期有效的2011年指引（SR 11-7/OCC 2011-12）以及2021年关于BSA/AML系统的跨机构声明。反金融犯罪计划正进入一个注重实效的时代。 美国的方向——反洗钱法案强调对政府“高度有用”的信息、转向结果导向的审查，以及监管姿态从重流程、对框框进行核查转向——正推动机构走向基于风险、以结果而非活动来衡量成效的计划。在此背景下，金融机构正采用自主型人工智能用于调查及其他合规活动中，以加强其反金融犯罪风险管理并提升其计划质量，且通常早于任何关于如何治理这些系统的正式指导。这样做要求机构将问责、验证、监督和控制等既定原则转化为适用于能够规划、使用工具和行使授权的系统所需的形态。在专门的指导方针出台前，为AFC管理代理式人工智能© Oliver Wyman5 代理机构（AFC）引入的基本治理挑战在于，对其核心中基础模型的训练过程缺乏影响力，也缺乏透明度。 因此，治理必须围绕一个不透明的核心构建，利用机构能够直接管理的要素：代理机构的授权和操作指令、其数据及工具的访问权限、其被允许采取的行动、需要人类批准的环节，以及用于审查和重建其活动的记录。本文以此为基础展开。 它并非取代现有的监管指南，而是识别出在当今框架下仍然适用的治理原则，并引入了管理实际运行中的代理式自动交易系统所需的额外控制措施。2 沃尔夫斯贝格集团，《在反洗钱合规中使用人工智能和机器学习的原则》（2022年12月）。 其五项要素为：合法目的；合理使用；设计和专业技术；问责与监督；以及公开与透明。3 金融行动特别工作组，《前瞻性扫描：人工智能与深度伪造》（2025年12月22日）——通过反洗钱/反恐怖融资/反制洗钱与恐怖融资的视角，对与人工智能相关的风险和趋势进行的前瞻性评估，包括生成式人工智能和代理式人工智能。生成式人工智能和代理式人工智能模型是新颖且快速发展的。因此，它们不属于本指南的适用范围。尽管如此，银行机构的风险管理和治理实践应指导确定本文件未涵盖的任何工具、流程或系统的适当治理和控制措施。与此同时，它明确界定了自身的边界。 它将“模型”定义为一种复杂的定量方法，该方法应用统计、经济或金融理论来产生定量估计，并随后明确指出生成式和具身式人工智能不在其范围内——同时明确说明，这并非豁免控制：机构可以借鉴既有的监管、风险管理及行业原则，但必须将这些原则转化为适用于更广泛能动性系统的治理方法。 由于美国合规和模型风险团队最熟悉的是OCC跨机构模型风险指导提供的治理框架，我们将其作为实用的组织参考，而非作为自身的治理框架。我们还借鉴了更广泛的行业指导，包括沃尔夫斯贝格集团在金融犯罪合规中使用人工智能和机器学习的原则²，以及金融行动特别工作组（FATF）关于人工智能和深度伪造的2025年12月展望扫描³，后者因通过反洗钱/反恐怖融资（AML/CFT）视角明确将能动性人工智能列为新兴关注点而引人注目。© Oliver Wyman6 score/estimatepermissioned,Actions/ 代理系统图1：从模型到工作流：治理单元的扩展欧文咨询和霍肯分析。整个系统是治理的单位经典型号该模型是治理的基本单位输入输出模型透明：输入、参数逻辑是可检验的治理边界章程和提示目标 — 范围 —禁止行为工具最小权限基础模型不透明核心——无影响或透明度用于培训建议受宪章约束数据访问批准来源检索人类升级任何操作前请进行HITL标识确认。后续行动审计追踪——涵盖整个系统治理边界贯穿全文的核心转变在于治理单元从模型转向代理系统——也就是说，该模型与其驾驭系统（即协调和调用工具的框架）、其可访问的数据、其可采取或推荐的行动、其升级求助的人类，以及其留下的审计追踪。管理该扩展单元依赖于一个企业代理保证层，该层允许代理——无论是内部开发还是第