人工智能行业：图解网安标委《人工智能安全治理框架3.0》

炼石CipherGateway图解网安标委《人工智能安全治理框架3.0》炼石网络2026年9月炼石CipherGateway一图解《人工智能安全治理框架3.0》二数据安全建设实践2炼石网安标委发布框架3.0：延续风险分类、：技术应对、纟综合治理CipherGateway发布信息2026年9月14日，在2026年国家网络安全宣传周开幕式上，全国网络安全标准化技术委员会（以下简称“网安标委”）发布《人工智能安全治理框架3.0》（以下简称《框架3.0》）。为贯彻落实《全球人工智能治理倡议》，2024年、2025年网安标委先后发布了《人工智能安全治理框架1.0》《人工智能安全治理框架2.0》，受到各界广泛关注。为应对人工智能发展新趋势、回应安全治理新挑战，探求人工智能四个“时代之问”的正确答案，在国家互联网信息办公室的指导下，网安标委组织中国网络空间研究院、国家互联网信息办公室数据与技术保障中心等专业机构、科研院所、行业企业，在《框架1.0》《框架2.0》基础上研究编制了《框架3.0》。版本沿革2024年2025年2026年9月人工智能安全治理框架3.0Al Safety Governance Framework 3.0框架1.0框架 2.0框架 3.0全国网络安全标准化技术委员会前言：一年来的技术与应用变化前言：新的安全风险2026年9月·基础大模型在长程任务规划、长上下文记忆、复杂任务推理·网络攻击自动化、规模化、智能化能力跃升，传统攻防格局上取得突破，智能体任务规划、工具调用、跨应用协作能力面临重塑风险分类技术应对综合治理增强·与现实世界连接紧密，网络空间风险向物理世界传导扩散·工作助手、个人助理、智能体手机等产品丰富，使用门槛降核心逻辑三段延续1.0/2.0；本版另附风险分级原·模型算法出现自主学习优化、自我递归提升的自加速态势，则、智能体风险管理框架、可信人工智能基本准低，从专业场景走向大众化应用则三个附件。演进速度与方向会否超出人类预判和掌控需关注警惕，“，丫3炼石三版演进：1.0建边界，2.0全生命周期，3.0控制智能系统CipherGateway解读：三版框架不是彼此独立的文件，治理对象经历“模型一→应用→智能系统与智能生态”三次扩展，治理方式相应从建立边界到全生命周期管理，再到动态、持续、可干预的控制体系。1.0（2024年）建立边界2.0（2025年）全生命周期3.0（2026年9月）智能系统控制·任务：第一次较完整说明人工智能安全治理管什么、·新增原则：“可信应用、防范失控”，关注滥用、：背景：长程规划、长上下文记忆、复杂推理、工具由谁管、用什么方法管恶用与超出预期的行为调用、跨应用协作能力增强，产品从对话工具走向·原则：包容审慎、风险导向、技管结合、开放合作·风险：两类扩展为三类，新增衍生安全风险（社会工作助手、个人助理、智能终端四项结构、生态环境、文化形态、伦理规范的长期影响)转向：从讨论“回答得对不对、内容合不合规”·风险：内生（模型算法、数据、系统）与应用（网·指引：安全要求延伸到研发、建设部署、运行管理、到必须讨论“会不会自己采取行动、行动是否越权、络、现实、认知、伦理）两分访问使用四个阶段，从“一次性检查”转为“全生能不能被及时阻止”·责任：按模型算法研发者、服务提供者、重点领域命周期管理”，，使用者、社会公众划分·治理：法律法规、科技伦理、开源生态、供应链、推理、记忆、调用工具并持续行动的智能系统分类分级、内容溯源、测评、信息共享、人才、国·落点：权限控制、动态监测、人工审批、紧急停止、·特点：基础框架，尚未展开大模型规模化应用后的复杂场景际合作系统回退、沙箱监管与人类最终控制行业解读归纳的四个治理转向（3.0相对前两版）静态合规→动态治理一般人工监督→人类最终控制单一模型→整个生态系统技术安全→社会安全“随行伴跑”、动态测试、弹性准入、实时监高风险操作人工审批、保留人工或传统系统切模型、数据、算力、框架、插件、知识库、平继续保留社会、环境、文化、伦理衍生风险；控、持续优化，不是一次上线审核换永久安全换、重要升级安全评估并可回退台、开发者、提供者、用户形成依赖关系，任关注更加具体证明一环节都可能成为风险入口出处：iAx自留地《《人工智能安全治理框架3.0》浅析》(2026-09-15)4炼石5章3附件：54项风险在映射表中对应技术措施与治理举措CipherGateway人工智能安全治理框架3.0全国网络安全标准化技术委员会2026年9月前言1.治理原则5项附件1风险分级原则附件2智能体风险管理框架附件3可信AI准则8项2.风险分类：3大类14个子类54项3.技术应对56项4.综合治理20项5.安全指引51 条2.1 内生 17 项2.2 应用 25 项2.3 衍生 12 项3.1 内生风险应对 194.1 顶层设计 45.1模型算法研发152.1.1模型42.2.1 智能体 42.3.1 社会 44.2 治理能力 33.2 应用风险应对 262.3.2 环境 25.2应用建设部署92.1.2 算法 32.2.2 具身智能 42.1.3 数据 72.2.3 冲击网络安全 42.3.3 文化 24.3沙箱监管43.3 衍生风险应对 115.3 应用运行管理202.1.4算力设施与运行环2.2.4 信息内容 52.3.4 伦理 4境3 4.4管理举措6映射表：风险→技术措2.2.5 侵害个人信息权益5.4 应用访问使用 7施→治理举措34.5治理共识32.2.6现实安全5条款间关联 (原文标注）：4.4.1→附件 1 风险分级原则、附件 2 智能体风险管理框架；4.5.1→附件3 可信人工智能基本准则映射表（原文第 32-33页）：连接第 2 章风险、第 3 章技术措施与第 4 章治理举措；第 5 章安全指引按研发、部署、运行、使用四个环节编排5炼石五项治理原：从包容审慎、石确保安全到可信应用、防范失控CipherGatewa1.人工智能安全总体要求：秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促进人工智能创新发展为第一要务，以有效防范化解安全风险为出发点和治理原则落脚点；压实相关主体安全责任，打造全过程全要素治理链条，积极研究应对人工智能灾难性风险的共识性准则2.人工智能安全风原则要点（1.1-1.5条款压缩）框架内对应条款（炼石对照）险分类鼓励发展创新，对研发及应用采取包容态度，积极运用“沙箱”监管等风险可控机制，为新1.14.3 构建柔性、动态、可控的沙箱监管技术新应用提供容错纠错空间；严守安全底线，对危害公众合法权益、社会公共利益、国家3.人工智能安全环境包容审慎、确保安全风险技术应对措施安全、人类生存发展的风险及时采取措施1.2系统分析技术内生、应用赋能、衍生扩散风险；从应用场景、智能化水平、应用规模等维度第2章三大类风险；附件1分级三要4.人工智能安全风险综合治理措施风险导向、敏捷治理进行风险分级，进而匹配应对措施；建立“随行伴跑”、持续优化的治理机制素5.人工智能安全1.3面向研发应用全过程，技术应对和综合治理相结合；明确模型算法研发者、服务提供者、系第3章技术应对措施；第4章综合治指引技管结合、协同应对统使用者等主体安全责任，发挥政府