人工智能行业网络安全标准实践指南：人工智能应用安全指引

TC260-PG-2026NA网络安全标准实践指南——人工智能应用安全指引 总则（征求意见稿 v1.0-202601）全国网络安全标准化技术委员会秘书处2026 年 01 月本文档可从以下网址获得：www.tc260.org.cn/I前言《网络安全标准实践指南》（以下简称《实践指南》）是全国网络安全标准化技术委员会（以下简称“网安标委”）秘书处组织制定和发布的标准相关技术文件，旨在围绕网络安全法律法规政策、标准、网络安全热点和事件等主题，宣传网络安全相关标准及知识，提供标准化实践指引。本文件起草单位：中国电子技术标准化研究院、国家广播电视总局广播电视科学研究院、中国交通通信信息中心、国家卫生健康委统计信息中心、教育部教育管理信息中心、应急管理部大数据中心、中国工商银行、中国农业银行、北京中关村实验室、上海人工智能创新中心、国家工业信息安全发展研究中心、国家计算机网络应急技术处理协调中心、中央网信办数据与技术保障中心、工业和信息化部电子第五研究所、中国信息安全测评中心、国家信息技术安全研究中心、北京火山引擎科技有限公司、北京快手科技有限公司、阿里云计算有限公司、华为技术有限公司、小米科技有限责任公司、蚂蚁科技集团股份有限公司等。本文件主要起草人：姚相振、郝春亮、张妍婷、赵韡、王磊、杨伟平、贺敏、王志伟、张震、陈朴、李岳峰、张卫伟、吕飞霄、李子威、宋昊、郭建领、谷晨、彭骏涛、邵萌、赵冉、王博、吴巍、申东洋、吴波、李琦、马梦娜、刘栋、孟令宇、刘北水、王盈、杜渐、戴明、落红卫、初翎祯、林冠辰、卢春景、郭晓霞、程佩哲、许啸、张荣、柳嘉琪、李寒雨、李申、谭龙、吴子坚、田小龙、曹岳、吕莹楠、王立夫、于新颖、黄冬秋。I声明本《实践指南》版权属于网安标委秘书处，未经秘书处书面授权，不得以任何方式抄袭、翻译《实践指南》的任何部分。凡转载或引用本《实践指南》的观点、数据，请注明“来源：全国网络安全标准化技术委员会秘书处”。1摘要以高水平人工智能安全标准保障高质量发展，全面提升各行业人工智能应用安全水平，依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律，以及《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规定，制定人工智能应用安全指引系列实践指南。人工智能应用安全指引系列文件包含通用文件以及行业领域文件两类。通用文件提供通用性安全指导，适用于各行业领域开展人工智能应用活动。行业领域文件给出适用于特定行业领域的实践指引。本《实践指南》属于通用文件。行业领域开展人工智能应用活动，在符合本《实践指南》的基础上，还应进一步满足行业领域文件相关内容。1目 录1范围 ...................................................................... 12规范性引用文件 ............................................................ 13术语和定义 ................................................................ 14缩略语 .................................................................... 15基本原则 .................................................................. 16人工智能应用通用安全指引 .................................................. 26.1前期规划阶段 ......................................................... 26.2设计开发阶段 ......................................................... 46.3验证确认阶段 ......................................................... 56.4部署阶段 ............................................................. 66.5运行和监控阶段 ....................................................... 86.6持续验证评估阶段 ..................................................... 96.7退役下线阶段 ......................................................... 96.8其他 ................................................................ 10附录 A（规范性）引用文件清单 .................................................11附录 B（规范性）术语表 .......................................................12附录 C（规范性）缩略语表 .....................................................15附录 D（资料性）人工智能应用过程 .............................................16附录 E（资料性）人工智能应用相关角色 .........................................18附录 F（资料性）人工智能应用其他相关安全要求情况 .............................19参考文献 .................................................................... 2111范围本文件规定了人工智能应用安全总则，包括基本原则以及人工智能应用的前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的通用安全指引。本文件适用于各行业领域组织开展人工智能应用的安全风险防范与管理，可为有关监管部门和第三方测试评估机构提供参考。2规范性引用文件本文件附录 A 中所列文件中的内容通过本文件中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件；不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。3术语和定义GB/T 25069 和 GB/T 41867 以及本文件附录 B 中界定的术语和定义适用于本文件。4缩略语本文件附录 C 中的缩略语适用于本文件。5基本原则2人工智能应用安全基本原则包括：a）造福人类，促进发展。人工智能的应用以造福人类、服务社会和可持续发展为导向，在开展应