SP 800-53安全人工智能系统控制叠加概念文件

1 SP 800-53 安全人工智能系统控制叠加概念文件为什么使用 SP 800-53 安全控制措施和叠加层？用于保护人工智能系统的控制叠加层概念文件使用 sp 800-53 控制措施为识别网络安全结果提供了共同的技术基础，而开发叠加层可以实现在人工智能系统中对最关键的控 制措施进行定制和优先考虑。控制覆盖层使组织和利益相关社群能够针对特定技术、系统、任务空间和运行环境定制控制项（或控制基线）。控制项可从 [SP 800-53] 控制目录中进行选择，可进行修改以应对独特风险或应用场景，并可进行补充以提供针对实施者的应用特定指导。分配和选择操作的参数值也可以设置。美国国家标准与技术研究院提供了一系列关于设计和实施安全、可信赖人工智能的指南，包括 人工智能风险管理框架 (RMF) , 管理高级人工智能的滥用风险指南 (草稿)，以及 人工智能攻击的分类和缓解措施 . 在此期间收到的反馈网络安全与人工智能简介工作坊 2025年4月以及与人工智能和网络安全利益相关者的持续互动表明，各方强烈要求NIST提供更多以实施为重点的指导方针，这些指导方针应基于现有的资源和框架，以提高人工智能系统的网络安全。控件2 需要对人工智能系统和组件进行风险管理的要求，将与任何类型软件所需的要求相似。许多组织已经熟悉 [SP 800-53] 控制措施，并建立了机构流程来规划评估其实施情况。这些控制措施既提供了满足独特需求的灵活性，又提供了一种特定程度，允许一致的技术实施。为了补充正在进行的创建工作的努力 人工智能安全框架配置文件1 并支持采用人工智能风险管理框架（AI RMF），美国国家标准与技术研究院（NIST）提议开发一系列 Securing AI Systems Control Overlays (COSAIS) 使用 美国国家标准与技术研究院特别出版物（sp）800-53控制 .采用人工智能（AI）技术的进步和潜在用例既带来了新的机遇，也带来了新的网络安全风险。虽然现代人工智能系统主要是软件，但它们引入了与传统软件不同的安全挑战和风险。人工智能系统的安全性与其运行和操作的基础IT基础设施的安全性密切相关。1 随着人工智能网络安全框架概况工作进展，NIST 将与该 利益共同体 为确定控制叠加层如何影响配置文件的网络安全结果，反之亦然，以确保配置文件和叠加层都为组织提供互补的指导方针。2 根据[OMB循环A-130]， “信息系统的安全保护措施或针对组织为保护系统及其信息的机密性、完整性和可用性，或符合相关隐私要求和管理隐私风险所规定的内容。” 2 3 用于保护人工智能系统的控制叠加层概念文件表1。 NIST AI 与网络安全工作之间的关系人工智能风险管理框架控制覆盖层保障人工智能系统网络安全框架人工智能简介目的管理误用风险双重用途基金会模型提供指南以识别，减轻，和管理犯罪风险人工智能模型的误用提供一系列指南实现 SP 800-53个安全控制措施用于不同的AI用途提供一个方法建立和保持人工智能的可信度被使用的系统用于网络安全范围安全控制到管理独特风险为用户人工智能开发者特定系统场景提供一个战略组织路线图适应并响应新增或修改网络安全风险由于进步在 AI优先级和影响为保障人工智能系统和他们的组件，使用人工智能进行网络安全防御和防御人工智能-已启用网络攻击风险识别和机会使用AI和建议措施缓解/实现那些风险与机遇观众组织和发展具体建议to manage risks from化学，生物放射性的、核的和爆炸威胁（核生化）网络攻击和其他与国家安全相关的人工智能能力人工智能开发者，尤其是边界模型AI 演员在人工智能生命周期，包括网络安全实践者假设企业风险管理能力已就位网络安全高级领导力，首席信息安全官，风险官员，网络安全实践者，AI提供者和用户组织/企业政策，程序和已部署技术控制管理网络安全风险企业风险管理功能已经现场（例如，网络，隐私)网络安全修行者，人工智能用户，AI开发者(取决于使用case)组织/企业提升网络安全政策，程序，以及技术控制就地管理风险3 包含 AI RMF 配置文件 3 图1. 控制覆盖层与NIST出版物之间的关系用于保护人工智能系统的控制叠加层概念文件用于保障人工智能系统的控制叠加层将是一系列以实施为重点的指南，涵盖不同类型的人工智能系统、特定的组件（例如，训练和测试数据、模型权重、配置设置）以及不同的用例。这些叠加层将专注于保护每个用例的信息机密性、完整性和可用性。4• SP 800-218A 生成式人工智能和双用途基础模型的软件开发实践：一个SSDF社区概况 ，作为识别特定信息资产和安全实践，并将其转化为人工智能开发人员控制措施的起点。 NIST 可信和负责任的AI（AI）100-2e2025 对抗机器学习：攻击和缓解方法的分类和术语 , 提供了一套人工智能用例、攻击和缓解措施。• 起草 NIST AI 800-1，管理双用途基础模型的滥用风险 提供组织和特定模型相关的实践，以管理 AI 系统被犯罪利用的风险。4 人工智能风险管理框架（AI RMF）解决了超出 sp 800-53 安全和隐私控制范围的额外风险和可信度考虑因素（例如，有效性、可靠性、安全性、问责制、透明度、可解释性、可解释性、隐私增强、公平性）。一系列控制叠加可与人工智能风险管理框架（AI RMF）结合使用，以实现人工智能风险管理的整体方法。除了 sp 800-53 控制措施外，nist 还有三项基础的人工智能和网络安全出版物： 4 用于安全控制叠加的 AI 应用案例建议用于保护人工智能系统的控制叠加层概念文件用例1：适应和使用生成式人工智能——助手/大型语言模型（LLM）观众组织有兴趣使用人工智能创建新内容（例如，文本，images）。目的生成式AI基于...创建新内容（例如，文本、图像、音频、视频）从大规模数据集中学习并识别模式来获取用户提示数据集。用例本用例将涵盖用于内部业务的生成式AI示例描述内部用户进行的增强（例如，创建摘要、分析数据）。A.B.本地托管的LLM及其支撑基础设施：检索-基于专有本地数据源的增强生成（RAG），混合本地和网页来源，且仅限外部网页来源。第三方托管的 LLM 及其支持基础设施：具有专有技术的 RAG本地数据源，混合本地和网页数据源，以及外部网页仅限来源。用例 2：使用和微调预测人工智能观众组织使用预测人工智能系统分析历史数据以提供信息决策（例如，用于商业和服务增强）。目的预测性人工智能使用统计分析与机器学习来分析历史数据并预测未来结果、趋势或行为。示例可能包括推荐服务、分类服务以及商务NIST 为使用人工智能的开发者和组织提出了一个初步的五个用例集合。每个用例代表一个常见的基本场景类别，并针对特定的网络安全风险。每个用例将根据需要解决模型、模型