生成式AI安全白皮书

火山引擎VOLCENGINE.COM生成式AI安全白皮书Volcano EngineGenerativeAlSecurityWhitePaperCopyright 2025 Volcano Engine.All rights reserved火山引擎生成式AI安全白皮书Copyright 2025Volcano Engine.All rights reserved.CONTENTSVolcano EngineGenerativeAlSecurityWhitePaper01序言1.1产业轨迹与拐点：从模型到业务的全面跃迁1.2生成式AI安全的核心问题与现实挑战1.3火山引擎的AI安全主张：可信、可控、合规的AI云原生基座02生成式AI安全风险2.1监管合规风险2.2数据隐私风险2.3生成式AI安全风险03火山引擎生成式AI服务安全保障体系3.1生成式AI浪潮下的安全责任3.2合规资质与认证3.3数据安全与隐私保护设计理念3.4生成式AI安全技术保障体系04总结4.1生成式AI行业安全展望4.2 火山引擎致力于保障生成式AI安全火山引擎VOLCENGINE.COM11.序言 Introduction1.1产业轨迹与拐点：从模型到业务的全面跃迁■基础模型的能力边界快速拓展从文本到图像、语音、视频的多模态表达，从“调用型”向“智能体化”工作流演进。模型不再是外置的试验工具，而是能够被嵌入到知识管理、研发协作、客服运营、风险控制等关键流程，形成可复用的“技能栈”。这种可工业化的能力，要求企业把模型服务、数据治理、权限体系、合规审计放到同一工程体系下统一管理，而不是零散的功能试点。■企业正从“单点试验”转向“平台化建设”一方面，公有云与私有化部署需要在性能、合规、成本、可运维性之间找到动态平衡；另一方面，模型的选择从“追最新”转向“适配业务”，强调稳定性、可控性与治理可视。1.2生成式A/安全的核心问题与现实挑战&模型层数据层对抗、失真与滥用的攻防拉锯从“可用”到“可信”的治理升级在模型层，提示词注入、越狱攻击、对抗样本与模型投毒带来输出训练与推理数据的污染、隐私泄露与越权访问，是生成式系失真与能力滥用的风险。安全不再依赖简单的“黑白名单”，而是统的核心风险源。数据血缘、分级分类、最小必要使用、脱由红队评测、威助建模、策略护栏、推理时检测与响应等机制协同敏与匿名化等能力需要与模型管理深度绑定，确保从采集构成的系统化治理方案。企业需要建立“上线即运营”的安全评测标注、训练、后训练到推理的每一步部可审计、可追潮、可体系，形成从开发到部署的持续检测与反馈的完整链路。复盘。田应用层治理与合规插件、工具与外部调用的安全新面貌把“可解释、可审计、可问责”嵌入产品智能体应用的播件体系、数调用与外部工具执行，扩大了攻击生成式系统不仅是技术工程，更是治理工程。企业需要将政面：从凭证泄需到指令劫持，从跨租户数据穿透到供应链风险。策、红线、行为准则固化到模型与应用的运行时：以可解释治理重点在“意图识别与动态授权”：让每一次调用都在可见、与可审计的机制支持人的监督，明确责任边界，沉淀成组织可控的权限域内发生，并形成异常行为审计与隔离能力。的“安全运营语言”。生成式AI安全白皮书01火山引擎VOLCENGINE.COM1.3火山引擎的A/安全主张：可信、可控、合规的A云原生基座火山引擎将自身定位为AI云原生的可信安全基础设施提供者，以“安全即服务的方式，承载企业的A/工作负载与治理能力，建立客户信任与透明度的长期机制。火山引擎构建“技术领先、治理完善、生态开放”的AI安全能力。在架构与算法层保持AI原生的安全创新，在合规与治理层构建全生命周期的框架与支持，在生态层以标准化接口与开放协作促进企业集成与扩展。生成式AI安全白皮书02火山引擎VOLCENGINE.COM2.生成式AI安全风险生成式人工智能作为人工智能领域的重大突破，正深刻改变着技术范式。生成式人工智能凭借其强大的生成式能力，已广泛应用于游戏、汽车、智能终端、教育等多个领域，显著提升了信息处理的效率和智能化水平。随着生成式人工智能服务不断创新和应用场景的日益深入，其面临的安全风险也日益凸显，企业用好生成式人工智能服务的同时，如何处理好监管合规风险、隐私数据安全风险、以及生成式A/自身安全风险，也成为一个极具挑战性的话题。2.1监管合规风险随着人工智能技术的迅猛发展，伦理、偏见、歧视等问题日益凸显。如何确保人工智能行业在符合社会价值观的框架下实现健康发展，已成为全球监管部门首要关注的问题，当前各国正加快构建针对人工智能领域的法律法规要求与合规监管框架。对于人工智能服务提供者和使用者而言，严格遵守法律监管要求至关重要。在全球范围内，欧盟于2024年8月正式生效《人工智能法案》，作为全球首部全面针对人工智能的法案该法案采用四级风险模型，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则，禁止违背欧盟价值观、有害的人工智能服务发展；美国推出《人工智能创新未来法案》强调了国际标准的制定、数据共享和安全性研究的重要性。目前中国的人工智能监管体系建立在《网络安全法》《数据安全法》《个人信息保护法》三大法律基石之上为人工智能领域合规管理提供了坚实的法律基础，在此基础上，各部委陆续出台《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规要求，制度，为人工智能行业发展提供了明确的标准与指导。因此，在中国境内提供、使用生成式人工智能服务的企业，需要依据法律法规履行备案义务，保障用户权益、以及内容、算法安全。此外，各国也在不断完善人工智能相关法律法规体系中。2025年8月，中国国务院印发《关于深入实施“人工智能+”行动的意见》中特别强调应加强政策法规保障，完善人工智能法律法规、伦理准则、推进人工智能健康发展相关立法工作、优化人工智能相关安全评估和备案管理制度。25年7月，欧盟发布《通用A/行为准则》《通用A/模型提供者指南》《数据训练摘要模板》作为《人工智能法案》的核心配套措施，构建欧盟人工智能合规观框架。作为生成式人工智能服务的提供者与使用者需要持续关注行业法律法规建设，保障人工智能服务合法合规。生成式AI安全白皮书03火山引擎VOLCENGINE.COM2.2数据隐私风险数据是每个企业的核心资产，近年来数据安全事件层出不穷，给企业带来巨大商业秘密泄露风险的同时，用户个人的隐私权也可能因此而受到威胁。生成式人工智能的发展高度依赖海量数据，但在数据大规模收集、存储、训练、推理等过程中，势必会伴随着复杂的数据与隐私安全风险。数据收集阶段生成式人工智能依赖海量训练数据，这些数据来源广泛，如果数据收集过程不当，可能会包含个人信息、甚至敏感个人信息，在未明确获得用户授权情况下，存在违规使用个人信息的风险。若训练数据中包含商业秘密信息，也会导致核心信息泄露的风险；此外，训练数据中也可能会包含虚假、不真实、偏见信息，这些内容会导致训练数据被污染，甚至影响输出内容的合法性、公平性、中立性等等；数据存储阶段用户在使用生成式人工智能服务时会涉及以下关键数据资产，如，会话数据、训练数据、以及精调后的模型等。若未采取适当的安全保障措施，数据存储阶段存