百度智能云千帆大模型平台-安全白

干帆大模型平台安全 白皮书2025年9月CONTENTS目 录01 概述1425133.1. 安全挑战应对策略3.2. 千帆平台安全保障框架5.1. 基于混合云网络通过客户内网调用千帆大模型4.1. 千帆平台安全4.2. 千帆模型安全4.3. 千帆数据安全4.4. 千帆内容安全4.5. 千帆安全运营4.6. 千帆安全合规03 千帆平台安全保障体系04 千帆平台安全保障能力05 千帆平台安全最佳实践06 总结和展望1402 大模型平台主要安全挑战百度智能云千帆大模型平台（以下简称“千帆平台”）是企业级一站式大模型与AI原生应用开发及服务平台，不仅提供了包括文心一言系列大模型和主流第三方开源大模型，还提供了各种AI原生应用及服务开发工具链，完备的流程助力各行业企业级云原生AI应用需求落地。面向不同的企业AI能力需求，千帆平台提供不同的功能服务。例如，在线教育、智能营销等应用场景，可在千帆平台一站式体验及构建行业解决方案并在业务端集成，解决大模型应用落地最后一公里问题；细分领域如电销场景的商品介绍、推广文章等需要针对特定领域数据集进行学习，可在千帆平台使用模型精调功能，快速生成行业场景定制模型服务，满足用户特定需求。 随着大模型从实验室走向产业核心场景，平台化部署已成为企业集成AI能力的核心载体。大模型平台整合模型托管、API服务、微调工具、应用组件生态等能力，平台的安全漏洞不仅会导致模型失效，更可能引发系统性数据泄露与业务崩塌。所以，后续内容将以风险为纲、以技术为轴，逐章解构大模型平台面临的安全挑战与应对措施，为信赖百度的用户更加深入了解千帆大模型平台的安全性，与用户一同构建一个安全、稳定且可信赖的大模型生态。01概 述- 1 -大模型平台安全稳定运行是上层模型服务的基础，是确保模型应用效果和服务质量的重要保障。大模型平台作为模型应用的核心基础设施，其安全稳定运行直接关系到上层模型服务的性能和可靠性。然而，在大模型平台的设计、开发过程中，为了追求快速部署和便捷使用，可能会忽视基础安全配置。这种忽视可能导致平台存在安全缺陷，给攻击者留下可乘之机。例如，平台可能存在未授权访问的风险，使得攻击者能够轻松获取平台内部数据和模型信息。大模型平台上会承载模型服务、数据管理、模型管理等多种功能。这些功能相互关联、相互依存，共同构成了一个完整的模型应用生态。然而，一旦平台出现安全漏洞，将会导致模型泄露、数据泄露、服务中断等安全事件。这些事件不仅会对平台本身造成严重影响，还会给用户带来难以估量的损失。基础模型自身的安全性问题。在当下的人工智能领域，大模型数量呈现出爆发式增长，模型厂商分布广泛，覆盖全球多个国家和地区，大模型呈现出百花齐放的态势。大模型平台通常会预置多种开源及闭源大模型，也允许用户上传自己的大模型，为用户提供丰富灵活的模型服务。但大模型平台在给用户带来灵活便利的同时，也可能引入安全风险。由于不同的模型厂商可能采用不同的评估指标和测试方法，缺少统一标准，导致模型性能、安全性难以进行客观、准确的比较，也不可避免地出现良莠不齐的问题，大模型也有可能被恶意植入后门、语料投毒等安全问题。一旦开发者基于该模型进行应用开发，并对公众提供服务时，可能引发数据泄露、生成有害内容等安全隐患。精调模型的防泄漏问题。用户使用数据集对基础模型精调，生成行业或垂类模型。模型训练中使用了客户大量的私域数据及算力资源，其数据价值和训练成本较高。精调模型在存储和传输过程中，可能存在泄露、被窃取等安全隐患。大模型平台或依赖的公有云其他的存储系统出现安全漏洞，并且模型本身未采用数据加密等安全措施的情况下，精调模型有可能被攻击者窃取、运行，造成模型及数据泄露。同时，精调模型在不同系统、平台间传输时，若安全措施未到位，攻击者可以在数据传输的链路中，通过中间人攻击等手段，截获并篡改传输数据，获取精调模型的完整内容。02大模型平台主要安全挑战- 2 -平台安全挑战大模型安全挑战- 3 -大模型平台主要安全挑战用户在使用大模型平台的过程中，会将私域知识库、数据集、企业内部文档甚至个人信息等重要及敏感数据上传至大模型平台。这些数据的目的是为了进行模型训练、本地检索增强等操作，从而进一步提升模型效果和使用体验。无论是私域知识库中的专业数据，还是企业内部文档中的敏感信息，对于用户及其组织来说都具有极高的价值。同时，大模型平台为了提升用户体验和效率，为用户提供了完善的数据飞轮功能。这一功能可以记录模型推理服务的输入、输出结果，为用户提供了一种便捷的方式来实现推理日志回流，支撑进一步做日志分析挖掘并提升数据集质量。用户可以通过这些记录，更加高效地优化模型，提高数据利用率。然而，这些数据在收集、存储、使用、传输、删除的数据生命周期的各个阶段，都面临着潜在的安全风险。如果没有采取足够的安全保护措施，攻击者可能会截获、篡改这些数据，从而给用户及其组织带来严重的安全问题。大模型在实现高效内容生成的同时，也面临着诸多内容合规风险，若缺乏有效监管和引导，可能对社会秩序和公共安全造成不良影响。基础大模型的训练语料采集中，互联网上的数据通常会作为来源之一，如果模型厂商在语料采集、数据预处理、模型训练等各环节，未进行语料过滤、安全对齐等合规内容引导，将可能导致大模型生成内容存在违反社会主义核心价值观、包含歧视性内容等安全风险。如生成内容可能包含裸露、性暗示、不雅言辞等不适宜公开传播的内容。这种内容可能在社交媒体、聊天应用、新闻评论等领域出现，可能冒犯人们的道德观念和价值观，对社会道德、个人尊严和文化价值产生负面影响，可能引发道德争议、社会不安以及对技术应用的担忧。数据安全挑战AIGC 的内容合规挑战大模型平台面临的主要安全挑战涉及多个层面，包括数据安全、模型安全、应用安全等等，需要逐个拆解、分析并采取针对性的解决措施。为了保障大模型平台的安全性和稳定性，大模型平台厂商需要提供全面的安全能力和安全保障措施，而用户也需要正确的使用安全功能和配置安全策略，才能最有效的防范安全事件的发生。针对大模型平台的安全挑战，以下将详细阐述百度智能云千帆平台的整体安全保障框架，以及安全最佳实践，帮助用户更加深入地了解千帆平台的安全机制和功能，以便更加合理、安全地使用大模型平台。03千帆平台安全保障体系 3.1. 安全挑战应对策略千帆平台安全保障体系是一个复杂而精细的系统工程。在这个体系中，百度智能云千帆大模型平台的安全体系严格遵从国家相关的法律法规，致力于为用户提供一个安全、可靠的环境。其安全框架的构建，涵盖了安全运营、安全合规、安全技术及管理措施等多个方面。这些措施从基础设施、网络、应用、数据、模型、内容等多个层面进行综合建设，确保了平台在各个方面的安全性。为了进一步提升用户的安全体验，千帆平台还提供了丰富的最佳实践配置案例。这些案例旨在帮助用户更加合理地配置安全策略，充分利用平台提供的安全功能。通过大模型平台和用户的共同努力，可以共同打造一个坚固的“安全屋”，有效降低大模型平台的安全风险，确保平台的稳定运行和用户数据的安全。然而，安全挑战总是伴随着技术的发展而不断演变。因此，千帆平台的安全防护体系也需要持续演进，以应对未来可能出现的新安全挑战。在未来，随着大模型技术的不断