AI安全系列研究报告：安全优先的大模型

AI 安 全 系 列 研 究 报 告 安全优先的大模型 AI 安 全 系 列 研 究 报 告 安全优先的大模型 * 安全优先的大模型 目 录 本报告调研的入选标准 ........................................................................................ 1 本报告调研的安全能力供应商 ............................................................................... 1 报告背景 ........................................................................................................... 2 关键发现 ........................................................................................................... 3 一、概念定义..................................................................................................... 4 1.1 定义 ................................................................................................................................. 4 1.2 定义解读......................................................................................................................... 4 二、发展潜力..................................................................................................... 6 2.1 市场发展驱动力 ............................................................................................................ 6 2.1.1 大模型内生“缺陷”转化为安全原生需求 ......................................................... 6 2.1.2 大模型强监管态势夯实安全合规基础 ............................................................ 7 2.2 安全能力核心逻辑 ........................................................................................................ 8 2.2.1 以“模”制“模” ...................................................................................................... 8 2.2.2 以权限和身份管理重塑业务 ............................................................................ 9 2.2.3 以安全工程保障系统工程 ................................................................................ 9 2.3 未来趋势....................................................................................................................... 11 2.3.1 大模型重塑数字生活，人工智能治理道阻且长 .......................................... 11 2.3.2 端侧大模型需求激增，安全能力需要新突破 .............................................. 11 2.3.3 后训练是应用关键，数据价值再次攀升 ...................................................... 11 2.3.4 公众模型成为基础设施，智能体百家争鸣 .................................................. 12 三、推荐供应商 ............................................................................................... 13 四、安全能力................................................................................................... 17 4.1 大模型业务系统安全风险 .......................................................................................... 18 4.2 安全优先的大模型能力图谱 ...................................................................................... 20 五、解决方案/典型案例推荐 .............................................................................. 22 5.1 大模型安全解决方案 ...................................................................................................... 22 方案背景 .............................................................................................