计算机行业研究：AI安全评估

敬请参阅最后一页特别声明 1 - 模型能力升级，AI 安全重要性提升。大模型风险正由内容生成扩展到能够调用工具、访问外部系统并修改现实状态的智能体。AISI 数据显示，前沿模型完成初级网络安全任务的成功率由 2023 年末低于 9%升至 2025 年的 50%，并首次完成通常需要十年以上经验的专家级任务；METR 测得 2023 年以后前沿模型在 50%成功率下的任务时长翻倍周期约为130.8 天。同一模型的能力还会随推理预算上升，约 8%的网络安全任务在 token 预算超过 1,000 万后才首次被解决。这意味着风险不再只取决于模型权重，而由模型能力、身份权限、工具配置、网络连接和外部环境共同决定。Anthropic与 AISI 披露的越界事件表明，评测环境误接公网、关闭生产防护或缺少目标范围检查，都可能把模拟任务转化为真实行动。中国、欧盟及前沿模型厂商已把风险分级、内容标识、模型评估、事件报告和发布门槛纳入治理流程，美国新设工作组也将评估 AI 风险、机遇及联邦政府职责。 AI 安全走向纵深防御。单纯依靠对齐训练和内容过滤难以覆盖智能体的完整风险链条，安全体系需要同时管理数据、模型、权限、工具和运行环境。训练阶段应处理高风险数据、目标函数、对抗样本和模型权重保护；评估阶段需要组合 Model Testing、Red Teaming 和 Field Testing，并记录模型版本、推理预算、工具配置、采样次数和评分方法；运行阶段则要以最小权限、沙箱、网络白名单、结构化工具接口、人工审批和轨迹监测限制模型行为。固定基准容易受到题目泄露、分数饱和和测试预算不足影响，高风险评估还需结合专家复核与更充分的压力测试。optstop 等统计方法可在示例中减少 57%至 97%的计划运行，但低概率、高后果任务仍需保留最低样本量和审慎的停止条件。OpenAI人员因违反敏感信息处理政策被解雇的事件进一步说明，第三方评估不仅要保持独立性，也要同步建设信息分级、访问控制和审计机制。 AI 安全不改产业趋势，将带来更大算力投入。现有证据尚不支持当前 AI 系统已经达到失控水平，但能力提升快于控制体系更新，安全投入将延长训练、发布和部署流程。OpenAI 因候选模型在诚实披露和授权范围测试中未达标准而取消发布，说明评估结果已经能够改变产品节奏，也验证了持续评测、整改和回归测试的实际价值。对企业客户而言，安全既增加模型测试、文档、监测和人工复核成本，也是开放邮件、数据库、代码提交等高价值权限的前提。相关需求将由一次性合规检查转向持续评测、运行防护、日志存储和事件响应，并向云平台、网络安全厂商及第三方评测机构扩散。安全计算贯穿训练、评估和运行三个阶段，会增加重复推理、分类器调用、长轨迹回放与数据留存。IEA 预计全球数据中心用电量将由 2024 年的约 415 TWh 增至 2030 年的约 945 TWh，AI 是主要驱动因素之一；安全并非基础设施扩张的唯一变量，但会提高单位应用背后的计算密度和持续利用率。 相关标的 大模型&云：智谱、MiniMax、阿里巴巴、腾讯控股、金山云、百度集团、优刻得、首都在线、网宿科技、云赛智联、青云科技等。海外算力：东山精密、工业富联、胜宏科技、江海股份、中际旭创、中钨高新、蓝思科技、东阳光、火炬电子、三环集团、欧科亿、天孚通信、鼎泰高科、新易盛、领益智造、兆易创新、鹏鼎控股、唯科科技、天岳先进、大普微、源杰科技、麦格米特、景旺电子、英维克、京东方等；英特尔、SK 海力士、Lumentum、闪迪、铠侠、美光。 国内算力：寒武纪、海光信息、长鑫科技、东阳光、利通电子、中芯国际、华虹半导体、华达科技、摩尔线程、天数智芯、沐曦股份、壁仞科技、协创数据、禾盛新材、华丰科技、杰华特、京基智农、中科曙光、浪潮信息、利扬芯片、胜蓝股份、华勤技术、国科微、中国长城、晶科科技、罗曼股份、盈峰环境、芯原股份、晶科科技、亿田智能、豫能控股、星环科技、鸿日达、盛视科技、神州数码、润泽科技、大位科技、润建股份、奥飞数据、瑞晟智能、科华数据、潍柴重机、欧陆通、杰创智能、奥尼电子。AI 应用：达梦数据、深信服、卓易信息、星环科技、广立微、绿盟科技、网宿科技、海天瑞声、合合信息、德才股份、美年健康、真爱美家、中控技术、迈富时、金蝶国际、康众医疗、用友网络、聚水潭、阜博集团、范式智能、汇量科技、金山办公、奔图科技、中国软件 风险提示 行业竞争加剧的风险；技术研发进度不及预期的风险；特定行业下游资本开支周期性波动的风险。 行业周报 敬请参阅最后一页特别声明 2 扫码获取更多服务 内容目录 一、模型能力升级，AI 安全重要性提升 ............................................................ 3 1.1 模型能力边界持续拓展 ................................................................... 3 1.2 智能体扩大风险敞口 ..................................................................... 4 1.3 近期事件暴露评测边界 ................................................................... 4 1.4 安全制度加快落地 ....................................................................... 5 二、AI 安全走向纵深防御 ........................................................................ 6 2.1 训练与对齐改善模型行为 ................................................................. 6 2.2 多层评估覆盖系统风险 ................................................................... 7 2.3 运行时控制约束智能体 ................................................................... 8 2.4 组织治理完善安全闭环 ................................................................... 9 三、AI 安全不改产业趋势，将带来更大算力投入 ................................................... 10 3.1 当前风险总体可控 ...................................................................... 10 3.2 安全提高研发与发布门槛 ..............................