计算机行业全球人工智能治理趋势：《人工智能全球治理行动计划》以来的观察

杨庆峰 等著全球人工智能创新治理中心复旦大学科技伦理与人类未来研究院复 旦 智 库 报 告FUDAN REPORT SERIES2026世界人工智能大会人工智能全球治理与可持续发展：挑战与应对论 坛上海市邯郸路220号复旦大学智库楼邮编： 200433 电话： 86-21-65641067邮箱： cgaig@fudan.edu.cn网址： https://cgaig.fudan.edu.cn复旦智库报告 超级智能时代的风险转变与伦理应对杨庆峰 等著全球人工智能创新治理中心复旦大学科技伦理与人类未来研究院2026 年 7 月曹建峰 深圳大学 段伟文 中国社会科学院范科峰 中国电子技术标准化研究院付长珍 华东师范大学 刘永谋 中国人民大学 潘 霁 复旦大学王庆节 澳门大学 闫宏秀 上海交通大学张 平 北京大学 魏忠钰Angelo Cangelosi 复旦大学大数据学院 曼彻斯特大学工程学院陈丹妮 程 昱 贺 腾 李开阳邱德钧 徐汉辉 徐志宏 杨庆峰  杨 洋 张瑞瑗 周正旸 朱林蕃 专家顾问 科学顾问写作组（按拼音）目 录关键观点.........................................................................................01摘 要............................................................................................02导 言............................................................................................03一、AI伦理的演化：路径、新特征与转向.........................................07二、超级智能时代的风险特征..........................................................16三、智能契约伦理的理论向度..........................................................21四、智能契约伦理的实践路径..........................................................25五、应对球状风险的伦理学家AI.......................................................30六、结语.........................................................................................34参考文献.........................................................................................36附录1.世界范围内代表性AI伦理法规、原则（2020-2026）...............40附录2.全球智能契约伦理的工程化表征.............................................47附件3.报告术语对照表.....................................................................51顾问介绍.........................................................................................55作者介绍（拼音）...........................................................................5701 当前，AI 伦理表现出如下特征：追求自由规律的学术化气质日趋减弱，法律化、制度化和工程化加强趋势明显。02 AI 伦理可以被划分为技术指向的 AI 伦理和人文指向的 AI 伦理，其构建必须从“产品”思维转向“实践”思维。03 技术指向的 AI 伦理前者包括与技术场景、技术难题、技术能力和全生命周期等有关的伦理问题。04 人文指向的 AI 伦理包括与解释学、人文批判和人机关系等有关的伦理问题。05 超级智能风险呈现为与生存论相关的球状风险。06 超级智能时代人机之间的关系伦理应当摆脱人与机器的二元对立。人与机器人订立伦理契约是可行之策。采用动态契约监测伦理摩擦，冲突挂起后的四值逻辑交由人类商谈决定。 07 在未来的人机共生社会，以积极契约为理论基础的智能契约是可选择的路径，“伦理学家 AI”是智能契约的实践尝试。关键观点摘要a 众所周知，人工智能法案面临风险路线和产业现实之间出现脱节，为了不因协调标准未就绪而导致法案‘事实上的不可行’，将高风险义务的生效时间，与标准可用性进行动态绑定。协调标准就是把抽象的 AI 伦理原则，变成可审计、可落地的技术要求的官方桥梁。2025 年 11 月 20 日，欧盟委员会推出数字综合方案（Digital Omnibus）, 对《人工智能法案》中高风险系统规则的生效实践与技术标准挂钩，这个方案引入一种动态生效机制，并配套了一系列缓冲与支撑错失。在人们的印象中，伦理学以揭示自由规律且构建原则规范为主要任务，但是实现这一任务的过程中却暴漏出伦理学的先天孱弱。相比法律和制度，伦理原则缺乏刚性约束力。因此以构建原则规范的 AI 伦理也表现出伦理学先天孱弱特性。随着 AI 技术本身迭代加快以及超级智能时代的临近，AI 伦理逐渐出现了 3 个变化：制度化、法律化和工程化来克服这种孱弱特征。超级智能逐渐从技术想象转变为现实问题，AI 伦理法律化、制度化和工程化并不能应付超级智能的挑战。相比一般人工智能，超级智能表现出一种明显的差异：人工智能开始作为新的主体重构生产关系和生产力；超级能动性成为一个关键概念影响着人类和人工智能的关系构建。以人工智能风险领域为例，相关的风险理论建立在对人工智能体风险层次的划分之上，比如欧盟的 AI 法案将人工智能风险划分为四类：最低风险、有限风险、高风险和不可接受的风险。但是高风险和不可接受风险的 AI 系统技术标准并未按时落地。a 但是超级智能带来的是存在方式的改变，一种新的生存结构正在形成。本报告借助斯洛特戴克的球体理论，深刻指出 AI风险已演变为存在论层面的结构性问题，呈现为复杂的球状风险。为应对上述挑战，AI伦理构建必须实现从“产品”思维向“实践”思维的范式转向。新的 AI 伦理框架包含两大关键维度：一是技术指向的 AI 伦理，聚焦与技术应用场景、能力边界及全生命周期等痛点有关的伦理问题；二是人文指向的 AI 伦理，强调与人文解释、技术批判与人机关系重塑有关的伦理问题。面对超级智能可能引发的权力失衡，报告创造性地构建了“智能契约伦理”框架。该框架主张以契约伦理重构人机关系，为人类主体