建构人工智能发展的国际规则 --趋势、领域与中国角色

建构人工智能发展的国际规则-- 趋势、领域与中国角色上海国际问题研究院国际传播中心2023 年 10 月鲁传颖 田　丽 封 帅 周亦奇王玉柱 王天禅 张璐瑶建构人工智能发展的国际规则：趋势、领域与中国角色作者简介鲁传颖上海国际问题研究院公共政策与创新研究所副所长上研院网络空间国际治理研究中心秘书长清华大学战略与安全研究中心特约专家封帅上海国际问题研究院国际战略与安全研究所所长助理王玉柱上海国际问题研究院世界经济研究所研究员上研院“一带一路”与上海研究中心秘书长张璐瑶上海国际问题研究院网络空间国际治理研究中心实习生田丽北京大学新媒体研究院副院长 北京大学互联网发展研究中心主任周亦奇上海国际问题研究院公共政策与创新研究所副研究员 王天禅上海国际问题研究院网络空间国际治理研究中心实习生作者简介目录引 言······································································································01一、人工智能国际规则建构的总体趋势···························································02二、人工智能国际规则覆盖的领域·································································05三、人工智能治理进程的中国价值观······························································11四、中国参与人工智能国际规则制定的路径·····················································14关于上海国际问题研究院··············································································17关于清华大学战略与安全研究中心·································································18关于北京大学互联网发展研究中心··································································19建构人工智能发展的国际规则：趋势、领域与中国角色01引言引 言2023 年以来，人工智能技术的突破又一次成为全球瞩目的焦点。在高速进步的生成式人工智能，以及取得突破性进展的大语言模型的带动下，人类似乎已经开始触及通用人工智能技术的门槛。围绕着人工智能技术跨越式发展而展开的关于智能化社会的想象吸引了全球社交媒体与资本市场的追捧，但关于人工智能技术可能引发的各种安全风险和社会问题也成为社会关注的焦点。为了确保人工智能技术始终保持良性发展，确保技术进步与人类价值观相向而行，为人工智能发展设定合理的国际规则逐渐成为全球范围的重要共识。2023 年 7 月 18 日，联合国安理会举行了主题为“人工智能给国际和平与安全带来的机遇与风险”的高级别公开会议，这是联合国安理会首次举行人工智能主题会议。在本次会议上，联合国秘书长古特雷斯公开呼吁对人工智能技术风险进行有效治理，并且提议在联合国框架内成立一个新的监管机构推动人工智能领域的全球治理。国际规则具有重要的导向性作用，世界各国政府和企业都希望参与甚至主导人工智能国际规则的建构议程。可以预见，全球围绕人工智能国际规则制定问题将会展开复杂的竞合博弈，最终形成的国际规则体系也将成为影响全球人工智能技术、产业和安全的重要变量。多年来，在有关各方的共同努力下，我国人工智能技术和产业都取得了较为丰硕的成果，人工智能已经成为推动我国经济高质量发展的重要力量，中国也已经成为全球人工智能版图上的重要一环。中国在人工智能领域已经积累了丰富的治理经验，能够为全球人工智能规则建设提供宝贵的发展中国家视角。因此，中国应积极参与人工智能国际规则制定，一方面，将中国在人工智能领域的治理经验转化为国际规则。另一方面，通过参与国际规则的讨论，加深对先进治理理念的理解，更好地促进国内人工智能的安全与发展。建构人工智能发展的国际规则：趋势、领域与中国角色建构人工智能发展的国际规则：趋势、领域与中国角色0302一、人工智能国际规则建构的总体趋势人工智能国际规则建构之所以受到世界各国的普遍重视，在于人工智能已经成为影响国家安全和发展的重要力量。美国、中国、欧盟等主要大国先后发布了人工智能的国家发展战略，围绕着人工智能而展开的国际竞争已经成为当前国际议程的重要组成部分。人工智能及其相关衍生技术本身具有强渗透性和高赋能性，能够与诸多社会生产部门建立深度链接。如果其技术潜能得到充分释放，可能对人类社会的生产生活带来颠覆式的影响。因此，在推动人工智能技术进步的过程中，必须充分重视技术发展与社会稳定之间的动态平衡。在这种情况下，世界各国逐渐认识到通过规则建构推动人工智能治理的必要性。美欧等发达国家认为掌握人工智能规则建构的主动权是保持其在技术与产业领域优势地位的重要一环。他们积极推动相关议题的研究，并试图主导规则建构的国际议程，尝试在国内、国际两个层面着手进行机制完善和规则构建。然而，相比于更具同质性的国内环境而言，国家之间的互动关系更为复杂、不同主体之间的利益纠缠更为突出、文化和价值观更为多元，这也造成了形成人工智能国际规则的共识更加困难。从实际进展情况来看，当前人工智能国际规则仍处于早期阶段，各主体在不同层次上都在尝试推动各种形式的治理方案，归纳起来包括以下几个方面的内容：第一，在多边层面，联合国积极主导人工智能国际治理规则建设。2023 年 6月，联合国秘书长古特雷斯公开表示，支持建立人工智能领域的“国际原子能机构（IAEA）”，对人工智能技术进行监管。这一事件意味着联合国希望在未来的人工智能国际规则制定的进程中将进行角色调整和功能增强，将其作用范围从原则层面深入到机制层面，建设更具约束力的人工智能监管机构，这可能会成为未来人工智能国际规则建构的基础架构。此外，在 2023 年 7 月联合国最新出台的《和平新议程》中，也专门提及人工智能和致命性自主武器系统对国际和平与安全的影响，建议各国紧急制定关于负责任地设计、开发和使用人工智能的国家战略；通过多边、多方进程推动人工智能军事领域的设计、开发和使用；最终就一、人工智能国际规则建构的总体趋势一、人工智能国际规则建构的总体趋势人工智能全球范围内的监管框架达成一致。近年，联合国下属多个机构积极参与人工智能治理议程，取得阶段性成果。2021 年，由联合国教科文组织人工智能伦理建议特设专家组出台的《人工 智 能 伦 理 问 题 建 议 书》（Recommendation on the Ethics of Artificial Intelligence）是人工智能国际规则制定的重要里程碑。该建议书从人类共同的价值观和可持续发展目标的基本立场出发，提出了十一项关于人工智能发展的指导性原则，被 193 个成员国共同接纳。2