数字经济《欧盟AI法案》专题：法无明令“禁止”也不一定“可为”

策略研究 策略研究 证券研究报告 权威报告解读 2023 年 07 月 03 日 法无明令“禁止”也不一定“可为” ——申万宏源数字经济《欧盟 AI 法案》专题 相关研究 证券分析师 程翔 A0230518080007 chengxiang@swsresearch.com 王胜 A0230511060001 wangsheng@swsresearch.com 傅静涛 A0230516110001 fujt@swsresearch.com 刘洋 A0230513050006 liuyang2@swsresearch.com 洪依真 A0230519060003 hongyz@swsresearch.com 联系人 程翔 (8621)23297818× chengxiang@swsresearch.com 本期投资提示：  6 月 14 日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法最终谈判阶段。作为全球首个人工智能的相关法案，《人工智能法案》授权草案的表决通过引起了世界各国的关注。OpenAI 的 CEO Sam Altman 表示，如果无法遵守欧盟即将出台的人工智能法规，该公司可能会考虑退出欧洲市场，本次欧盟发布的人工智能法也将成为全球人工智能监管的锚，对于人工智能的发展有约束和导向作用。  2018 年欧盟发布《通用数据保护条例》，这也是世界上首部个人信息保护法，申万宏源策略在《数据围城——申万宏源策略数字专题系列之数据保护法篇》也提到，GDPR 在 2018 年实施后，欧盟各国对于数据安全及罚款都大幅增加。2021 年 7 月 22 日，荷兰数据保护局因为 tiktok 没提供完整荷语版隐私政策声明决定对字节跳动旗下短视频社交平台 TikTok 处以 75 万欧元的罚款，这也是 GDPR实施三年以来，中国企业第一次因违反 GDPR 相关条款而遭受处罚。  此次欧盟推出的人工智能法案通过风险分级进行监管是核心。目前《人工智能法》提案基于 AI 细分业务可能产生的风险分为四个等级——不可接受风险、高风险、有限风险和最小风险，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。  法案明令禁止被分为不可接受风险的 AI 领域细分项，其被定义为对人们的安全、生计和权利有明显威胁的人工智能系统，关键词为伤害、评分和生物识别。举例而言，在公共可访问的空间中使用“实时”远程生物识别的人工智能产品，其应用后期的数据监管以及下游产业链的发展可能会有新的行业规范。  法案对分类为高风险的人工智能产品和服务规定了严格的前置审查程序和全过程合规义务，包括关键基础设施、教育、涉及安全的设备、分类系统、公共服务系统等。关键基础设施，例如交通；公民教育、职业培训，例如考试评分；产品的安全组件，例如 AI 在机器人辅助手术中的应用；公民就业、员工管理，例如履历分类软件，基本的私人和公共服务，例如信用评分；可能干涉公民基本权利的执法，例如评断证据可靠性的系统；移民和边境控制管理，例如核实文件真实性的系统；司法和民主进程中的 AI 应用等。  最后对有限风险和低风险监管较为宽松，被分类为有限风险的产品需要遵循透明度要求，典型的产品包括深度伪造、人机互动人工智能系统、人工智能的表情识别系统和生物分类系统。低风险暂时无管理审批要求。  我国在 2023 年之后加快了 AI 产业发展监管的速度，2023 年 4 月 11 日国家互联网信息办公室发布《生成式人工智能服务管理办法》，要求“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。 2023 年 6 月网信办发布境内深度合成服务算法备案清单，针对生成式算法的法规标准化步伐正在加速推进。2023 年 6 月初国务院办公厅印发的 2023 年度立法工作计划，《人工智能法》的草案已经预备提请全国人大常委会审议。  根据 AI 全球监管框架，我们重点关注从数据端和模型算法端两块的监管路径，数据端我国在 2022 年12 月发布《关于构建数据基础制度更好发挥数据要素作用的意见》，明确提出了建立公共数据、个人数据、企业数据三类数据分类分级确权授权制度，并创造性地提出了数据资源、持有权、数据加工使用权、数据产品经营权等分支的产品运行。随后在今年组建国家数据局，负责协调推进数据基础制度建设，统筹数据资源整合共享和开发利用，这对未来我国在 AI 产业数据的使用提供了良好的路径，后续关注数据局成立后对于算法的相关管理规则，持续建议关注数字经济产业链投资机遇。  风险提示：政策推进不及预期 请务必仔细阅读正文之后的各项信息披露与声明 策略研究 请务必仔细阅读正文之后的各项信息披露与声明 第 2 页 共 11 页 简单金融 成就梦想 1.欧盟人工智能法案从 2021 年已经开始制定 ......................4 2.欧盟从 GDPR 到人工智能法一直引领全球数据保护 .........4 3．通过四级风险管理 AI 产业趋势 .......................................6 3.1 不可接受风险明令禁止 ..........................................................................6 3.2 高风险业务需要受到全过程监管 ..........................................................6 3.3 对有限风险和低风险监管更为宽松 ......................................................8 4．此次立法对中国人工智能发展的影响 ..............................8 目录 策略研究 请务必仔细阅读正文之后的各项信息披露与声明 第 3 页 共 11 页 简单金融 成就梦想 图表目录 图 1：欧盟 AI 法律时间制定表 .......................................................................... 4 图 2：欧盟罚款次数累计（单位：个） ............................................................... 5 图 3：欧盟罚款总额（累计）变化（单位：欧元） .............................................. 5 图 4：欧盟各国罚款次数最多的国家（单位：次） .............................................. 5 图 5：欧盟各国罚款最高的国家（单位：欧元）.................................................. 5 图 6：禁止类风险相关内容概括 ..