可信人工智能治理白皮书

本报告版权属于出品方所有，并受法律保护。转载、摘编或利用其他方式使用报告文字或者观点的，应注明来源。违反上述声明者，本单位将追究其相关法律责任。COPYRIGHT STATEMENT出品方安永（中国）企业咨询有限公司上海市人工智能与社会发展研究会版权声明前 言FOREWORD21 世纪人类社会迎来了前所未有的技术革命——人工智能（AI）的兴起。它以迅雷不及掩耳之势，渗透到我们生活的方方面面，重塑着我们的认知和社会格局。它不仅极大地提高了生产效率，还为解决复杂的社会问题提供了新的视角和工具。然而，随着 AI 技术的迅猛发展，其所带来的伦理、法律和社会问题也日益凸显，如何确保 AI 技术的“可信”属性，成为全球关注的焦点。在此背景下，《可信人工智能治理白皮书》应运而生。本白皮书由安永（中国）企业咨询有限公司和上海市人工智能社会发展研究会联合撰写，旨在深入探讨人工智能的全球发展态势、监管体系、可信原则、关键问题、企业合规要求、风险治理理论、进阶工具以及行业洞察等多个方面。我们希望通过这份白皮书，为政策制定者、企业管理者、技术开发者以及所有关心 AI 发展的读者，提供一份全面、深入、客观的参考和指导。在这份白皮书中，我们将重点探讨“可信人工智能”的内涵，分析其在算法透明度、数据安全、伦理道德等方面所面临的挑战。同时，我们也将关注企业在 AI 应用中的合规要求以及风险治理这一 AI 发展中的重要议题。本白皮书将详细阐述风险治理架构的构建，以及如何在 AI 的生命周期中实施有效的风险管理。此外，我们还将介绍企业 AI 治理的进阶工具——可信 AI 等级标识，为企业构建和完善自身的 AI 治理体系提供实用的指导。在提供有效的 AI 治理工具的同时，我们也将聚焦具有启发性的行业实践。我们将深入分析汽车、医药、零售、服务等行业在 AI 应用上的现状和挑战，以及这些行业如何构建和运营自己的 AI 管理体系。通过这些行业案例，我们希望能够为读者提供具体的行业应用视角，以及在实际操作中可能遇到的问题和解决方案。在这份白皮书的撰写过程中，我们深刻感受到 AI 技术的发展不仅仅是技术层面的突破，更是对人类社会价值观、伦理道德和法律体系的一次全面考验。我们相信，只有通过不断提高对风险的把控能力，预判、分析和应对潜在的治理问题，建立起一套公正、透明、高效的 AI 治理体系，才能确保 AI 技术的健康发展，让它成为推动人类社会进步的正能量。在此，我们诚挚地邀请您一同走进 AI 的世界，探索其无限可能，同时也思考和面对它所带来的挑战。让我们携手前行，在 AI 的时代中，共同寻找可信 AI 实现的最佳路径。目录Comtents可信人工智能治理 白皮书第一章 全球人工智能发展与监管体系第二章 人工智能的可信原则第三章 可信人工智能的关键问题第四章 企业级 AI 的合规要求158121.1 全球人工智能发展概述 1.1.1 欧盟人工智能发展 1.1.2 美国人工智能发展 1.1.3 中国人工智能发展1.2 “可信人工智能”概念提出1112356689910101010101011111112121213131314151516162.1 G20 人工智能可信原则 2.2 欧盟可信人工智能原则2.3 安永观点：可信人工智能原则3.1 算法黑箱与信息茧房问题3.2 算法偏见问题3.3 数据安全问题 3.3.1 底层数据源 3.3.2 数据泄露 3.3.3 出海涉及相关数据出境规制3.4 内生安全问题 3.4.1 人工智能基础设施安全风险 3.4.2 数据安全风险 3.4.3 模型安全风险 3.4.4 应用服务安全风险3.5 科技伦理问题4.1 资质监管要求 4.1.1 互联网信息服务提供者的基础资质 4.1.2 提供具体服务的特殊资质4.2 算法合规要求 4.2.1 算法备案要求 4.2.2 算法评估要求 4.2.3 算法透明性要求4.3 内容合规要求 4.3.1 生成内容审核义务 4.3.2 生成内容标识义务 4.3.3 建立投诉举报机制目录Comtents可信人工智能治理 白皮书第五章 人工智能风险治理第六章 企业 AI 治理进阶工具第七章 行业洞察与 AI 治理情况调研5.1 风险治理架构 5.1.1 风险治理架构对企业的指导 5.1.2 风险治理架构对创新的推动 5.1.3 风险治理架构对市场的维护5.2 生命周期风险治理 5.2.1 风险管理左移 5.2.2 敏捷管理模式 5.2.3 审慎评估及监控5.3 人员风险治理6.1 AI 治理国际标准 6.1.1 ISO 42001 的意义与价值 6.1.2 ISO 42001 内容简介6.2 AI 治理可信等级管理 6.2.1 可信 AI 治理等级标识 6.2.2 可信 AI 治理等级标识服务 6.2.3 可信 AI 治理重点领域解析7.1 汽车行业调研 7.1.1 汽车行业人工智能技术的应用 7.1.2 汽车行业对人工智能技术应用的普遍认知 7.1.3 汽车行业人工智能技术应用的挑战 7.1.4 汽车行业人工智能管理体系的搭建与运营7.2 医药行业调研 7.2.1 医药行业人工智能技术的应用 7.2.2 医药行业对人工智能技术应用的普遍认知 7.2.3 医药行业人工智能技术应用的挑战 7.2.4 医药行业人工智能管理体系的搭建与运营7.3 零售行业调研 7.3.1 零售行业人工智能技术的应用 7.3.2 零售行业对人工智能技术应用的普遍认知 7.3.3 零售行业人工智能技术应用的挑战 7.3.4 零售行业人工智能管理体系的搭建和运营17232817181819192020212223232424242525282828292929303030313131323232目录Comtents可信人工智能治理 白皮书第七章 行业洞察与 AI 治理情况调研第八章 AI 应用的典型案例结语参考文献7.4 服务行业调研 7.4.1 服务行业人工智能的应用 7.4.2 服务行业对人工智能技术应用的普遍认知 7.4.3 服务行业人工智能技术应用的挑战 7.4.4 服务行业人工智能管理体系的搭建与运营8.1 典型案例一：某互联网平台公司内部人工智能技术应用 8.1.1 人工智能技术使用现状 8.1.2 人工智能模型使用与评估 8.1.3 人工智能技术投入分析8.2 典型案例二：典型案例二：某汽车公司内部人工智能技术应用 8.2.1 人工智能模型使用现状 8.2.2 人工智能模型使用与评估 8.2.3 人工智能技术投入分析2836393933333434353636363737373838全球人工智能发展与监管体系第一章截至 2024 年，全球共有 69 个国家和地区制定了人工智能相关政策和立法，涵盖了从 AI 治理、隐私保护、数据监管到伦理规范等广泛的主题，反映了各国对 AI 技术发展的重视及其潜在风险的管理需求。以下国家或地区明确针对人工智能出台了立法或监管要求：1.1.1 欧盟人工智能发展欧盟《人工智能法案》是全球首部全面且具影响力的人工智能法规，于2024年5月21日获批通过，并于 202