平衡发展的AI治理白皮书-商汤

“平衡发展”的人工智能治理 白皮书 ——商汤人工智能伦理治理年度报告（2022 年） 人工智能伦理与治理委员会 2022 年 9 月 2 目录 【关于商汤】 ............................................................................. 3 【关于本报告】 ......................................................................... 5 一、人工智能发展与治理概述 ................................................ 6 二、商汤的人工智能治理思考 ............................................. 10 三、商汤的人工智能治理理念 ............................................. 13 四、商汤的人工智能治理目标 ............................................. 16 五、商汤的人工智能治理实践 ............................................. 18 六、合乎伦理的产品设计实践 ............................................. 26 3 【关于商汤】 作为人工智能软件公司，商汤科技以“坚持原创，让 AI 引领人类进步”为使命，“以人工智能实现物理世界和数字世界的连接，促进社会生产力可持续发展，并为人们带来更好的虚实结合生活体验”为愿景，旨在持续引领人工智能前沿研究，持续打造更具拓展性更普惠的人工智能软件平台，推动经济、社会和人类的发展，并持续吸引及培养顶尖人才，共同塑造未来。 商汤科技拥有深厚的学术积累，并长期投入于原创技术研究，不断增强行业领先的全栈式人工智能能力，涵盖感知智能、决策智能、智能内容生成和智能内容增强等关键技术领域，同时包含 AI 芯片、AI 传感器及 AI 算力基础设施在内的关键能力。此外，商汤前瞻性打造新型人工智能基础设施——SenseCore 商汤 AI 大装置，打通算力、算法和平台，大幅降低人工智能生产要素价格，实现高效率、低成本、4 规模化的 AI 创新和落地，进而打通商业价值闭环，解决长尾应用问题，推动人工智能进入工业化发展阶段。 商汤科技业务涵盖智慧商业、智慧城市、智慧生活、智能汽车四大板块，相关产品与解决方案深受客户与合作伙伴好评。 商汤科技坚持“平衡发展”的伦理观，倡导“可持续发展、以人为本、技术可控”的伦理原则，实行严格的产品伦理风险审查机制，建设全面的 AI 伦理治理体系，并积极探索数据治理、算法治理相关的检测工具和技术手段，致力于将伦理原则嵌入到产品设计、开发、部署的全生命周期，发展负责任且可评估的人工智能。 目前，商汤科技（股票代码：0020.HK）已于香港交易所主板挂牌上市。商汤科技现已在香港、上海、北京、深圳、成都、杭州、南平、青岛、三亚、西安、台北、澳门、京都、东京、新加坡、利雅得、阿布扎比、迪拜、吉隆坡、首尔等地设立办公室。另外，商汤科技在泰国、印度尼西亚、菲律宾等国家均有业务。 5 【关于本报告】 商汤科技（以下简称“商汤”、“公司”或“我们”）主动向社会公众报告公司的人工智能伦理与治理情况，让全社会了解、监督商汤的人工智能伦理与治理工作。 商汤面向社会各界发布人工智能伦理与治理报告，旨在通过及时披露商汤的人工智能伦理治理理念和实践，促进商汤与利益相关方以及社会公众之间的了解、沟通与互动，推动发展负责任且可评估的人工智能。 作为商汤科技人工智能伦理与治理的年度报告，本报告于 2022年 9 月以中英文版本面向全球发布，如对本报告有任何建议和意见，请通过以下方式与商汤联系： 电子邮箱：aiethics.committee@sensetime.com 6 一、人工智能发展与治理概述 “2010 年前后，人工智能步入新发展阶段，算力和数据成为主要驱动。此阶段的人工智能，某种程度上不再以人的认知为依据，其规则跳出了当前人的认知边界，引发更多有关治理的探讨” ——商汤科技 CEO，徐立 过去十年，人工智能技术在深度学习、大数据，以及“摩尔定律”的支撑下取得一个又一个突破性进展，在计算机视觉、自然语言处理、语音识别等不同细分领域实现商业化落地。截至目前，人工智能已在城市治理、教育、金融、医疗、零售、交通、文娱、制造等众多场景获得广泛应用，并正加速向科学研究、文艺创作等知识拓展类场景渗透。人工智能作为一项通用目的技术，正在被广泛的认可和采用，一个泛在智能的时代正在加速到来。 纵观历史，通用目的技术在推动社会生产力实现跃迁的同时，不可避免地会对原有的社会生产关系带来革命性影响。这一规律同样适用于人工智能，尤其是，当数据驱动的人工智能突破人类既有认知的边界时，其对原有社会生产关系形成的冲击将比以往任何一次技术革命都要强烈。即便在尚处于“弱人工智能”阶段的当下，人们对自动化决策系统鲁棒性、公平性的关切，对算法推荐、深度合成以及生物特征信息识别技术滥用的担忧，无不清晰地表明，如果不能尽快就人工智能的发展目标、发展方式以及应用规范等问题达成广泛共识，人工智能技术走向规模应用将持续面临信任挑战。 正因如此，人工智能治理在过去十年里同样获得了企业、政府机7 构、国际组织、社会团体等多利益相关方的高度重视，并取得显著进展。目前，人工智能治理已经进入落地实践的阶段。从发展历程看，人工智能治理至今已经走过了三个阶段： 图 1 全球人工智能治理发展历程 资料来源：商汤智能产业研究院 ⚫ 人工智能治理的 1.0 阶段：起于 2016 年，以原则讨论为主。哈佛大学 Jessica Fjeld 等1在研究中将人工智能治理 1.0 阶段的开端定位于 2016 年 9 月，由 Google、Facebook、IBM、亚 马 逊 和 微 软 等 美 国 企 业 发 布 的 《 Principles of Partnership on AI》。Anna Jobin 等2通过梳理来自全球 84份人工智能伦理相关的原则或准则文件同样发现，2016 年之后发布的占比高达 88%；其中，私营企业和政府部门发布的文件数量分别占比 22.6%和 21.4%。 ⚫ 人工智能治理的 2.0 阶段：起于 2020 年，以政策讨论为主。2020 年 2 月，欧盟委员会发布《人工智能白皮书》，在全球率先提出了“基于风险的人工智能监管框架”。此后，主要国家纷纷跟进，均在不同程度开展了监管人工智能相关技术及应用的探索。因此，2020 年也常被称为“人工智能监管元年”。 1 https://cyber.harvard.edu/publication/2020/principled-ai 2 https://doi.org/10.1038/s42256-019-0088-2 8 据经合组织（OECD）的统计3，全球已有