2023生成式人工智能服务合规发展白皮书

COMPLIANCE DEVELOPMENTWHITE PAPER【课题组负责人】胡 捷 （上海高级金融学院） 樊晓娟 （中伦律师事务所） 【课题组成员】甘泉、陈旖俐、沙俊、熊国君、郭子豪AIGCCOMPLIANCE DEVELOPMENTWHITE PAPERC O N T E N T S目 录 注:本文中大部分插图皆由midjourney生成。01> 生成式人工智能的概念和关键里程碑 02> 生成式人工智能的工作原理和技术机制012009一 览 了 然：生 成 式 人 工 智 能 技 术 观 察序[ 第 壹 篇 章 ]01401702703204001> 生成式人工智能的创新和场景拓展动向02> 生成式人工智能应用面临之难021履 险 蹈 危：研 判 生 成 式 人 工 智 能 的 演 进 和 风 险 挑 战[ 第 贰 篇 章 ]023029审 中 视 外：生 成 式 人 工 智 能 法 律 规 制 的现 行 状 况 和 发 展 动 向[ 第 叁 篇 章 ]01> 海外主要国家在生成式人工智能法律规制方面的现状和趋势02> 中国在生成式人工智能法律规制方面的现状和趋势 C O N T E N T S目 录 049条分缕析：《生成式人工智能服务管理暂行办法》解读 [ 第 肆 篇 章 ]01> 深化生成式人工智能规制设计02> 构建鲜明监管职能框架03> 规制落地的挑战056居 安 思 危：创 议 政 府 生 成 式 人 工 智 能 规 制 路 径[ 第 伍 篇 章 ]05706206301> 关于大模型提供与使用企业的思考02> 不同领域内应对方案03> 全面配合监管机构要求065以权达变：企业对生成式人工智能规制的应对和思考[ 第 陆 篇 章 ]068074078081结 语 P R E F A C E前 言生成式人工智能AIGC（Artificial Intelligence Generated Content）是人工智能1.0时代进入2.0时代的重要标志。AIGC既是从内容生产者视角进行分类的一类内容，又是一种内容生产方式，还是用于内容自动化生成的一类技术集合。2022年11月30日，美国人工智能公司OpenAI正式推出ChatGPT，一款基于大语言文本的智能对话模型。根据Lucintel发布的最新报告，未来全球人工智能市场在医疗保健、安全、零售、汽车、制造和金融技术领域增长迅速，预计到2025年将达到700亿美元，2020－2025年的复合年增长率为21%。生成式人工智能的发展已然成为必然趋势，但与此同时也伴随了许多新的问题。近日，人工智能安全中心（CAIS）发布了一份由OpenAI及DeepMind高管、图灵奖获得者及其他人工智能研究人员签署的简短声明，声明内容只有一句：“应该像对待包括流行病和核战争等其他全球性迫切社会问题一样，缓解AI引发的灭绝性风险。”警告称他们的毕生成果可能会毁灭全人类。AIGC对于文本、图像、语音、视频和代码等信息内容的生成与传播，涉及人们生产生活各个领域，既提高了人类的生产能力和生活质量，也在全社会引发了与AIGC相关的一系列争议、困惑和忧虑。为了促进AIGC的创新健康发展，我们全面梳理AIGC的发展历程、技术原理、应用场景和各国法律规定，试图为政府未来的监管和企业应对提供一些思路，共同追求AIGC领域始终坚持“人类中心主义”的原则，能够合法、合规地持续高质量发展。PAGE 009PAGE 010PREFACEAIGCCompliance DevelopmentWhite Paper技术观察演进和风险挑战企业应对和思考法律规制的现状和动向政府规制路径《生成式人工智能服务管理暂行办法》解读概念和关键里程碑创新和场景拓展动向海外主要国家关于大模型提供与使用企业的思考不同领域内应对方案全面配合监管机构要求中国职能框架落地挑战要求和调整规制设计应用面临之难数字人技术数据安全个人信息安全风险知识产权风险AI对齐风险、AI伦理风险及信任风险金融行业应用数据安全知识产权 伦理广告领域应用军备领域应用工作原理和技术机制行业应用场景生成式人工智能服务合规发展白皮书userid:206478,docid:141740,date:2023-09-28,sgpjbg.comC H A P T E R01一 览 了 然 ：生 成 式 人 工 智 能 技 术 观 察 PAGE 012CHAPTER 01AIGCCompliance DevelopmentWhite PaperS E C T I O N 0 0 1生成式人工智能的概念和关键里程碑生成式人工智能AIGC，与PGC（Professional Generated Content，专业生成内容）、UGC（User Generated Content，用户生成内容）相对应，指利用人工智能（Artificial Intelligence，AI）技术可根据用户需求自动生成与之匹配的内容。只需输入要求，生成式人工智能即可帮助创作者自动生成所需内容，创作者可花费更多时间进行主题构思并减少实际创作时间，提升工作效率和创作质量。生成式人工智能表现为一种高效的商业化内容生产方式，目前AI仍为内容制作的辅助型角色，待技术突破后AI可真正作为内容创作者，即生成式人工智能。人工智能的发展时期主要经历了四个阶段，在其发展过程中， AIGC的根本动力和逻辑都与互联网的发展紧密相连，最终落实到算力和数据两大基石的不断扩张。第一阶段为AI诞生以及规则驱动时期（1943—1980s）。该阶段主要为人工智能概念的诞生和方法论构建，受限于当时的科技水平，仅限于科研实验室内的小范围实验。1950年，艾伦•麦席森•图灵（Alan Mathison Turing）提出了“图灵测试”，其目的是检验机器是否可以表现出与人类难以区分的智能，这一想法引发了机器产生智能的探讨。1956年的达特茅斯会议首次提出了“人工智能”概念和理论，核心在于如何让机器使用语言、进行抽象思考和形成概念，让它们解决目前只能由人类解决的问题，并自我改善。这次会议后人工智能领域逐渐发展出符号学派、联结学派（神经网络）等分支，围绕如何构造人的智能连接进行了探索，重要成果包括了机器定理证明、跳棋程序和人机对话等。1957年Frank Rosenblatt设计了第一个计算机神经网络“感知机”，它被认为是第一个成功应用神经网络原理解PAGE 013PAGE 014CHAPTER 01AIGCCompliance DevelopmentWhite Paper决实际问题的算法。1958年赫伯特•西蒙和艾伦•纽厄尔演示了一个名为“逻辑推理家”的软件，被认为是第一个成功设计的人工智能程序。1966年约瑟夫•魏鲍姆和肯尼斯•科尔比共同开发了第一款可人机对话的机器人“伊莉莎（Eliza）”，其通过关键字扫描和重组完成交互任务。从上面的研究结果可以看出，早期探索阶段主要围绕如何模拟人类思维展开，通过人工设计规则来实现预定目标。第二阶段为知识系统时期（1980s）。该阶段人工智能不仅局限于通过模式化的算法逻辑解决问题，还需要