从ChatGPT看AI未来趋势和挑战

从 ChatGPT 看 AI 未来趋势和挑战桑基韬1,2　于　剑1,21 （北京交通大学计算机学院　北京　100044）2 （交通数据分析与挖掘北京市重点实验室（北京交通大学）　北京　100044） （jtsang@bjtu.edu.cn）ChatGPT: A Glimpse into AI’s FutureSang Jitao1,2 and Yu Jian1,21 （School of Computer and Information Technology, Beijing Jiaotong University, Beijing 100044）2 （Beijing Key Laboratory of Traffic Data Analysis and Mining (Beijing Jiaotong University), Beijing 100044）Abstract　 ChatGPT has been a significant breakthrough and drawn widespread attention. ChatGPT’s role in AIdevelopment and its future impact is examined in this paper. We first introduce ChatGPT’s exceptional dialoguegeneration capabilities, enabling it to handle nearly all natural language processing tasks and be applied as a datagenerator, knowledge mining tool, model dispatcher, and natural interaction interface. We then analyze ChatGPT’slimitations in factual errors, toxic content generation, safety, fairness, interpretability, and data privacy, and discussthe importance of clarifying its capability boundaries. After that, we analyze the concept of truth and explain whyChatGPT cannot distinguish truth from falsehood from the non-equivalence of three references. In discussing AI'sfuture, we analyze mid-to-short term technological trends and the long-term development path from the relationshipbetween perception, cognition, emotion, and behavioral intelligence. Lastly, we explore ChatGPT’s potential impacton cognitive cost, education, Turing Test understanding, academia’s opportunities and challenges, informationcocoons, energy and environmental issues, and productivity enhancement.Key words　ChatGPT；AI development；dialogue generation；technical challenge；trustworthy AI；social impact摘　要　在人工智能领域，ChatGPT 作为一种重要的技术突破，引起了广泛的关注. 本文将探讨 ChatGPT 在人工智能发展中的地位及其对未来 AI 的影响. 首先，介绍了 ChatGPT 所展现出的优秀对话生成能力，使其几乎可以胜任所有自然语言处理任务，并将作为数据生成器、知识挖掘工具、模型调度员、自然交互界面在各种场景得到应用. 接着，分析了其在事实错误、毒害内容生成、安全性、公平性、可解释性、数据隐私等方面的局限，并讨论了作为辅助人类工具的 ChatGPT 明确能力边界和提高能力范围的重要性. 然后，从概念经典表示对“真”定义进行了分析，并从概念三指不等价的角度阐释性了 ChatGPT 无法区分真假的原因. 在论述 AI 未来时，从拓展应用、克服局限、探索理论分析了中短期技术趋势，并从感知、认知、情感、行为智能四个层面的关系讨论了长期发展路径. 最后，探讨了 ChatGPT 作为认知智能的代表，对包括认知成本、教育要求、图灵测试认识、学术界的机遇与挑战、信息茧房、能源环境问题和生产力提升等方面可能产生的影响.关键词　ChatGPT；人工智能发展；对话生成；技术挑战；可信 AI；社会影响 收稿日期：2023-04-10；修回日期：2023-04-12基金项目：北京市杰出青年基金项目 (JQ20023)；国家自然科学基金项目 (61832002)This work was supported by the Beijing Natural Science Foundation for Distinguished Young Scholars (JQ20023), and the National Natural ScienceFoundation of China (61832002).通信作者：于剑（jianyu@bjtu.edu.cn） 计 算 机 研 究 与 发 展DOI：10.7544/issn1000-1239.202330304Journal of Computer Research and Development60（6）：1191−1201，2023中图法分类号　TP391 2022 年 11 月 30 日，OpenAI 公司发布了一款名为 ChatGPT 的软件. 该软件在发布后的 5 天内，用户数量就超过了 100 万，2 个月内活跃用户数更是突破了 1 亿，成为了迄今为止增长速度最快的应用软件.该软件几乎可以完成自然语言处理的所有任务，因此在营销、客服、教育、娱乐、咨询、翻译等行业有着广阔的应用前景. 这一成功也激励了 OpenAI 首席执行官 Sam Altman，他于 2023 年 2 月 24 日发表了一篇 名 为“Planning for AGI and Beyond”的 文 章 ， 认 为AGI（artificial general intelligence，通用人工智能）是 AIsystems that are generally smarter than