DeepSeek：智能时代的全面到来和人机协作的新常态

DeepSeek智能时代的全面到来和人机协作的新常态孙凌云 教授计算机科学与技术学院2 0 2 5 年2 月大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙一、智能演变二、人机协作三、产业现状四、教育成长大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙3维基百科书籍杂志期刊Reddit链接Common Crawl其他数据总计GPT-14.64.6GPT-24040GPT-311.42110150570753The Pile v1611824463227167825Megatron-11B11.44.638107161MT-NLG6.411877639831271374Gopher12.52100164.43450482310550从 2018 年的 GPT-1 到 2020 年的 GPT-3，模型预训练数据量从 4.6GB 增加到了 45TB45TB 相当于三千万本《西游记》主要模型数据集包括：- 维基百科数据集（庞大的客观知识）- 书籍（故事讲述能力与反应）- 杂志期刊（语言生成的严谨）- Github代码等其他数据（逻辑推理）GPT训练数据规模史无前例表：主要数据集大小汇总，以GB为单位。公开的数据集以粗体表示，确定的数据以斜体表示。Common Crawl数据集过滤之前为45T来源： OpenAI团队，Language Models are Few-Shot Learners， https://arxiv.org/abs/2005.14165 ，2022年7月22日大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙4由AI （DeepSeek R1）搜集并整理，经人工检查对比维度GPT-3DeepSeek-V3发布时间2020年6月2024年12月训练数据量3000亿token14.8万亿token参数量175B（密集架构）671B（MoE架构）训练成本$12M$5.57M激活参数量175B（全激活）37B（5.5%激活率）主要数据类型通用互联网文本（含代码/数学）强化代码/数学的高质量数据官方来源OpenAI技术论文HuggingFace模型卡大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙多媒体知识空间全体人类知识空间大模型知识空间个体知识空间观点来自：北京大学黄铁军教授 . 2023年3月31日大模型带来大知识大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙三体人如何学习地球知识？大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙三体人如何学习地球知识？电磁波探测器拯救派大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙三体人如何学习地球知识？电磁波探测器拯救派地 球 文 明 信 息原 始 数 据 、 无 目 标 性探 测 器 搜 集 数 据 集精 准 观 察 、 查 漏 补 缺人 类 反 馈 实 现 对 齐动 态 反 馈 、 价 值 博 弈大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙三体人如何学习地球知识？电磁波探测器拯救派地 球 文 明 信 息原 始 数 据 、 无 目 标 性探 测 器 搜 集 数 据 集精 准 观 察 、 查 漏 补 缺人 类 反 馈 实 现 对 齐动 态 反 馈 、 价 值 博 弈原 始 数 据 基 建定 向 能 力 强 化价 值 观 校 准大学人工智能教育教学研究中心心教学研究中心工智能教育教学研究中心江大学人工智能教育教学研究中心智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究中心浙江大学人工智能教育教学研究浙江大学人工智能教浙江大学人工智能教育教学研究浙江大学人工智能教育教浙江大学人工浙三体人如何学习地球知识？电磁波探测器拯救派预 训 练P r e - t r a i n i n g监 督 微 调S u p e r v i