DeepSeek入门宝典-技术解析篇-51CTO

DeepSeek是什么？• DeepSeek 是什么？• DeepSeek R1的三大特点• 使用DeepSeek的五种方式对比DeepSeek 是什么？ •DeepSeek是幻方量化于2023年创立的大模型子公司，创始人为梁文锋•2024年1月5日，其发布第一个同名AI大模型 DeepSeek LLM•2025年1月20日，DeepSeek R1正式发布，为对标 OpenAI o1正式版的高性能推理模型； R1上线后火速出圈，其应用创造了全球 APP 历史上增长最快的记录 图片来源：AI产品榜图片来源：DeepSeek官网推理表现媲美OpenAI o1正式版R1开源，并公开训练技术，允许开发者访问和学习R1开发成本仅为OpenAI o1的2%左右图注：DeepSeek与OpenAI各版本的准确率对比（图片来源：DeepSeek官网）DeepSeek R1的三大特点高性能开源低成本使用DeepSeek的五种方式对比普通用户作为生产力工具及技术尝鲜https://chat.deepseek.com/开发者、企业用户保障访问稳定性和可扩展性https://deepseekapi.io/可借助Ollama、vLLM 和 MNN等工具硅基流动、腾讯云、阿里云等https://chat.deepseek.com/官网APPAPI本地部署云平台DeepSeek R1核心技术揭秘• R1的基座模型——V3• R1的三种变体• R1训练的技术路径• R1的核心技术解析• R1的关键技术贡献R1的基座模型：V3V3模型的特征•V3是去年12月发布的自研 MoE 模型•参数与GPT-4大致在同一数量级： V3 有671B 参数，每个Token的计算激活约37B•在 14.8T token 上进行了预训练R1在DeepSeek V3基础上进行了开发图注：DeepSeek V3与发布时其他主流大模型的准确率对比（图片来源：DeepSeek官网）•V3：对标GPT-4o ，通过指令微调和偏好微调提升性能•R1：专注于推理能力R1的三种变体DeepSeek V3R1-ZeroR1DeepSeek-R1-Distill基座模型变体 1变体2变体3直接强化学习训练多阶段渐进训练模型蒸馏R1训练的技术路径原图作者：Sebastian RaschkaR1的核心技术解析：强化学习图片来源：《基于场景动力学和强化学习的自动驾驶边缘测试场景生成方法》R1采用了多种奖励的强化学习，相当于模型的“综合评分系统”，模型在完成任务时根据多个标准获得不同的奖励信号。R1的核心技术解析：冷启动数据R1 策略性地将少量高质量数据作为冷启动。这相当于训练开始前的“入门教程”，帮助模型更快地学会如何进行清晰、有逻辑的推理。R1-Zero生成的 长 思 维 链(CoT)数据挑选示例R1的冷启动数据R1的核心技术解析：监督微调图片来源：《PORT: Preference Optimization on Reasoning Traces》R1训练包括两个监督微调 (SFT) 阶段。模型通过学习标注数据来调整模型，以在特定任务上表现得更精准。R1的核心技术解析：蒸馏图片来源：https://devopedia.org/knowledge-distillationR1-Distill采用蒸馏技术。大模型（老师）把自己的知识和推理能力教给小模型（学生），通过高质量的数据和训练方法，让小模型学会大模型的推理技巧。关键贡献1： “纯RL”技术路线的可行性首个公开研究，验证了LLMs的推理能力可以仅通过强化学习激励，而无需监督微调。图注：随着RL训练逐步推进，R1-Zero的性能稳定且持续提升（图片来源： DeepSeek官方论文）关键贡献2 ：R1的“啊哈时刻”图注：在处理复杂的数学问题时，模型突然停下来说“等等、等等、这是个值得标记的啊哈时刻”（图片来源： DeepSeek官方论文）DeepSeek R1在推理时使用诸如“啊哈时刻”的高度拟人化语言，在解题找到突破口时产生了顿悟，被视为走向AGI的重要一步。图注： DeepSeek R1 的推理过程关键贡献3： 蒸馏小模型超越 OpenAI o1-mini图注：通过 DeepSeek-R1 的输出，蒸馏了 6 个小模型开源给社区（图片来源： DeepSeek官方论文）蒸馏小模型的高性能，证明了该策略的经济和有效，但想要突破当前智能的边界，或仍需要更大规模的基础模型与强化学习。DeepSeek技术贡献及未来进化• R1与OpenAI o1的三大区别• R1的四大进化方向• 附录：DeepSeek产品家族全梳理DeepSeek R1 与 OpenAI o1 的三大区别 架构不同训练方式不同生态不同R1：基于已有模型DeepSeek V3R1：证明可以仅通过强化学习激励，无需监督微调R1：开源，免费使用o1：不同于GPT-4o的新模型o1：监督微调和强化学习结合o1：闭源，ChatGPT Plus会员才可访问o1及o1 miniR1的四大进化方向通用能力R1在一些复杂任务上的表现不如V3，未来可以通过长链推理来提升语言混合优化R1处理中英文以外语言的能力，避免现在的语言混合问题提示工程R1对提示很敏感，少量示例提示会降低性能软件工程任务从软件工程数据、强化学习的异步评估入手，缩短评估时长，保障强化学习过程的效率附：DeepSeek产品家族全梳理图表来源：国海证券更多DeepSeek及AI学习资源 DeepSeek官网访问官网，可深入了解最新研究成果，获取源代码及官方提示词样例库等资源。https://www.deepseek.com51CTO官网AI.x专区，获取DeepSeek及AI最新资讯、实战文章、实用资源及AI实战派大咖直播分享。https://ai.51cto.com超过200门、超过1000小时AI（含DeepSeek）主题视频课程可供个人和企业学习。https://b.51cto.com图注：51CTO企业学堂推出的企业DeepSeek体系化学习方案51CTO官网AI专区51CTO在线课程DeepSeek专区