3.DeepSeek本地部署

最近总有粉丝问我如何解决 DeepSeek 服务器繁忙的问题，除了半夜爬起来用，有没有别的办法，给大家提供三个解决办法，各位可以根据自身情况选择适合自己的方案，本文将会介绍如何实现 DeepSeek 的本地部署。本地部署可以解决：网络繁忙问题、数据安全问题等。但是由于不联网会存在部分内容不是最新的，另外本地部署的 UI 界面如果没有单独设置，会存在比较“丑”的问题。一、本地部署的环境要求在开始 DeepSeek 的部署之前，了解其系统环境要求、选择合适的部署方式以及掌握安装与配置的步骤是至关重要的。1、硬件配置（1）基础场景（7B-13B 参数模型）：GPU：NVIDIA A10/A100（单卡，显存≥24GBCPU：Intel Xeon Silver 4310（8 核以上）内存：≥64GB DDR4存储：≥500GB SSD（建议 NVMe 协议加速加载）（2）中等规模（13B-70B 参数模型）：GPU：2-4 块 NVIDIA A100 80GB（需 NVLINK 互联）内存：≥128GB DDR4 ECC（3）个人测试/轻量级：最低要求：NVIDIA 显卡（显存≥8GB，如 RTX 3060）、16GB 内存、SSD 硬盘。2、软件环境（1）操作系统：推荐 Ubuntu 20.04/22.04 LTS（Linux 兼容性最佳），Windows/macOS需额外配置。（2）工具依赖：Ollama（开源本地大模型运行工具）Python 3.x 及必要库（如 numpy、pandas）Docker（可选，用于容器化部署）。（3）网络要求本地部署需保证千兆以太网；云端部署需稳定公网带宽（推荐≥100Mbps）。型参数规模典型用途CPU 建议GPU 建议内存(RAM)建议磁盘空间建议适用场景1.5b(15亿)小型推理、轻量级任务4 核以上 (Intel i5/ AMD Ryzen 5)可选，入门级 GPU (如NVIDIA GTX 1650,4GB 显存)8GB10GB 以上 SSD小型 NLP 任务、文本生成、简单分类7b (70亿)中等推理、通用任务6 核以上 (Intel i7/ AMD Ryzen 7)中端 GPU (如NVIDIA RTX 3060,12GB 显存)16GB20GB 以上 SSD中等规模 NLP、对话系统、文本分析14b(140亿)中大型推理、复杂任务8 核以上 (Intel i9/ AMD Ryzen 9)高端 GPU (如NVIDIA RTX 3090,24GB 显存)32GB50GB 以上 SSD复杂 NLP、多轮对话、知识问答32b(320亿)大型推理、高性能任务12 核以上 (IntelXeon / AMDThreadripper)高性能 GPU (如NVIDIA A100, 40GB显存)64GB100GB以上SSD大规模 NLP、多模态任务、研究用途70b超大规模推16 核以上 (服务多 GPU 并行 (如 2x128GB200GB超大规模模型、严禁复制(700亿)理、研究任务器级 CPU)NVIDIA A100, 80GB显存)以上SSD研究、企业级应用671b(6710亿)超大规模训练、企业级任务服务器级 CPU(如 AMD EPYC /Intel Xeon)多 GPU 集群 (如 8xNVIDIA A100, 320GB显存)256GB或更高1TB 以上NVMeSSD超大规模训练、企业级 AI 平台二、本地部署详细步骤（以 Ollama 为例）目前 DeepSeek 的部署主要是 Ollama 以及 LM Studio 两种方式，本文的本地部署步骤以 Ollama 为例。1、 本地部署步骤1访问 Ollama 官网下载对应系统安装包（Windows/macOS/Linux），务必下载最新安装包，旧版本有可能不支持 DeepSeek。（官网地址：https://ollama.com/download）。Ollama 官网2双击运行 Ollama 后，打开命令行，运行需要安装的模型(参数越大，显存要求越高)，DeepSeek-R1 安装地址：https://ollama.com/library/deepseek-r1严禁复制DeepSeek-R1 安装地址3安装后通过命令行验证：ollama --version，显示版本号即成功，就可以在本地跟DeepSeek 对话了。严禁复制DeepSeek-R1 本地部署对话示例4显存不足时可选择量化版本（如 INT8）降低资源占用5安装 Chatbox（网页版或客户端），连接 Ollama API 实现图形化操作Ollama、DeepSeek、ChatBox 三者关系6还可以用 Cherry Studio 作为本地 R1 模型的 UI 界面打开软件的配置，选择 Ollama，在管理按钮中选择自己部署的模型。如果选不到,就手动添加模型。Cherry Studio 界面最后点击检查，测试下网络连通性，出现连接成功严禁复制连接成功接下来就可以在添加助手时，选择本地部署的 R1 模型选择本地部署的 R1 模型严禁复制