攻略丨搭建属于自己的 DeepSeek,本地部署「手搓教程」在此!

2025年1月,DeepSeek 正式发布 DeepSeek-R1 推理大模型。DeepSeek-R1 成本价格低廉,性能卓越,在 AI 行业引起了广泛关注。

DeepSeek 提供了多种使用方式,满足不同用户的需求和场景。本地部署在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有显著优势。

本文详细讲解基于 Ollama+Docker+OpenWebUI 的本地化部署流程,并通过实例代码演示。

1.软硬件需求

1.1 硬件需求

DeepSeek R1 本地部署的硬件需求如下:

  • 基本推荐配置:CPU: 8核或以上,内存: 32GB或以上,存储: 100GB SSD或以上,GPU: NVIDIA GTX 1080或同等性能

  • DeepSeek-7B 推荐配置:RTX3060 以上显卡 + 16G以上 内存 + 50G SSD 存储空间

  • DeepSeek-70B 推荐配置:RTX4060 以上显卡 + 32G以上 内存 + 200G SSD 存储空间

本教程使用的硬件配置为:CPU: Intel i5-12490/3.00GHz,内存: 32GB,存储: 500GB SSD,GPU: NVIDIA GTX 3060。

1.2 软件依赖

DeepSeek R1 本地部署的软件依赖包括操作系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加速工具、版本控制、包管理工具、监控与日志工具以及安全工具。

本教程采用 macOS 操作版本、Python 3.11 版本、PyTorch 1.7 版本、Ollama。

2.Ollama 下载与安装

2.1 Ollama 的下载

Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。

官网地址:https://ollama.com/

下载地址:https://ollama.com/download

### 配置 DeepSeek 所需的 Python 环境 #### 1. 安装 Python 和 pip 为了确保 Python 已经正确安装,在命令行输入 `python --version` 或者对于某些操作系统可能是 `python3 --version` 来查看已安装的 Python 版本。如果未显示任何版本信息,则表示当前系统尚未安装 Python[^3]。 建议安装最新稳定版的 Python,这可以通过访问官方 Python 网站下载并按照指示完成安装过程。安装过程中,请务必勾选 "Add Python to PATH" 选项以便能够在任意位置调用 Python 命令。 #### 2. 创建虚拟环境 创建一个新的虚拟环境有助于隔离项目依赖关系,并保持全局 Python 环境整洁: ```bash python -m venv deepseek-env ``` 激活新创建的虚拟环境: - **Windows 用户** ```batchfile .\deepseek-env\Scripts\activate.bat ``` - **macOS/Linux 用户** ```bash source ./deepseek-env/bin/activate ``` 一旦激活了虚拟环境,终端提示符前应带有 `(deepseek-env)` 字样,表明正在使用该特定环境。 #### 3. 更新 pip 并安装必要的包 更新至最新的 pip 版本来获得更好的兼容性和安全性: ```bash pip install --upgrade pip ``` 接着可以利用 pip 安装 DeepSeek 及其所需的所有依赖项。通常情况下,这些需求会被记录在一个名为 requirements.txt 文件中;如果没有提供这样的文件,则可以直接通过 PyPI 安装 DeepSeek: ```bash pip install deepseek ``` #### 4. 测试安装情况 最后一步是对刚刚建立好的环境进行测试,确认一切正常工作。尝试运行简单的代码片段来加载 DeepSeek 库或执行其他基础操作,比如打印帮助文档等。 ---
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值