公司内网部署离线deepseek本地模型实战

原创 已于 2025-05-27 08:50:00 修改 · 624 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#deepseek

于 2025-04-06 14:17:24 首次发布

企业内部可能有些数据比较敏感，不能连接互联网。使用deepseek来提高工作效率，这个时候你可以利用ollama在内网本地部署来实现。

本实验是先在自己电脑上用虚拟机部署好，再用U盘把虚拟机文件复制到内网去。

一、使用VMware新建WIN2022虚拟机

（本步骤省略）

二、使用ollama部署本地LLM模型

  1. 下载ollama
    官网https://ollama.com/下载自已电脑对应的ollama 版本。

在这里插入图片描述
在这里插入图片描述
下载太慢的请看这里，我用移动的宽带下特别快
两个文件下到同一目录，用360解压缩
https://download.youkuaiyun.com/download/xzzteach/90571904
https://download.youkuaiyun.com/download/xzzteach/90571885

  1. 安装ollama

注意：
Ollama安装包默认只能安装到C盘，Ollama本身大概会占用4GB左右；
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可；
建议将Ollama安装包放到想要安装的路径下，本实验安装在 D:\Ollama

  1. 在安装文件目录中进入CMD

在这里插入图片描述
2. 输入安装指令

OllamaSetup.exe /DIR=D:\Ollama

在这里插入图片描述
在这里插入图片描述

  1. 本地部署DeepSeek
    选择模型并下载
    打开Ollama官网，点击顶部的Models链接，此时我们就会看到deepseek-r1模型排在第一位，如下图所示：

在这里插入图片描述

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

在这里插入图片描述

在这里插入图片描述
4. 搭建个人知识库
输入指令

ollama pull shaw/dmeta-embedding-zh

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  1. 安装python3.11
    https://download.youkuaiyun.com/download/xzzteach/90572963
  2. 安装Open WebUI
pip install open-webui -i https://mirrors.aliyun.com/pypi/simple/
  1. 启动Open WebUI
open-webui serve

启动后，你可以通过访问 http://localhost:8080来访问 Open WebUI 的 Web 界面，如果需要其他电脑访问，将以上localhost改为服务器IP地址。

首次访问 Open WebUI 时，你将会看到一个登录界面。在这个界面上，你需要创建一个管理员账号。输入必要的信息后，你将能够访问管理员面板，进行模型管理和 API 配置。

在这里插入图片描述
在管理员面板中，你需要配置 Ollama 的 API。点击相应的设置选项，输入你安装 Ollama 时生成的 API 地址和密钥。确保配置正确，这样 Open WebUI 才能成功连接到 Ollama 并调用 Deepseek-R1-14b 模型进行推理。
在这里插入图片描述

二、将C盘知识库存入D盘

在这里插入图片描述
在这里插入图片描述
C:\Users\Administrator\AppData\Roaming\CherryStudio链接至D:\CherryStudio

将C:\Users\Administrator\AppData\Roaming\CherryStudio整个目录剪切至D盘

输入如下命令

mklink /D "C:\Users\Administrator\AppData\Roaming\CherryStudio" "D:\CherryStudio"

在这里插入图片描述

windows平台本地部署DeepSeek大模型+Open WebUI网页界面（可以离线使用）
Navy的博客
02-09 3586
windows平台本地部署DeepSeek大模型+Open WebUI网页界面
国产大模型 API 怎么封装才最香？FastAPI / Flask / vLLM / 本地服务全方案对比
最新发布
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
04-03 1216
FastAPI 是目前国产模型 API 封装🚀速度快：基于 Starlette，支持异步✅结构清晰：路径定义灵活，文档自动生成💡兼容性强：可模拟 OpenAI API 格式🔧易集成：可快速接入日志、限流、权限等中间件FastAPI 是目前国产模型 API 封装🚀速度快：基于 Starlette，支持异步✅结构清晰：路径定义灵活，文档自动生成💡兼容性强：可模拟 OpenAI API 格式🔧易集成：可快速接入日志、限流、权限等中间件模型部署是一半，API 封装是另一半；
如何让DeepSeek-R1在内网稳定运行并实现随时随地远程在线调用
嵌入式阿齐Archie
03-28 2652
最近，国产AI圈里的新星——Deepseek，简直是火到不行。但是，你是不是已经对那些千篇一律的手机APP和网页版体验感到腻味了？别急，今天就带你解锁一个超炫的操作：在你的Windows电脑上本地部署Deepseek！这不仅让你享受飞一般的互动速度，还能让你瞬间成为AI圈的技术大牛！跟着我一起来吧，保证简单到你怀疑人生。
如何在离线的电脑上部署一个本地Deepseek（使用ollama）
qq_41854911的博客
02-08 1万+
例如，如果您的显卡显存为 16GB，官方推荐使用 32b 大小的 DeepSeek 模型。请根据您的硬件配置选择适合的模型版本，以获得最佳性能。首先我们需要将ollama和chatbox的安装包，Deepseek模型文件通过U盘或者光盘的形式导入到这台不能联网的电脑上。按照时间排序，找到最大的那个文件，就是gguf格式的模型，复制出来，改名为qwen2.5-coder0.5b.gguf。：基于开源模型（如 QWEN 和 LLAMA）微调，参数量从 1.5B 到 70B 不等，适合本地硬件部署。
deepseek离线本地化部署
m0_63875580的博客
02-10 2592
下载完成后，双击安装包文件，按照安装向导的提示进行安装。默认安装路径为 C:\Users\<用户名>\AppData\Local\Programs\Ollama，如果需要更改安装路径，可以在安装过程中选择自定义安装目录。安装完成后，按下 Win+R 键，输入 CMD 并回车，打开命令提示符。在命令提示符中输入 ollama -v，如果显示 Ollama 的版本号（如 0.5.7），则说明安装成功。进入ollama官网下载模型选择适配你电脑的模型。参考下方表格671B1400GB全方位高性能70B。
如何将DeepSeek配置到离线电脑（内网）中？— 附Ollama夸克下载链接
kxg6666的博客
02-12 2064
进入C盘的用户文件夹下，找到“.ollama”文件夹，将models文件夹整体拷贝到离线（内网）电脑中，替换内网电脑“.ollama”文件夹下的models文件夹。启动命令行输入下载命令。以下载8B为例，其他版本同。如下载速度较慢，安装包附在本文最后。下载完成后傻瓜一键安装即可。
Windows 系统下使用 Ollama 离线部署 DeepSeek - R1 模型指南
进一步有进一步的欢喜~
01-29 1万+
随着人工智能技术的飞速发展，各类大语言模型层出不穷。DeepSeek - R1 凭借其出色的语言理解和生成能力，受到了广泛关注。而 Ollama 作为一款便捷的模型管理和部署工具，能够帮助我们轻松地在本地环境中部署和使用模型。本文将详细介绍如何在 Windows 系统下使用 Ollama 离线部署 DeepSeek - R1 模型，并展示在 Windows CMD 窗口与 Google 浏览器插件 Page Assist 的交互案例。
保姆级离线+windows环境+私有化部署大模型（一）
shishi521的专栏
09-10 2248
在离线状态，无外网环境下，windows环境部署自己的私有化大模型。
DeepSeek本地部署离线使用
zzf011900的博客
02-12 2366
需求更多的，电脑的配置很强的建议体验以下这个671b 404gb的，此次演示以7b为例。安装完成后找到对应的安装数据位置，如果你是c盘安装直接win+r快捷键cmd打开黑窗口。国外下载链接：https://ollama.com/download/windows。ollama run deepseek-r1:7b输入代码之后直接问。参考大佬文档 后续操作并未完成 大家可以试试。下载完成后傻瓜式安装即可(点点点)默认是C盘。点击进入后选择版本(正常使用选择7b)安装完之后直接黑窗口运行就可以。
基于飞腾 S2500 的本地纯 CPU 部署 DeepSeek 全方位实战秘籍
m0_55725368的博客
02-08 1473
本次使用的硬件基于 ARMv8 - A 64 位指令集架构，搭载飞腾（Phytium）S2500 8 核处理器，搭配 16GB 内存。
DeepSeek R1私有化部署+知识库实战指南（附避坑手册）
deepseek01的博客
02-13 591
模型蒸馏版与满血版性能差异（671B参数企业级 vs 14B个人版）
DeepSeek内网部署“保姆级”教程：离线安装+国产化适配+数据投喂+安全加固
02-28
内容概要：本文详细介绍了如何在内网环境中安全、高效地部署大型语言模型 DeepSeek（LLM）。主要内容涵盖四个重要方面：安装配置Ollama及相关工具、多客户端集成、安全加固以及常见问题解决。首先，明确硬件和软件的需求，包括高性能GPU和足够大的内存等；其次，逐步指导Ollama在不同操作系统上的安装方法及其关键环境变量配置；再者，列举了几款常用的多客户端集成方式，像 Lmstudio、Chatbox、Cherry-Studio 和 Lobe Chat，并对每个产品的特点进行了简析；接着重点讨论了内部网络安全保护措施，涉及网络隔离、访问控制、模型安全保障及数据防护机制等多个维度；最后，针对部署过程中可能出现的问题提供了详细的排查思路和技术支持方案。 适合人群：具备一定IT基础知识，尤其是对于有兴趣在内部网络中部署大模型的研究员、开发者或者企业技术人员来说非常实用。 使用场景及目标：①帮助个人或企业在内部环境下快速完成 DeepSeek 部署，满足对自然语言处理的需求；②确保内部网络的安全性和私密性不受外界干扰，适用于金融、医疗等高度敏感行业的应用开发。
本地DeepSeek部署实战：局域网访问与API对外开放
大华的程序人生
02-21 1655
环境变量功能说明默认值/示例设置API服务监听地址与端口，0.0.0.0表示允许所有IP访问允许跨域请求的域名列表，*为通配符自定义模型存储路径，避免占用系统盘空间控制模型在内存中的保留时间，减少重复加载开销24h（24小时）并行处理请求数，提升高并发场景下的吞吐量2启用调试日志，排查服务异常1（开启）扩展显存不足时，利用RAM/VRAM混合加载大模型（需手动计算显存值）
K8S 1.30环境中私有化部署 Ollama 和 DeepSeek-R1（671B模型）
weixin_38320674的博客
02-18 856
欢迎关注我的公众号「DevOps和k8s全栈技术」，进公众号【服务】栏，可以看到技术群，点击即可加入学习交流群。↓↓↓关注公众号，免费学技术，避免被割哦~不同模型参数，配置要求如下：一、理论介绍：1.OllamaOllama是一个由 Ollama 公司开发的 AI 模型工具。它专注于将大规模语言模型（如 GPT-3 和其他类似模型）进行本地化部署，特别是让这些模型可以在用户自己的硬件上运行，而...
DeepSeek离线部署教程
sjbstar的博客
02-21 2499
右键开始菜单(或者快捷键Ctrl+Alt+Del)进入任务管理器，将名字带有ollama的进程给结束掉，如果有占用Ollama的命令提示符或PowerShell也要关掉。将C:\Users\Administrator目录里的.ollama文件夹移动到自己想要的目录中，这里演示移动至D:\Programs。解压至C:\Users\Administrator\.ollama\models，或者解压后复制在该目录。进入到C:\Users\Administrator\AppData\Local\Programs。
deepseek本地部署（在线、离线）、知识库搭建（个人、组织）与代码接入
热门推荐
weixin_46522694的博客
02-12 2万+
本文主要介绍deepSeek本地化容器化部署，知识库搭建与springAI接入。因笔者工作内容原因，也会介绍内网部署方式。
TensorFlow相关组件的安装
AAI666666的博客
01-11 2925
TensorFlow相关组件的安装
【内网Tesla T4_16G为例】超详细部署安装ollama、加载uugf格式大模型qwen2、chatglm3及大模型的使用
hahaha_1112的博客
07-18 3301
【内网Tesla T4_16G为例】超详细安装部署ollama、加载uugf格式大模型qwen2、chatglm3及大模型的使用
关于离线电脑利用Ollama安装deepseek
weixin_48719457的博客
02-08 833
关于离线电脑利用Ollama安装deepseek
deep seek本地化部署后如何可以在内网中可以被其它用户访问（通过内网IP访问）
02-06
### DeepSeek 应用本地化部署后的内网 IP 访问配置 对于已经完成本地化部署的 DeepSeek 应用程序，在局域网环境中使其他设备能够通过内网 IP 进行访问，主要涉及以下几个方面的网络设置调整。 #### 1. 修改应用程序监听地址 默认情况下，某些应用程序可能仅绑定到 `localhost` 或者特定的外部接口。为了确保局域网中的其它设备可以连接至该服务器，需修改 DeepSeek 的配置文件使其监听所有可用网络接口或指定内部 IP 地址[^2]。 ```bash # 假设 deepseek 使用的是 Python Flask 框架作为 Web API 接口，则可以在启动命令中加入如下参数： python app.py --host=0.0.0.0 ``` 上述操作使得 DeepSeek 可以接受来自任何 IP 地址发起的请求，而不仅仅局限于本机回环地址(`127.0.0.1`)。 #### 2. 开放防火墙端口 如果操作系统上启用了防火墙服务，则还需要开放相应的 TCP 端口号以便让外界流量进入并到达目标进程。这通常涉及到更新系统的安全组策略或是直接编辑 iptables 规则来允许特定范围内的入站连接。 ```bash sudo ufw allow 80/tcp # 如果 web api 是运行在标准 HTTP 协议上的第 80 端口 sudo systemctl reload ufw ``` 此步骤确保了即使 DeepSeek 正确设置了监听选项，也不会因为被阻挡在外围防护之下而导致无法正常通信的情况发生。 #### 3. 设置路由器转发规则 (可选) 当希望从互联网侧也能间接触及位于私有子网下的 DeepSeek 实例时，就需要考虑 NAT 路由器层面的操作——即端口映射(Port Forwarding)，将广域网(WAN)入口指向具体的 LAN 内部机器及其对应的服务端口。不过这一部分并非严格意义上的“内网”范畴，而是针对更广泛的远程接入场景所作准备。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值