ollama本地部署 deepseek离线模型安装 一套从安装到UI运行

一、安装本地ollama

1、下载ollama

(1)百度网盘windows版本

通过网盘分享的文件:OllamaSetup.exe
链接: https://pan.baidu.com/s/15ca6WAzrc4wWph5H9BEOzw

提取码: 283u

(2)进入官网:Ollama

2、选择你的系统

等待下载完成就可以了。

注:这里有些同学的网络可能下载不了。用上面我百度网盘里面的安装包。

3、选择安装路径

(1) 来到下载好的exe文件目录里

(2) 进入控制面板

(3) 在控制面版执行一下命令

D:\RuanJian\ollama 为你的安装目录

OllamaSetup.exe /DIR=D:\RuanJian\ollama

4、查看效验安装是否成功

随便在一个地方win+R -> cmd

输入 ollama -v

显示版本号表示安装成功!

二、下载模型

1、修改模型默认路径

(1)进入环境变量面板

(2)配置软件执行目录,添加软件安装目录

(3)配置模型存放位置

OLLAMA_MODELS

变量值就是存放模型的位置

创建好后一直保存确定就行

2、下载线上模型

deepseek-r1

3、拷贝本地模型(用已经下好的模型)

如果你兄弟姐妹已经下载好了模型,而你的网络不加或者不想自己下载。

可以去把他的模型拿过来用!

(1)默认模型存放位置:

(2)将文件夹models全部拷贝出来

(3)粘贴到你配置的模型存放位置

4、效验模型是否下载完成

ollama list

三、UI页面

这里针对有条件的同学

Chrome 应用商店下载 page assist

固定好后直接点击就可以进入UI页面

四、恭喜你已经安装成功!赶紧用起来吧!

### Ollama DeepSeek在Ubuntu上的离线安装与配置 对于希望在未连接互联网的环境中部署Ollama DeepSeek的情况,在Ubuntu系统中执行此操作涉及几个重要步骤,包括准备必要的文件、传输这些文件到目标机器以及最终完成软件的设置。 #### 准备阶段 为了实现离线环境中的顺利部署,首先需在一个联网设备上获取所需资源。这通常意味着要提前下载所需的Docker镜像并将其转换成可移植格式以便于后续处理。具体命令如下所示: ```bash docker pull ghcr.io/open-webui/open-webui:ollama docker save -o openwebui_ollama.tar ghcr.io/open-webui/open-webui:ollama[^1] ``` 上述指令会从指定仓库拉取`open-webui:ollama`版本的镜像,并保存为名为`openwebui_ollama.tar`的压缩包形式,方便之后导入至无网络连接的目标主机内使用。 #### 部署前准备 确保目标Ubuntu服务器已预先安装好Docker引擎及其CLI工具集。如果尚未安装,则可以通过官方文档指导在线环境下的一次性准备工作;而对于完全隔离状态下的计算机来说,则可能需要通过其他途径(比如USB驱动器)来转移预编译好的二进制文件或.deb包来进行本地安装。 #### 导入镜像 一旦所有前提条件都满足完毕,就可以着手将之前创建好的`.tar`档案恢复成为实际可用的状态了。为此只需简单运行下面这条语句即可达成目的: ```bash docker load -i /path/to/openwebui_ollama.tar ``` 这里假设用户已经把刚才提到的那个归档放置到了适当的位置,并替换了路径参数以匹配实际情况。 #### 启动容器服务 最后一步就是启动基于所加载镜像实例化的容器单元。考虑到不同应用场景下可能存在个性化需求差异较大这一事实,建议先查阅项目主页了解更详细的定制选项说明后再做决定。不过一般情况下默认配置就足以应付大多数常规用途了: ```bash docker run --name ollama-deepseek -d -p 7860:7860 ghcr.io/open-webui/open-webui:ollama ``` 以上命令将会以后台守护进程的方式激活一个监听端口7860的服务节点供外部访问调用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

攀小黑

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值