使用ollama部署deepseek到本地

一、引言

deepseek互联网使用地址:DeepSeek

现在使用可能经常会遇到:服务器繁忙,请稍后再试。个人或公司会有一些隐私或涉密的数据不方便在网络直接处理,所以我们就会有将deepseek部署到本地的需求。这篇文章介绍如何使用ollama部署deepseek到本地。(附有安装包下载)

二、Ollama介绍

Ollama 是一个工具,帮助你在自己的电脑上直接运行各种模型(比如类似 ChatGPT 的模型),从而实现在本地电脑使用大模型,而不需要依赖互联网或云端服务。它简单易用,适合想尝试人工智能技术但又不想折腾复杂设置的人。你只需要下载 Ollama,选择喜欢的模型,就可以直接和它对话,或者用它来帮你完成一些文字任务,比如写文章、回答问题等。

本次部署DeepSeek要用到 Ollama,它支持多种大模型。

三、下载安装Ollama

Ollama官网:ollama.com

下载安装Ollama,macOS、Linux 和 Windows都可以下载安装。

这里选用Windows系统。

Ollama安装包为exe格式,点击下一步下一步安装即可,建议记录安装目录。

四、下载 DeepSeek-R1

1、进入Ollama官网,左上角选择Models。

2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。

3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。我的电脑的联想Legion,Windows 10 ,Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz   2.59 GHz安装时时选择1.5b的模型。有朋友尝试本地办公电脑部署7b,可以部署,但是响应会很慢。

4.找到Windows【开始菜单】,鼠标右键点击【终端管理员】。或着直接按win+X,选择:Windows powerShell(管理员)

5.复制下边ollama下载deepseek1.5b的命令代码:

6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,要进入到ollama的目录下)Ollma目录可以从刚安装的ollama的app查找,方法如下图:

这是我的ollama目录:

在ollama目录下运行下载deepseek1.5b的命,等待下载完成

7.下载完成后稍微等待,看到success,即部署完成。

8.部署完成,send a message,输入内容即可开始对话。

五、Chatbox下载安装

通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。可以理解Chatbox是一个大模型的容器和页面的显示工具,可以可视化的使用模型

1、下载安装Chatbox

Chatbox官网:chatboxai.app/zh

进入官网下载安装Chatbox客户端。安装包为exe格式,点击下一步下一步安装即可。建议和ollama安装在同一个文件夹下

2.点击设置,模型提供方选择Ollama API模型选择安装好的deepseek-r1:1.5b,点击保存

3、部署完成,就可以正常使用了。

通过以上步骤,DeepSeek便在本地电脑上部署陈eggs了,私密数据便可在本地处理而不用担心数据泄露。

ollama和chatBox的安装包可以通过我的分享获取:阿里云盘分享https://www.alipan.com/s/YMffMZZx3tN提取码点赞收藏评论获取

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值