一、引言
deepseek互联网使用地址:DeepSeek
现在使用可能经常会遇到:服务器繁忙,请稍后再试。个人或公司会有一些隐私或涉密的数据不方便在网络直接处理,所以我们就会有将deepseek部署到本地的需求。这篇文章介绍如何使用ollama部署deepseek到本地。(附有安装包下载)
二、Ollama介绍
Ollama 是一个工具,帮助你在自己的电脑上直接运行各种模型(比如类似 ChatGPT 的模型),从而实现在本地电脑使用大模型,而不需要依赖互联网或云端服务。它简单易用,适合想尝试人工智能技术但又不想折腾复杂设置的人。你只需要下载 Ollama,选择喜欢的模型,就可以直接和它对话,或者用它来帮你完成一些文字任务,比如写文章、回答问题等。
本次部署DeepSeek要用到 Ollama,它支持多种大模型。
三、下载安装Ollama
Ollama官网:ollama.com
下载安装Ollama,macOS、Linux 和 Windows都可以下载安装。
我这里选用Windows系统。
Ollama安装包为exe格式,点击下一步下一步安装即可,建议记录安装目录。
四、下载 DeepSeek-R1
1、进入Ollama官网,左上角选择Models。
2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。
3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。我的电脑的联想Legion,Windows 10 ,Intel(R) Core(TM) i7-10750H CPU @ 2.60GHz 2.59 GHz,安装时时选择1.5b的模型。有朋友尝试本地办公电脑部署7b,可以部署,但是响应会很慢。
4.找到Windows【开始菜单】,鼠标右键点击【终端管理员】。或着直接按win+X,选择:Windows powerShell(管理员)
5.复制下边ollama下载deepseek1.5b的命令代码:
6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,要进入到ollama的目录下)Ollma目录可以从刚安装的ollama的app查找,方法如下图:
这是我的ollama目录:
在ollama目录下运行下载deepseek1.5b的命,等待下载完成:
7.下载完成后稍微等待,看到success,即部署完成。
8.部署完成,send a message,输入内容即可开始对话。
五、Chatbox下载安装
通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。(可以理解Chatbox是一个大模型的容器和页面的显示工具,可以可视化的使用模型)
1、下载安装Chatbox
Chatbox官网:chatboxai.app/zh
进入官网下载安装Chatbox客户端。(安装包为exe格式,点击下一步下一步安装即可。建议和ollama安装在同一个文件夹下)
2.点击设置,模型提供方选择:Ollama API,模型选择安装好的deepseek-r1:1.5b,点击保存
3、部署完成,就可以正常使用了。
通过以上步骤,DeepSeek便在本地电脑上部署陈eggs了,私密数据便可在本地处理而不用担心数据泄露。
ollama和chatBox的安装包可以通过我的分享获取:阿里云盘分享https://www.alipan.com/s/YMffMZZx3tN提取码点赞收藏评论获取