本篇手把手教你如何用3步轻松搞定 DeepSeek 本地部署,跟着这个教程走下来,简直不要太顺滑!可以在30分钟内快速将deepSeek部署起来。
大致分为两大部分,第一部分是三步安装法,第二部分是本地部署deepseek测试效果
一、三步安装流程
- 下载Ollama
- 安装deepseek-R1 1.5b
- 安装Web-UI工具
测试机器配置
- CPU:R5600
- 显卡:6500xt 4G
第一步 下载Ollama
点击Ollama官方网站,即可下载Ollama
先介绍下Ollama是什么
Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
就是这个小羊驼,点击【Download】
在点击windows版本,点击下载,默认会安装到C盘,C盘尽可能保证有15G的空间哈
安装成功后,会跳出一个弹窗,就开始下一步
第二步 安装deepseek-R1 1.5b
直接根据Ollama官方给的镜像安装对应的模型
ollama run deepseek-r1:1.5b【尝鲜版】
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b 【推荐版】
ollama run deepseek-r1:32b 【推荐版】
ollama run deepseek-r1:70b
推荐配置如下,优先推:14b、32b
- 4G GPU:7b Q4或1.5b
- 8G GPU:32b Q4或者 14b Q4
- 16G GPU:32b Q4或者 32b Q8
- 24G GPU: 32b Q4,32b Q8
安装成功后,就可以简单的沟通对话了,但是界面太丑了,需要有个web-UI工具
第三步 安装Web-UI工具
这里推荐两个,一是chatbox,二是谷歌插件Page Assist
优势对比
- chatbox:有现成的训练好AI,直接使用,PC端,比较美观
- Page Assist:有知识库可以添加,玩法更多,可以搞其他好玩的东西
Ⅰ Chatbox可视化
点击链接Chatbox官方网站
安装后,要选择Ollama API,不要选择deepseek API
选择刚刚下载的1.5b模型
测试效果
Ⅱ 谷歌插件Page Assist
需要用到魔法,直接点击谷歌商店,搜索【Page Assist】就可以看到了
安装后,就可以直接选择对应的模型
在这里,可以添加知识库
二、模型测试对比
同一个问题:周树人和鲁迅这两个人是谁?
本地deepSeek
云端deepSeek
绷不住了……
换个问题:“我正在写一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”,请你帮我重新生成10个吸引眼球的标题供我选择”
本地deepSeek
云端deepSeek
很喜欢这个深度思考,满血版的R1、v3思考的深度真的很到位,有些点自个都想不到,就是老是"系统繁忙"
输出结果
ChatGPT
小结
本地部署能看,有些内容还得训练,不然胡说八道的内容太多了,后面有时间做个训练集看看,1.5b的可不可以应用到日常的使用中。
还有就是电脑配置太低,也会导致效果不佳的哈(;´༎ຶД༎ຶ`)