技术小白都能学会!3步搞定DeepSeek本地AI部署

  本篇手把手教你如何用3步轻松搞定 DeepSeek 本地部署,跟着这个教程走下来,简直不要太顺滑!可以在30分钟内快速将deepSeek部署起来。
  大致分为两大部分,第一部分是三步安装法,第二部分是本地部署deepseek测试效果

一、三步安装流程

  • 下载Ollama
  • 安装deepseek-R1 1.5b
  • 安装Web-UI工具

测试机器配置

  • CPU:R5600
  • 显卡:6500xt 4G

第一步 下载Ollama

  点击Ollama官方网站,即可下载Ollama
先介绍下Ollama是什么
  Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
  就是这个小羊驼,点击【Download】
在这里插入图片描述
  在点击windows版本,点击下载,默认会安装到C盘,C盘尽可能保证有15G的空间哈
在这里插入图片描述

安装成功后,会跳出一个弹窗,就开始下一步

第二步 安装deepseek-R1 1.5b

直接根据Ollama官方给的镜像安装对应的模型

ollama run deepseek-r1:1.5b【尝鲜版】
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b 【推荐版】
ollama run deepseek-r1:32b 【推荐版】
ollama run deepseek-r1:70b

推荐配置如下,优先推:14b、32b

  • 4G GPU:7b Q4或1.5b
  • 8G GPU:32b Q4或者 14b Q4
  • 16G GPU:32b Q4或者 32b Q8
  • 24G GPU: 32b Q4,32b Q8
    安装成功后,就可以简单的沟通对话了,但是界面太丑了,需要有个web-UI工具
    在这里插入图片描述
    在这里插入图片描述

第三步 安装Web-UI工具

  这里推荐两个,一是chatbox,二是谷歌插件Page Assist
优势对比

  • chatbox:有现成的训练好AI,直接使用,PC端,比较美观
  • Page Assist:有知识库可以添加,玩法更多,可以搞其他好玩的东西

Ⅰ Chatbox可视化

点击链接Chatbox官方网站
在这里插入图片描述

安装后,要选择Ollama API,不要选择deepseek API
在这里插入图片描述
选择刚刚下载的1.5b模型
在这里插入图片描述
测试效果
在这里插入图片描述

Ⅱ 谷歌插件Page Assist

需要用到魔法,直接点击谷歌商店,搜索【Page Assist】就可以看到了
在这里插入图片描述
安装后,就可以直接选择对应的模型
在这里插入图片描述
在这里,可以添加知识库
在这里插入图片描述

二、模型测试对比

同一个问题:周树人和鲁迅这两个人是谁?
本地deepSeek
在这里插入图片描述

云端deepSeek
绷不住了……
在这里插入图片描述

换个问题:“我正在写一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”,请你帮我重新生成10个吸引眼球的标题供我选择”
本地deepSeek
在这里插入图片描述

云端deepSeek
很喜欢这个深度思考,满血版的R1、v3思考的深度真的很到位,有些点自个都想不到,就是老是"系统繁忙"
在这里插入图片描述
输出结果
在这里插入图片描述

ChatGPT
在这里插入图片描述

小结

  本地部署能看,有些内容还得训练,不然胡说八道的内容太多了,后面有时间做个训练集看看,1.5b的可不可以应用到日常的使用中。
  还有就是电脑配置太低,也会导致效果不佳的哈(;´༎ຶД༎ຶ`)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值