DeepSeek+Ollama+Chatbox 三步走构筑你的专属AI助手

在 AI 技术飞速发展的今天,拥有一个本地部署的 AI 助手不仅能提升工作效率,还能确保数据隐私和安全。DeepSeek作为一款强大的 AI 工具,支持本地化部署,让你完全掌控自己的 AI 环境。本文将带你三步走完成 DeepSeek 的本地部署,助你轻松搭建属于自己的私有 AI 助手!

DeepSeek和GPT最大的区别就是DeepSeek做到了完全开源,任何人在自己的硬件设施上都可以实现AI模型的部署,即使用本地的硬件性能来支持AI服务。使用这种方式我们就无需依靠公共服务器,避免出现“服务器繁忙”的问题,也可以通过投喂数据或直接进行性格等方向的设定来搭建专属于自己的AI助手。

这次DeepSeek的横空出世让整个世界都为之震撼,这次的人工智能大模型真的可以做到自主思考并带有自己感情的帮你解决问题。相信看到这里的你也看到了这一片蓝海,但却受到网页端“服务器繁忙”之苦,下面UP将为大家分享如何使用Ollama与Chatbox实现三步走搭建自己的DeepSeek模型,构筑自己的AI智能助手!

如果你是刚刚接触AI的小白,那么恭喜你找到了探索AI世界的第一步,正所谓万事开头难,这篇保姆级教程非常适合刚刚踏入AI界的你。

本文大纲

  1. 为什么要进行本地部署
  2. 运行架构-Ollama
  3. 模型安装-DeepSeek R1
  4. 插件部署-Chatbox
  5. 常见问题Q&A

01

为什么要本地部署DeepSeek?

\1. 无需联网保护隐私

\2. 定制AI助手,无需受“服务器繁忙”之苦

\3. 支持长文本/代码/创意写作

02

安装运行框架-Ollama

本次案例所使用的操作系统:

\1. windows 11

\2. CPU:i5-12400f

\3. 显卡:RTX 4060

首先,在浏览器搜索ollama,这是一种专门用于本地部署大语言模型的运行框架(这个名字让我想起了MC中的羊驼llama - -)

img

而ollama的官网图标也是一只羊驼

img

点击进入,点击download

img

根据自己的操作系统类型选择相应的安装包(这里选择的是windows)

img

点击安装即可

img

默认会安装到c盘,为防止后续占用c盘,建议修改永久变量

右击此电脑,点击属性

img

选择高级系统设置

img

点击高级,点击环境变量

img

在系统变量点新建

img

变量名为 OLLAMA_MODELS

变量值为你想要存放的路径

img

安装完成ollama后可以在浏览器访问网址http:/localhost:11434,出现如下页面则说明安装成功

img

03

安装Deepseek R1 模型

这里要说明一下,DeepSeek模型分为R1 和V3两种,R1即网页端的深度思考模式,可以显示其思考过程,并得出更为正确的结果,但同样会消耗更多的思考时间和硬件性能,大家可以按需求安装相应的模型

回到ollama官网,搜索DeepSeek

img

选择R1模型,选择你想安装的参数版本(这里选择8b)

img

另附参数对应的硬件参考

img

点击这里复制安装软件

Windows输入 win+r,再输入cmd打开命令行。

img

输入刚刚复制的下载指令,执行即可开始下载

img

最后1/4部分下载速度如果比较慢,可以输入ctrl+c中断下载,再重新输入刚刚复制的下载指令继续下载。

img

出现如下情况,则说明下载完成

img

现在可以在这里输入问题来让你的专属DeepSeek进行解答啦

img

可命令行不管是输入还是查看总是不太方便,也没办法保留之前的历史问题,所以我们继续进行三步走的最后一步!

04

插件部署Chatbox

这里我们选择的是Chatbox,一款免费使用的可对接DeepSeek的软件。

1.Chatbox对DeepSeek模型进行了深度优化,通过动态批处理计算图优化显著降低了推理延迟。

2.Chatbox真正做到了开箱即用,简单下载安装选择模型即可实现模型的可视化。

3.Chatbox本身是免费应用,所以使用本地部署的DeepSeek模型也不会有更多的成本开支,同时如果想使用chatGPT进行对比也可以直接购买licence进行交互。

4.Chatbox上有许多提前架构好的设定,如xxx文案生成器,可以直接使用。

Chatbox官网:https://chatboxai.app/zh

img

点击下载

img

下载完成后点击进行安装

选择 仅为我安装 ,点击下一步

img

点击浏览选择你想要安装到的路径,选择完成后点安装

img

如下则为安装成功,点击完成自动开启Chatbox

img

点击设置

img

模型提供方选择ollama api

模型选择刚刚下载的DeepSeek模型

img

点击保存

img

之后就可以在此窗口进行问答啦,并且chatbox会记录你的历史问题,以便后续使用

img

05

常见问题Q&A

Q:部署完成后还需要花钱使用吗?

A:DeepSeek本地部署后使用的都是自己的硬件设施,软件层面已经开源,所以后续无需投入资金。

Q:为什么我下载ollama显示下载需要三天?

A:如果再ollama下载较慢,可以选择在如下百度网盘网址下载。

因此,我准备现阶段最新版本的软件包,以下是云盘链接,按需使用。

Ollama下载:https://ollama.com/
DeepSeek R1模型下载:https://ollama.com/library/deepseek-r1
Chatbox下载:https://chatboxai.app/zh   
DeepSeek-r1_7b  [模型]   : https://pan.baidu.com/s/1s1gKvf6zZuQiI3OzFZAc9g?pwd=ghip
DeepSeek-r1_32b [模型]   : https://pan.baidu.com/s/1wI8CzqXpAaidzeAxdnqjgw?pwd=4xut
OllamaSetup.exe [安装包] : https://pan.baidu.com/s/19lGF7Jt3rtrvwoqyA5y7UQ?pwd=qy7r
AnythingLLM.rar [压缩包,含ollama相关lib] : https://pan.baidu.com/s/1A3SJpy1wb9_bdYFrIKc5iQ?pwd=psm7

DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性:

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把都打包整理好,希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

read-normal-img

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

read-normal-img

read-normal-img

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值