十分钟搞定! DeepSeek本地部署详细指南!

相信大家都感受到了,DeepSeek最近非常火,火到有时很卡顿,用不了…

那么本地部署的需求也随之而来,DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,无需支付在线 API 费用,自由调整和定制模型参数,同时保护数据隐私。

其实很简单,几分钟就可以安装完。

前排提示,文末有大模型AGI-优快云独家资料包哦!

步骤一: 安装灵魂工具Ollama

Ollama是一个开源工具,专门用于在本地计算机上运行和操作大型语言模型(LLM)。它让用户能够轻松下载、管理和运行各种 AI 模型(如 LLaMA、Mistral 等),而无需复杂的配置或依赖云服务。

以下是安装Ollama的步骤:

官网下载直通车: https://ollama.com

前往Ollama官网,点击“Download”按钮

下载安装包:根据你的操作系统选择对应的安装包(本文以macOS为例演示)。下载完成后,直接双击安装文件并按照提示,一直下一步,直到完成安装。

验证安装(也可忽略):安装完成后,在终端输入以下命令,检查Ollama版本:

ollama --version

如果输出版本号(例如ollama version is 0.5.7),则说明安装成功。

步骤二: 下载并运行deepseek模型

回到ollama的官网https://ollama.com,搜索框里搜索deepseek,选择要安装的deepseek-r1模型。

点击下拉框,可以看到多个版本,区别是参数不一样,数字越大,代表参数越多,性能就越强,但也对计算机的性能要求较高。

模型版本怎么选?电脑配置不行的,建议选择1.5B版本,这个模型有15亿参数,属于最轻量的Deepseek版本。但是1.5b模型数量不够,有点不够智能。所以电脑配置好点的,可以选择7以上的。不过还是自己电脑带得动的才是最合适的,不用纠结。

选择版本,复制安装指令粘贴到终端控制台中,点击回车,开始下载。

  • window电脑按下键盘上的win+R,调出运行窗口,输入cmd回车,调出命令行窗口粘贴:

  • macos直接启动台找到终端粘贴:

安装过程大概十几分钟,如果你卡一小时以上,或者一直不动,别纠结,考虑重下试试~

看到这个界面,恭喜你,说明你的deepseek安装成功了!就可以跟它对话了,我提问了“你是谁”:

但是一直在命令行里沟通是不是不够友好和方便,接下来我们安装可视化工具。

步骤三: 安装可视化工具: chatbox

是时候告别黑乎乎的命令行窗口了!咱们请出颜值担当->ChatBox客户端

官网直达:https://chatboxai.app

安装姿势:

  1. 点击「免费下载」后,解压后双击

  2. window电脑的话,自定义安装路径 (别放C盘!)

  3. Chatbox安装好后,打开后,选择“使用自己的 API Key 或本地模型”

跳出的页面中设置好模型,选择Ollama API,最后选择我们已经安装好的deepseek模型就可以了。

页面如果不小心关闭了,也可以点击左下角的「设置」再次进入模型设置页面。

最后点击保存,可以在聊天窗口中,看到我们当前使用的大模型啦。

至此deepseek本地化部署就轻松地完成了!

公众号后台回复“ds”,获取更多资料


读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用。

针对0基础小白:

如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值