搭建本地deepseek大模型

本地搭建

如何本地搭建deepseek等大模型,这个是个好玩的事情;一直在网页玩,不知道里边都有啥,也不知道自己该做些什么,这里写下流程,学习学习。

1.LM Studio

先去下载LM Studio,这个具体怎么做,直接去这里下载;然后就是安装,具体安装流程,不多说了。

LMStudio
去设置页面,找到下边页面,
在这里插入图片描述

找到自己需要的模型,然后下载即可。

2.本地聊天

下载完之后,关掉刚才的界面,然后回到如下界面:
在这里插入图片描述
选择自己要加载的模型,然后可以去聊天,因为我这只有deepseek和千问的模型。

3.例子

举个例子,我这问他怎么去搭建一个关于本地deepseek大模型的博客,如下图,就出来了:
在这里插入图片描述
在这里插入图片描述

小结

其实,搭建挺简单的,只要会用合适的工具,随着社会的发展,这块会越来越没有门槛,只不过,我还是要写一篇,记录下过程。有兴趣,还是要去学习下底层,比如,C++,有兴趣,可以去这里看看;有机会,写篇怎么用Ollama搭建本地大模型。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值