部署AI模型-使用Ollama部署DeepSeek

  • 下载Ollama

官网Ollama:下载路径用到了github的链接,没有科学上网方法的话,建议走代理下载,或者复制下载链接后试试使用迅雷下载器

  • Ollama安装


如果要指定安装路径到D:\ProgramDate\Ollama,在下载的exe的路径下打开cmd(在文件路径上输入CMD回车后会自动打开当前路径的命令窗口),可参考使用如下cmd命令

OllamaModelsSetup.exe /DIR=D:\ProgramDate\Ollama

再讲个特例,就是有些小伙伴的Ollama已经安装在C盘了,但是又不想重新安装Ollama,只想把大模型资源包不要默认下载到C盘。可以参考博主的方法
1)首先先在你想要存储的盘符下创建好存储目录,比如我想存到E盘下面,就创建了该目录:E:\MySoftware\Ollama
2)然后鼠标右键我的电脑-->属性-->高级系统设置-->环境变量,

新建一个环境变量 OLLAMA_MODELS :E:\MySoftware\Ollama\models
3)创建完环境变量后,把Ollama停止,然后进入C盘-->用户-->你自己的电脑名称-->.ollama-->复制整个models到刚刚上面新建的存储目录下。复制完成后要删除C盘目录下的models文件夹。
4)重启Ollama,打开CMD输入Ollama list,查看大模型资源包是否能正常显示,显示正常则迁移完成,也可以直接和大模型进行提问,能回复说明也正常。

  • 下载DeepSeek R1模型

在Ollama官网点击Models,选择deepseek-r1

或者在cmd里运行

ollama run deepseek-r1:7b

这里注意模型版本的选择,要根据自己的电脑性能来下载,如果资源不足,下载了也会跑不起来,我这里我选择的是适中的模型。数字越大,代表参数越多,所需资源也越多,1.5b=15亿参数,其他自己换算下,对应的资源和模型我放个图,大家自己对应下。参考:GPU System Requirements for Running DeepSeek-R1

  • 使用Deep Seek

下载完成后就可以在cmd中提问了 

如果需要美化,可以使用ChatBox AI并接入DeepSeek,参考大佬教程:记录在本地电脑部署自己的DeepSeek 大模型AI - 不愿透露姓名的菜鸟 - 博客园

  •  删除模型

如果之前没预估好自己的电脑配置,下载了与自己电脑资源不对应的模型包,电脑无法跑起来,这时候需要删除模型资源包。

打开CMD命令窗口,输入:Ollama list

Ollama list

随后复制下对应的大模型资源包名称如deepseek-r1:1.5b

再输入:ollama rm deepseek-r1:1.5b 

ollama rm deepseek-r1:1.5b 

即可移除大模型。删除完后,再输入Ollama list查看下大模型资源包确认下是否删除,如果没有了大模型资源包的名称了,就确认是完全删除了,到这里大模型资源包就完全删除了,然后Ollama可以在Windows系统程序那里找到正常卸载。

以上,就是部署Deep Seek模型的简易教程

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值