DeepSeek作为国产爆火的大模型,最近被流量挤爆了。本教程可实现完整的本地化搭建流程。
一、部署要求
主要是硬件设备的要求,适用于Windows10或以上版本的系统。
二、核心部署
2.1 安装Ollama
2.1.1 下载安装包
访问 框架 官网 -> 选择你当前使用的系统,支持Linux,macOS,点击【Download】即可下载
下载完成会得到一个 .exe 的安装包,双击运行,点击【Install】(注意:这里Windows系统默认是安装在C盘的,目前不支持更改路径,需要保证C盘有足够的剩余空间)
2.1.2 验证是否安装成功
打开 cmd 命令行,执行
ollama -v
如果输出对应的版本号,即表示安装成功
2.2 部署AI大模型
在DeepSeek官网上,点击【Models】按钮,点击进入【deepseek-r1】模型
进入【deepseek-r1】模型之后,点击【复制】按钮
根据电脑的配置选择适当的参数,在命令行中运行对应的代码:
ollama run deepseek-r1
接下来就是等待下载: (选择的模型越大,需求的内存也就越大,等待时间越长...请合理分配)
下载完成之后,会出现【success】提示
以上完成之后,就可以在本地使用大模型,例如
三、结束
这里就结束了DeepSeek-R1的本地部署,都可以轻松搞定。