1.先安装一个通用的AI壳子:ollama,百度搜索ollama,找到ollama官网(https://ollama.com/),点击download,找到符合系统的软件类型进行下载,然后就是安装了。
2.安装完成之后,就是本地安装大模型了。大模型的来源,就是点击左上角的models,这里有一个模型列表,找到符合你自己预期的或者心仪的大模型。
这里是大模型列表,现在找到你自己心仪的模型,点击模型名称,进去,这里就选deepseek-r1的模型
根据自己的电脑磁盘条件,自己选择模型版本,1处可以下拉,看到模型所需磁盘容量,默认是7b,更换之后,2处的命令会对应的有变化,会将版本带进去。复制2的命令,然后打开命令行窗口,输入刚刚复制的命令,回车等待即可。如果出现提醒ollama不是内部命令,关闭命令行窗口,然后将ollama添加到环境变量,再打开窗口然后执行命令,或者进入到ollama.exe的文件,在该窗口的地址栏输入cmd命令回车,在弹出的命令行窗口中输入复制的命令,等待模型安装完成。这个安装时间取决于网络和磁盘的读写速度。
3.安装完成之后,在新的命令行下输入命令 ollama run <本地安装的模型>,出现如下图所示:
就表示安装成功了,就可以输入你想要询问的内容进行沟通了。
到此,deepseek本地化就完成了。