如何本地部署DeepSeek

大道戏

已于 2025-02-11 19:04:19 修改

阅读量5.2k

点赞数 18

文章标签： windows AI deepseek

于 2025-01-31 20:04:44 首次发布

本文链接：https://blog.youkuaiyun.com/2301_80386162/article/details/145406996

版权

第一步：安装ollama

https://ollama.com/download

打开官网，选择对应版本

第二步：选择合适的模型

https://ollama.com/

模型名称中的 1.5B、7B、8B 等数字代表模型的参数量（Parameters），其中 B 是英文 Billion（十亿） 的缩写。参数越多，模型通常更“聪明”（能处理更复杂的任务），但对硬件资源（显存、内存）的要求也更高。

个人用户可优先 7B（通用性最佳），若设备较弱则选 1.5B，开发者可选 8B。

第三步：安装deepseek模型

ollama run deepseek-r1:1.5b

1、找到对应的命令，复制

2、cmd执行命令，等待安装

第四步：测试

第五步安装Chatbox

1、打开官网https://chatboxai.app/zh下载

2、点击设置，选择Ollama API;

3、选择安装好的deepseek r1模型，保存即可；

4、部署完成就可以正常使用了。

基本命令

打开模型

ollama run deepseek-r1:1.5b

退出模型

 /bye

查看帮助

C:\Users\chk>ollama  -h
Large language model runner
 
Usage:
  ollama [flags]
  ollama [command]
 
Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command
 
Flags:
  -h, --help      help for ollama
  -v, --version   Show version information
 
Use "ollama [command] --help" for more information about a command.