环境准备:
确定部署方案请参考博客:DeepSeek-R1系列(1.5b/7b/8b/32b/70b/761b)大模型部署需要什么硬件条件-优快云博客
根据本人电脑配置:windows11 + i9-13900HX+RTX4060+DDR5 5600 32G内存
确定部署方案:DeepSeek-R1:7b + Ollama + Chatbox
部署DeepSeek请参考博客:windows平台本地部署DeepSeek大模型+Open WebUI网页界面(可以离线使用)-优快云博客
1. 下载Chatbox
Chatbox下载地址:违反社区规定,自行下载
下载后直接在 windows 中安装。
2. 在 Chatbox 界面中载入DeepSeek步骤:
1)在 Windows PowerShell 执行命令 ollama list 查看是否有部署成功 DeepSeek 和qwen 大语言模型
2)打开 Chatbox--->设置,配置参数,点击保存
模型提供方:OLLAAMA API
API域名:http://127.0.0.1:11434
模型:deepseek-r:7b
3)点击新对话,在右下角发送旁边选择DeepSeek 大模型:deepseek-r1:7b ,即可开启对话