由于DeepSeek网页和app端经常会出现“服务器繁忙,请稍后再试”,于是我搜集各大网站资源,找到了本地部署方法之一。
一、本地部署DeepSeek模型
本地部署的好处有以下几点:
- 更稳定更快地响应:本地部署减少了对网络连接的依赖,避免了因网络延迟导致的响应速度下降
- 模型可控性:根据自身对模型进行定制和优化,提高模型的适用性和性能
- 数据安全:在本地环境中处理数据,避免了将敏感信息上传至云端,降低了数据泄露的风险
- 成本控制:无限使用,无需支付云服务的订阅费用,可降低使用成本
- 灵活性:可以自由选择和切换不同的模型,满足多样化的应用需求
- 离线运行:在本地部署好以后,就算是没有网络,也可以使用
1.1 LmStudio 本地部署
1.1.1 下载LM Studio
LM Studio - Discover, download, and run local LLMs
链接如上,选择各自版本
本文以Windows为例