Windows Deepseek本地部署
1.Windows 本地调用
A.本地CMD调用,在本地CMD端口通过输入ollama list查看已经安装的大模型name 然后复制名字输入ollama run 模型name 如下图所示。
B.通过三方开源软件调用本地模型,在部署模型的电脑上,安装三方调用软件,如Cherry Studio、Chatbox、anythingLLM等,然后在连接时候API地址填写127.0.0.1:11434 不同调用软件连接方式基本相同,参考如下方式即可。
一.Cherry Studio 连接如下图
二.Chatbox 连接如下图
2.内网间跨设备调用
A. 在部署端防火墙出入站规则中运行11434端口,允许
B.连接软件的API地址中输入部署设备IP:11434 进行调用,如上本地调用的的地址换成下图即可,假设部署电脑IP是XX.XX.XX.XX,API地址为http://XX.XX.XX.XX:11434