1.下载ollama工具
进入ollma的官网下载ollama工具
https://ollama.com/download
https://ollama.com/download
选择自己的系统版本
找到下载的OllamaSetup.exe,点击运行,进入安装界面
2.选择下载适合自己电脑的model
打开cmd或者powershell,查看是否下载好了ollama
查看自己电脑的运存选择适合自己电脑的模型版本
使用任务管理器:按下Ctrl+Shift+Esc
组合键打开任务管理器,切换到“性能”选项卡,可以看到内存的使用情况,包括已使用内存和可用内存的数量。
根据内存的大小在终端输入安装合适的deepseek版本,复制上面选择的模型框里的内容,以我下载的deepseek-r1:70b为例,
ollama run deepseek-r1:7b
安装好之后可以直接用了
ctrl+d退出提问
3.安装更加用户友好的可视化工具
下载chatbox
Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载
打开下载好的chatbox app,设置自己本地部署好的deepseek api
然后就可以用自己本地部署的api了