本文使用ollama+deepseek r1+chatbox 本地安装部署 独属于你的DeepSeek模型
步骤一、安装ollama
(1)安装ollama,下载安装,https://ollama.com/download
Ollama 是一个开源的本地化工具,旨在简化大型语言模型(LLMs)的部署和运行。它允许用户在个人计算机或服务器上直接运行多种开源模型(如 Llama、Mistral 等),无需依赖云端服务,适合注重隐私、需离线使用或希望低成本探索 AI 能力的场景。
(2)安装好后,打开CMD黑窗口,输入 ollama -v ,查看是否安装成功
步骤二、部署DeepSeek R1模型
(1)下载模型:安装好后ollama,继续在ollama官网选择对应的模型和版本,在cmd窗口运行:
ollama run deepseek-r1:7b
即可安装模型。
根据自己电脑的显存,去选择对应的版本(例如我是3060,就选择7b模型):
到这就可以看到,我们的本地模型部署好了。
(2)ollama的常用命令
在模型对话框汇总如何退出模型:/bye
查看本地模型:ollama list
运行模型:ollama run 模型名字
好了,到这我们基本的本地安装部署DeepSeek就结束了,那如果我们每次都使用这个命令行去使用这个模型,不免会有一些不方便,下面教大家如何使用chatbox去绑定我们的本地模型,实现可视化的交互。
步骤三、安装chatbox
Chatbox 是一款跨平台的人工智能桌面客户端应用,它就像是一个智能的 “魔法盒子”,能够连接各种先进的语言模型,如 OpenAI 的 GPT-4、GPT-3.5 等 ,让用户通过简洁直观的界面与这些强大的 AI 进行交互。它支持 Windows、macOS 和 Linux 三大主流桌面操作系统,为不同系统偏好的用户提供了统一的使用体验。
(1)安装chatbox,https://chatboxai.app/zh
安装好后,打开即可看到这样的界面
(2)将本地deepseek 模型与chatbox进行绑定。
点击设置
按照如上进行配置,然后点击保存即可。
到这就chatbox与本地模型的绑定就已经完成啦。