随着deepseek的爆火,deepseek的访问量剧增,经常出现服务器繁忙的情况,受不了怎么办,小编给大家分享在本地部署deepseek的方法,告别服务器繁忙的问题。过程简单,点点鼠标就部署好了,快来试试吧!
1.安装Ollama
在Ollama官方网站(https://ollama.com/)下载并安装ollama工具,这是一个为快速部署和运行大型语言模型而设计的免费的工具。
根据不同的操作系统,下载Ollama安装包。
下载下来的安装包打开并安装,安装界面很简单,安装完成后,接下来我们就可以通过Ollama来安装Deepseek了。
2.安装Deepseek
再次进入Ollama官网,点击左上角的Models,然后选择deepseek-r1
可以看到deepseek-r1的模型大小提供了7个选择,小编这里选择的是1.5b大小的模型,大家可以根据自己硬件情况来选择合适大小的模型,模型越大,模型的理解和生成能力越强。
选择模型大小后,可复制生成的命令到命令行界面执行,小编安装1.5b大小的模型的命令如下:
ollama run deepseek-r1:1.5b
安装后即可在命令行界面和deepseek-r1对话了。
3.安装chatbox
虽然已经可以和deepseek在命令行中对话了,但这个页面显然不够友好,我们需要一个美观的聊天窗口,这里我们使用chatbox来与本地的deepseek对话。
访问chatbox官网(https://chatboxai.app/zh),下载对应操作系统的chatbox安装包,进行安装。
安装后打开chatbox,会提示选择AI模型提供方,我们这里选择“使用自己的API Key或本地模型”
然后选择Ollama API,在模型处选择我们刚才下载的deepseek-r1:1.5b
设置好后点击保存,就可以在chatbox上与本地部署的deepseek大模型对话了。
在成功安装并体验了Ollama与Deepseek的便捷之后,我们不得不提及另一款同样出色的平台——中启乘数(杭州)科技有限公司的CLup平台。CLup软件是专为PostgreSQL、PolarDB等数据库实现了高可用(包括读写分离)集群功能和基础监控管理以及对数据库进行定时或立即备份,恢复的平台软件。
CLup在安装与部署方面同样提供了令人瞩目的简洁与高效体验,与Deepseek的安装流程如出一辙,轻松上手,无需复杂操作。更多详情请参考官方文档:中启乘数科技(杭州)有限公司 - CLup产品