小白就能上手的DeepSeek本地部署大全——Ollama+Chatbox构建私人本地知识库
一、初识DeepSeek
上图是我让DeepSeek自己做的自我介绍,听起来很酷吧!简单总结一下:DeepSeek是一个可以拟人推理思维的AI大模型,它不仅可以媲美ChatGPT-3.5模型,而且免费,还附带解题思路。
DeepSeek模型介绍
DeepSeek是一个强大的开源AI模型系列,由深度求索(DeepSeek)开发。它提供了多个版本的模型:
- DeepSeek-Coder:专注于代码开发的AI助手,精通多种编程语言。
- DeepSeek-Chat:通用对话模型,支持中英双语,可处理多领域问题。
- DeepSeek-MoE:基于专家混合的大规模语言模型。
特点是开源、性能强大,在代码理解和生成方面表现出色。
所谓的解题思路,就是它内置的提示词库:https://api-docs.deepseek.com/zh-cn/prompt-library/
二、为什么要本地部署
说到本地部署,我觉得主要有以下原因:
- DeepSeek目前对服务器访问频次做了限制,经常访问都会提示"服务器繁忙,请稍后再试。"
- 有些企业有数据安全的要求,本地化部署可以有效防止数据外泄。
- 还有部分同学认为别人有的我必须有,那我也得"装一装"。
本地部署的好处
- 可以断网使用:不需要考虑网络带来的限制,可以自由使用。
- 私密数据不会泄露:模型部署在本地或者企业服务集群,可以有效防止数据泄露。
适合人群:
- 有需求的程序员:有些程序员开发的项目比较保密,本地部署可以防止数据泄露。
- 企业:企业可以蒸馏自己的大模型,用于自身的智能体训练。
- 大学生:大学生通过本地部署练手,可以丰富自己的简历。
- 近期在找工作的人:可以丰富自己的简历,说不定一忽悠,面试就通过了。
三、本地部署实操指南
详细安装步骤已经在飞书文档帮大家整理好了
https://swgjwfxm4q.feishu.cn/docx/YbgVdytqsoOLNSx7BGhc1L00nkh?from=from_copylink
或者在文章顶部直接下载资源