一、如何私有化部署DeepSeek
如何部署DeepSeek,具体可参考以下内容:
- 喂饭式教程 - 腾讯云轻量服务器部署DeepSeek:https://cloud.tencent.com/developer/article/2494571
- 喂饭式教程 - 腾讯云HAI服务部署DeepSeek:https://cloud.tencent.com/developer/article/2495288
- 喂饭式教程 - 腾讯云HAI服务原生安装Ollama部署DeepSeek:https://cloud.tencent.com/developer/article/2496078
以上方式在云端产品上实现 DeepSeek 的私有化部署,除此之外,也可以部署安装在本地机器上,如个人PC电脑、内网电脑等环境。
无论使用哪种方法,本质上都是通过安装 Ollama 运行 DeepSeek的大模型来实现,只是具体的实现方式不同。
二、私有化部署DeepSeek与第三方API使用区别
私有化部署DeepSeek |
第三方API使用 |
|
---|---|---|
定义 |
将DeepSeek部署在自有服务器或数据中心中,完全掌控数据和系统 |
使用由第三方提供的API接口,将第三方服务或功能集成到自己的应用程序中 |
数据安全与隐私 |
高安全性,数据完全掌握手中,减少数据泄露风险 |
安全性依赖于第三方API提供者的安全措施,可能存在数据泄露风险 |
定制化程度 |
高度定制化,可以根据自身需求对DeepSeek进行配置和优化 |
定制化程度较低,受限于第三方API提供的功能和参数 |
成本控制 |
初期投入较高,但长期来看可节省持续的服务费用 |
前期基本无投入,但需支付第三方API的使用费用 |
灵活性 |
灵活性高,可根据需求自主扩展和调整DeepSeek的功能 |
灵活性取决于第三方API的更新和扩展能力 |
技术支持与维护 |
需自行负责DeepSeek的技术支持与维护,但拥有完全的控制权 |
第三方API提供者通常提供技术支持,但可能面临响应延迟或限制 |
应用场景 |
适合对数据安全性、隐私保护要求高的场景 |
适合需要快速集成第三方服务或功能,且对数据安全性要求不是特别高的场景 |
通过以上表格对比可得出私有化部署DeepSeek具有数据高安全性、功能高定制化等特点,但安装好后的DeepSeek还是模型的最初形态,可以通过不同的插件及软件对其进行优化调整。
下面将介绍如何通过Page Assist、Cherry Studio、AnythingLLM对私有化部署的DeepSeek进行设置,搭建本地知识库、联网搜索、RAG(检索增强生成),以实现私人专属AI大模型。
本文所展示的数据和内容仅用于教程演示,具体参数及功能以官网介绍为准。
三、Ollama URL 地址
3.1、Ollama地址
对DeepSeek进行配置训练,就需要通过 Ollama 的URL地址找到DeepSeek模型,不同部署方式的Ollama地址有所不同。其中11434为Ollama默认端口号,。
安装方式 |
Ollama地址 |
---|---|
本地安装 Ollama |