使用CherryStudio部署DeepSeek模型服务以及构建本地知识库

CherryStudio是一个支持多平台的AI客户端,可以在CherryStudio中设置使用多个平台的AI模型,并且能高效的构建本地知识库。

一、安装CherryStudio

进入官网:Cherry Studio - 全能的AI助手

点击下载,下载对应的版本进行安装

二、CherryStudio使用

打开CherryStudio

CherryStudio默认使用硅基流动平台提供的模型接口,如果还没有在硅基流动平台进行注册,可以使用如下链接进行注册:

硅基流动统一登录

可以白嫖2000w tokens。

注册成功后,可以在模型广场查看平台支持的模型

下面以硅基流动平台为例,说说怎么在CherryStudio中部署模型服务。

1.在硅基流动平台获取api密钥

2.CherryStudio中设置模型服务

在“设置”->"模型服务"中,选择硅基流动,粘贴刚才创建的api密钥,点击"检查",选择要检查的模型,如果显示"连接成功",则表示模型服务配置成功。

点击下方的“管理”,可以快速添加或删除平台支持的模型,如下图:

如果使用的模型不在管理列表中,可以使用添加按钮自己配置。

3.使用演示

在“助手”中选择要使用的模型,与模型对话。

三、搭建本地知识库

使用CherryStudio搭建本地知识库也非常简单。

1.添加嵌入模型

我这里选择的是"BAAI/bge-m3"模型,也可以点击“管理”按钮,添加其他嵌入模型。

2.添加知识库

点击左侧任务栏的“知识库”,点击“添加”,在弹出的对话框中添加一个新的知识库,嵌入模型选择“BAAI/bge-m3”。

3.上传知识库内容

知识库支持多种类型,包括文件、目录、网址、网站和笔记。

我这里上传了一个pdf文件,当文件右侧出现绿色的对勾标记时,表示文件处理完毕。

4.使用知识库

在对话中选择使用知识库。

发起对话,看看大模型是否引用了知识库中的内容。

可以看到大模型确实引用了本地知识库的内容,并且把引用的内容放在了对话的最后。

内容概要:本文详细介绍了 Deepseek本地知识库部署流程及应用。首先是基于 Cherry Studio 或 AnythingLLM 搭建个人知识库的方法,强调配置嵌入模型、安装 cherry studio 或 AnythingLLM 软件,并正确设置本地服务模型配置的重要性。具体的操作步骤覆盖了从下载、配置到添加知识文档和配置远程文档的一系列过程。接着介绍了通过搜索验证、大模型处理等功能展示如何利用本地知识库进行高效的搜索与数据分析。特别提到了使用深度搜索来提高搜索的准确性及其应用场景——如在小红书平台上进行内容运营指导。最后比较了两种不同的搭建工具,指出 Cherry Studio 更适用于非技术人员,而 AnythingLLM 更倾向于具备程序思维的技术人员。 适合人群:本文主要针对有一定技术水平的企业用户和个人开发者,特别是对隐私保护敏感并希望通过私有化部署增强安全性的人群。 使用场景及目标:用户可以通过本文的学习掌握一套完整的本地知识管理系统搭建流程,旨在帮助他们在工作和生活中更好地管理和应用知识库。具体应用场景包括但不限于企业内部培训材料存储、科研文献检索、个性化内容推荐以及个人学习和发展等领域。 其他说明:在选择具体的构建工具时需考虑自身实际情况。对于大多数用户来说,Cherry Studio 提供了一个更友好便捷的选择;但对于那些寻求更多定制化的专业人士而言,AnythingLLM 则是一个不错的选择。同时提醒用户要注意隐私保护尤其是涉及敏感数据的情况下避免不必要的网络连接以确保信息安全。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值