基于deepseek模型知识库，Cherry Studio和AnythingLLM使用效果对比

最新推荐文章于 2025-05-23 15:13:21 发布
最新推荐文章于 2025-05-23 15:13:21 发布
阅读量2.1k 收藏 11
点赞数 4
CC 4.0 BY-SA版权
文章标签： 人工智能 iNeuOS 工业互联网 智能制造
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/lsjwq/article/details/145547105

基于deepseek模型知识库，Cherry Studio和AnythingLLM使用效果对比

目       录

1.      使用效果对比基础

2.      Cherry Studio和AnythingLLM使用效果对比

3.      Cherry Studio嵌入模型使用对比

4.      结论

1.   使用效果对比基础

　　网上有很多构建本地知识库的文章，我们更应该更深入应用，对比不同的应用效果，才能发挥知识库本身的价值。

　　（1）基础模型为deepseek-r1:8b。

　　（2）嵌入模型分别为：deepseek-r1:8b、BAAI/bge-m3和nomic-embed-text。

　　（3）投喂资料为iNeuOS工业互联网操作系统的130个相关资料。

2.   Cherry Studio和AnythingLLM使用效果对比

　　这个对比是使用deepseek-r1:8b作为嵌入模型，投喂Word资料后，提问同样的问题后使用的效果对比。

　　AnythingLLM使用效果，显然回答的比较简洁，不够全面。

　　投喂资料，如下图：

　　提出问题：请全面介绍-下iNeuView视图建模功能；回答效果如下图：

最低0.47元/天 解锁文章
深度学习-107-RAG技术之基于Cherry Studio和Anything LLM搭建本地私人知识库的效果并不理想
qq_20466211的博客
02-08 3056
知识库是人工智能RAG(检索增强生成)的领域，如果要做智能很多东西要优化，第一大模型本身足够强，1.5b只能作为简单示例，它还要考虑嵌入模型，重排序模型，向量数据库，文本分割等等，要实际应用还要学好多东西。
Cherry Studio 、anythingllm扫盲
chunmiao3032的专栏
02-13 6425
如果你需要一个功能丰富、支持多种模型和AI助手的工具，Cherry Studio 是一个不错的选择。而如果你更关注文档知识库管理和多用户协作，AnythingLLM 可能更适合你的需求。如果你需要一个功能丰富、回答全面且支持多种模型和文档处理的工具，是一个更好的选择。如果你更关注知识库的管理和文档检索功能，且需要支持多用户和权限管理，可能更适合你的需求。
本地部署AI大模型全指南：Ollama + Cherry Studio + AnythingLLM 安装与使用教程
最新发布
SeaArea_的博客
05-23 579
本文详细介绍了如何在本地部署和运行AI大语言模型（LLM），包括Ollama（本地LLM运行工具）、Cherry Studio（国产AI交互与知识库管理工具）和AnythingLLM（多模型管理与知识库构建工具）的安装与使用方法。
综合对比分析：AnythingLLM、Cherry Studio、RAGFlow 和 Dify
2401_83450572的博客
02-24 1万+
Cherry Studio：工业领域知识库问答（如iNeuOS操作系统的资料管理），嵌入模型优化后回答精准度提升。核心功能亮点：结合特定嵌入模型（如nomic-embed-text）提升回答全面性，测试表现优于同类工具。核心功能亮点：可视化工作流编排、自定义Agent、快速集成业务系统，生态扩展性强。理由：测试中表现优于AnythingLLM，适合对回答全面性要求较高的场景。场景：企业需要快速开发AI应用（如智能客服、自动化数据分析）场景：处理扫描件、表格等复杂文档的专业领域（如法律、医疗）
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，谁才是你的效率加速器？
热门推荐
呱牛 Just do IT
02-12 1万+
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，谁才是你的效率加速器？
DeepSeek等大模型的WebUI：Cherry Studio、Chatbox、AnythingLLM，究竟该如何抉择？
m0_59235245的博客
03-10 4699
在2025年的AI工具市场中，Chatbox和各有千秋。选择工具的本质是“需求先行”。无论您是技术极客、企业决策者，还是效率追求者，总有一款工具能成为您的“数字外挂”。立即行动，用对工具，让AI真正为您赋能！
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，谁才是你的效率加速器？.pdf
02-10
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，谁才是你的效率加速器？.pdf
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，区别对比
weixin_43936332的博客
03-19 1311
优势对比适用场景。
DeepSeek模型知识库下Cherry Studio与AnythingLLM的使用效果及嵌入模型性能对比
02-11
内容概要：本文档对Cherry Studio和AnythingLLM在基于DeepSeek模型的知识库应用中进行了详细的使用效果对比。首先阐述了对比的基础环境——即采用的基础模型和嵌入模型以及输入的数据来源（iNeuOS工业互联网操作系统...
Cherry Studio 连接私域deepseek-r1模型搭建私域知识库和智能体（也可使用第三方模型）
山顶听风的博客
02-12 3813
CherryStudio 能解决什么问题?1、与大模型对话的客户端，与 Chartbox 类似；2、可以创建知识库，将知识管理起来不暴露到公网；（用第三方平台也可以创建知识库，但企业信息会暴露到公网上）3、可以基于知识库创建 智能体。本文主要使用后面两点，创建私域智能体。
AI应用新里程碑：Cherry Studio多模型服务平台解析
02-08
内容概要：本文介绍了名为Cherry Studio的人工智能工具。它主要是一款针对多种大语言模型的桌面客户端平台，支持OpenAI、Google Gemini等多个著名模型的服务。通过Cherry Studio，使用者能够在本地或云端轻松运行多种AI模型，在工作、学习和娱乐中受益无穷。它不仅仅涵盖云服务模型支持和网络服务集成的特点，还在本地模型部署、数据处理（如多格式文件支持）、文件管理（WebDAV功能）和实用工具（如全球搜索、主题管理和AI驱动的翻译）等方面进行了详细介绍。此外，该平台还具有300多项预置智能助手供各领域用户选择，同时也允许用户依据具体工作流程来定制助手。Cherry Studio以其丰富的特性支持Windows、Mac、Linux三种操作系统，做到真正的‘开箱即用’。 适用人群：适用于科技爱好者、程序员、研究人员、教师、设计师以及所有希望借助人工智能力量改进其日常任务效率的专业人士。 使用场景及目标：旨在为专业人士和日常用户搭建一座通往高效工作的桥梁。不论是要寻找一种更为简便的方式来处理日常工作，还是正在探寻新颖的创意生成方法，又或者是期望简化数据管理工作流，Cherry Studio都提供了一套完善有效的解决方案。 其他说明：未来版本将继续扩展功能范围，强化数据安全措施，增加模型和助手类型，致力于成为一个不可或缺的人工智能伴侣。现在即可下载试用这款强大且易用的产品，亲身体验由Cherry Studio带领的人工智能新世界所带来的变革力量。
AnythingLLM一键AI私有知识库! 支持多种大模型、RAG 和 AI Agents！
Y525698136的博客
10-25 1857
AnythingLLM是一个全栈AI应用程序，可以将任何文档、资源（如网址链接、音频、视频）输入大语言模型（LLM），与大模型互动。
【免费下载】 新手指南：快速上手nomic-embed-text-v1模型
gitblog_02451的博客
12-19 6182
新手指南：快速上手nomic-embed-text-v1模型 nomic-embed-text-v1 项目地址: https://gitcode.com/mirrors/nomic-ai/nomic-embed-text-v1 ...
本地算力部署大模型详细流程（二）
小钟不想敲代码
03-14 578
本地算力部署大模型详细流程（二）
基于DeepSeek模型知识库，Cherry Studio和AnythingLLM使用效果对比
2401_85325397的博客
03-18 775
网上有很多构建本地知识库的文章，我们更应该更深入应用，对比不同的应用效果，才能发挥知识库本身的价值。 （1）基础模型为deepseek-r1:8b。 （2）嵌入模型分别为：deepseek-r1:8b、BAAI/bge-m3和nomic-embed-text。 （3）投喂资料为iNeuOS工业互联网操作系统的130个相关资料。
LLM客户端开源工具cherry studio
love code, love life.
12-23 4260
Cherry Studio AI 是一款具有很高潜力的多模型 AI 助手，它通过整合多个强大的 LLM，并在不同的平台上提供统一的使用体验，旨在提高用户的工作和学习效率。这意味着 Cherry Studio AI 不仅限于使用一个单一的 AI 模型，而是集成了多个不同的 LLM。Cherry Studio AI 是一款强大的多模型AI 助手，支持iOS、macOS 和Windows 平台。在 iOS、macOS 和 Windows 上可用，使得用户可以在不同的设备上无缝使用，保持工作和学习的一致性。
企业RAG落地避坑指南：自主开发 vs 三大框架，核心配置与选型全解析
Androiddddd的博客
02-14 1710
首先，毋庸置疑的一点是，针对企业级 RAG 部署方案的选择，需结合开发成本、功能需求与运维复杂度综合评估。自主开发的明显优势是，可以完全自主掌控检索流程（比如可以定制冲突检测算法与多源排序逻辑等），支持动态调整文本分割策略（chunk_size=800, overlap=50）适配不同文档类型，最后就是轻量化运行，最低配置仅需约 2GB 内存即可运行，适配集成显卡环境。但问题也很明显，首先是企业级功能缺失，缺乏权限管理体系（如 AD/LDAP 集成），无审计日志与操作追溯模块等。
构建基于Deepseek的适航知识库：双方案对比与实战案例解析
qq_41854911的博客
02-16 456
构建基于Deepseek的适航知识库：双方案对比与实战案例全解析精华导读：手把手构建航空领域专属知识库，让大模型秒变适航专家！你是否苦恼于通用大模型在航空技术问答中缺乏专业性？本文揭秘两大硬核方法，基于与，教你打造精准可靠的机载系统知识库！
LM Studio+AnythingLLM搭建私有知识库如何提高回答准确率？
03-11
<think>嗯，用户想了解如何通过配置和优化LM Studio与AnythingLLM来提升私有知识库问答系统的准确性。首先，我需要回忆一下这两个工具的基本功能和它们如何协同工作。LM Studio主要是用来本地运行和微调大型语言模型的，而AnythingLLM则是一个支持文档交互的AI应用，可以将文档转化为上下文信息供LLM使用。 接下来，用户提到的准确性提升需要从多个方面考虑。首先是模型的选择，比如是否使用Llama 3、Mistral或者BGE-M3这样的向量模型。然后是文档预处理，比如分块策略和元数据标注，这可能会影响检索效果。还有检索优化，比如调整向量相似度的阈值或使用混合检索方法。此外，可能还需要调整LLM的生成参数，比如温度和top_p值，来控制回答的多样性和准确性。 另外，用户提供的引用中有提到BGE-M3模型在多语言和多功能方面的优势，可能需要建议用户使用这个模型来提升向量检索的准确性。还有关于AnythingLLM支持多用户管理和不同LLM的配置，可能需要指导用户如何正确设置这些选项。 需要注意的是，配置步骤可能包括安装和配置LM Studio、导入模型、设置API，以及在AnythingLLM中选择合适的LLM和向量数据库。优化部分可能涉及调整分块大小、测试不同的检索策略，以及持续监控和迭代。 可能还需要考虑如何结合RAG（检索增强生成）系统，确保检索到的文档片段与问题相关，从而提升生成答案的准确性。此外，用户可能对性能分析或具体应用场景有后续问题，需要准备好相关的问题建议。 最后，要确保回答结构清晰，按照配置步骤和优化方法分点说明，并引用相关的资料来支持建议，比如引用BGE-M3的优势和AnythingLLM的可配置性。同时，检查是否符合系统级指令，如正确使用LaTeX格式和生成相关问题。</think>### 如何配置和优化LM Studio与AnythingLLM提升私有知识库问答准确性 #### 一、基础配置流程 1. **LM Studio本地模型部署** - 安装最新版LM Studio后，通过`ollama pull bge-m3`拉取BGE-M3多语言向量模型[^5] - 选择适合任务的LLM，推荐使用支持长文本的模型如Llama3-70b或Mistral-7B - 在`server_config.yaml`中设置API端口： ```yaml api_endpoint: "http://localhost:11434/v1" ``` 2. **AnythingLLM系统集成** - 在Workspace设置中选择"Custom LLM"并绑定LM Studio的API地址 - 向量数据库配置建议： - 使用BGE-M3生成1024维稠密向量[^5] - 设置分块大小为512-1024 tokens（通过`chunk_size`参数调整） #### 二、核心优化策略 1. **文档预处理优化** - 应用滑动窗口算法（公式：$S_{overlap} = \lfloor 0.3 \times S_{chunk} \rfloor$）减少信息断层 - 添加元数据标注： ```json { "doc_type": "技术手册", "version": "2.3", "keywords": ["配置", "API"] } ``` 2. **检索增强生成(RAG)调优** - 设置混合检索权重： $$Score_{final} = 0.7 \times Sim_{vector} + 0.3 \times BM25$$ - 动态调整相似度阈值（建议初始值：$\theta=0.65$） 3. **LLM生成参数调整** | 参数 | 推荐值 | 作用域 | |---------------|--------|----------------| | temperature | 0.3 | 控制随机性 | | top_p | 0.9 | 核采样阈值 | | max_new_tokens| 1024 | 响应长度限制 | #### 三、高级调试技巧 1. 通过Cherry Studio监控API调用链路，分析时延分布： $$P_{latency} = \frac{1}{N}\sum_{i=1}^{N}t_i$$ 其中$t_i$表示第i次请求响应时间 2. 使用DeepSeek的评估工具包进行答案质量评分，建议重点关注： - 事实准确性（通过$Accuracy = \frac{N_{correct}}{N_{total}}$计算） - 上下文相关性（余弦相似度$Sim_{cos}(A,Q) \geq 0.7$） #### 四、典型问题排查 当出现幻觉回答时： 1. 检查向量数据库的`k`值（建议初始值：k=5） 2. 验证文档分块是否包含完整语义单元 3. 在LM Studio中尝试调整`repeat_penalty`参数（推荐值：1.2）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

iNeuOS工业互联网

提升动力值

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值