CherryStudio无法与Ollama嵌入模型连接

已于 2025-04-09 18:20:21 修改
阅读量220 收藏
点赞数 2
分类专栏： Python ollama cherrystudio 文章标签： python
于 2025-04-09 18:19:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/toseekin/article/details/147099209
版权

使用cherry studio创建知识库，连接ollama的bge-m3模型失败，报错404

重新安装ollama和cherry studio，版本分别为0.6.2和1.1.18，添加知识库成功不报错

【AI】CherryStudio + Ollama
德仔
02-24 881
下载地址：https://cherry-ai.com/download。在聊天时记住一定要选择你的知识库，选择了知识库的会是彩色的按钮。3.3.1添加知识库之前，请先去把模型设置为嵌入模型。3.3.3选择本地文件或者目录，添加网络文章地址。3.3.2☆☆配置本地部署的DeepSeek。即可实现本地DeepSeek模型对话。选择好安装目录 一直下一步安装就好。点击“Ollama”，点击“管理”点击本地添加的模型后面“+”回到聊天页面进行聊天。3.3.3本地知识库。3.3.2创建知识库。3.3.4使用知识库。
Win+安装Ollama+本地Deepseek-R1+Cherrystudio使用
qq_41946216的博客
02-07 5659
本文主要介绍 win 本地安装 Ollama ，本地部署 Ollama 的 deepseek-r1:7b 大模型，使用具有界面画操作的工具 Cherrystudio进行操作。文章内容仅供参考。‌ ‌Ollama 是一个开源的框架，旨在本地运行大型语言模型（LLM）。它提供了一个简洁且用户友好的命令行界面，使得用户可以轻松部署和管理各种开源的大型语言模型‌。
本地安装cherry studio运行ollama模型，搭建个人知识库
沉淀的博客
03-03 393
使用模型选择我们的知识库，搜索答案就可以将文档的内容搜索出来了，网页版的其实也可以做到，我本地跑这个cpu立马就上去了，2、选择ollama模型和词嵌入模型dmeta-embedding-zh-下载地址。接下来可以继续完善你的知识库搜索。
Ollama+CherryStudio本地部署拯救deepseek官方不可用
轻口味的专栏
02-08 8327
这里检查失败了，因为本地安装模型是1.5b，这里输入模型的时候有写全：deepseek-r1:1.5b，这时候点击确定后显示连接成功。好在deepseek将模型开源，并且有已经量化到可以在我们本地电脑部署，本文我们介绍从PC端到手机端一站式部署deepseek。首先需要安装ollama，从官网https://ollama.com/下载对应系统的安装包安装即可。接下来下载cherry studio，官网下载地址：https://cherry-ai.com/。接下来可以在手机使用本地离线模型聊天了。
【AI应用】Cherry Studio结合deepseek搭建本地知识库
一点硬件
02-20 1886
Cherry Studio结合deepseek搭建本地知识库
本地docker部署fastgpt后，连不上刚搭建的ollama大模型
最新发布
xiang1009的专栏
04-05 131
4、尝试使用本机IP地址调用http://192.168.10.10:11434连接不上，再仔细排查，原来默认情况下，Ollama 服务仅在本地运行，不对外提供服务。问题：本地刚搭建的ollama，部署了deepseek-r1，但随后部署的fastgpt却无法访问，提示connection error。4、在docker中调用ollama接口尝试，http://127.0.0.1:11434，竟然失败。3、重启大法：重启docker、重启os无效。2、关闭防火墙：无效。
ollama在win10本地部署结合Cherry Studio进行使用
qq_27521077的博客
02-17 434
1.为何是win10环境进行安装？一般有显卡且不是生产环境，都是win系统，那么就需要再win上面安装ollama使用本地模型2.为何要本地安装ollama？想要私有化部署模型，ollama简单易操作。
ollama+Cherry Studio 搭建本地知识库问答
qq_41779416的博客
02-27 883
(这里也可以安装别的模型，比如向量模型还有大模型主流的都有基本，可以安装，前提地带的动。这里可以直接拖住文件进行，也可以选择目录，也可以是网站加入知识库中。安装完向量模型后需要启动下，ollama可以windows里搜索，然后双击启动，启动后会在，右侧底部小图标显示。然后配置 Cherry Studio 设置对应的向量模型，这里密钥地址没有该的话按我的填就行。注意向量化文档需要浪费时间，可以看下进度完成后在对话。安装后配置自己用供应商提供的大模型，我这里使用的是官方 deepseek 的api。
DeepSeek 本地部署指南
moresi的博客
02-12 1689
DeepSeek 作为一款强大的大语言模型，具备出色的语言理解和生成能力。然而，许多用户希望能够在本地部署 DeepSeek，以实现更高的隐私性、更低的延迟和更好的定制化。本文将为你详细介绍 DeepSeek 本地部署的全过程，帮助你轻松在本地环境中使用 DeepSeek。
Deepseek R1 模型本地部署(ollama+cherry studio)详细指南！ 个人知识库搭建与使用
代码时光
02-14 5812
对于想要在本地或自托管环境中运行 LLM 的用户而言，Ollama 提供了一个无需 GPU、在 CPU 环境也可高效完成推理的轻量化 “本地推理” 方案，接下来跟着笔者学习怎么一步步搭建自己的本地知识库吧
使用CherryStudio、Ollama、腾讯云搭建本地个人知识库、智能体
chunmiao3032的专栏
02-13 2517
需要部署大模型和嵌入模型（太要求电脑配置了，配置差的最好不要尝试，我i5,16G内存，固态硬盘，集成显卡，deepseek根本跑不起来，llama3勉强能跑起来，但是超级慢，嵌入模型nomic-embed-text:latest跑起来后，向量化个几k的文本文件用了几分钟）安装ollama启动ollama启动后，Ollama会在默认端口11434上运行。你可以通过浏览器访问拉取llama3模型运行模型查看模型再拉取嵌入模型然后运行查看拉取的模型。
Windows上通过Ollama本地部署DeepSeek R1 1.5B 模型，并与CherryStudio集成
weixin_44872675的博客
02-07 1699
CherryStudio 是用于构建和测试 AI 应用的工具。在 CherryStudio 中，您可以使用创建的 API 调用与 DeepSeek 模型进行交互，进行文本生成或其他任务。如果在任何步骤中遇到问题，请提供具体的错误信息，以便我能更好地帮助您。或 PowerShell。
【AI大模型】Cherry Studio和Deepseek模型搭建本地知识库+硅基流动API调用+本地ollama模型调用
LeonJin的博客
02-08 3129
构建知识库的技术路径并不难理解，cherry studio给出了很完整的解决方案和工程实现demo从结果完整度来看，deepseek-r1 > deepseek-v3 > deepseek-r1:14b从耗时情况来看，deepseek-r1:14b < deepseek-v3 < deepseek-r1 (不排除云端资源紧张导致耗时增加)基本上可以确认基于推理模型和嵌入模型以及一系列的知识前处理和后处理工具可以搭建出一个本地知识库。
CherryStudio 搭建deepseek本地知识库
赵一舟的博客
02-05 7882
注册个账号，因为需要配置 Embedding（嵌入式模型），注册成功后你会获得14R（2000W Token）1、我是deepseek官方申请的，现在因为各种原因 不开放了，需要的小伙伴可以找我要可以，将 复制的API秘钥 填写进去，点击右边的检查，会提示成功还是失败，当提示成功表示可以使用。第二种选择是硅基流动，首先去。客户端，官网提供了全平台。
内网本地部署deepseek模型（ollama+deepseek)，并建立本地知识库（一）
一等一焱的博客
02-11 5664
本地部署ollama+deepseek
Cherry Studio搭建本地知识库，让DeepSeek R1发挥最大实力，彻底告别硬件限制！
热门推荐
m0_59164304的博客
02-07 4万+
今天我们——借助硅基流动的 API 接口，让你轻松接入DeepSeek R1模型，体验满血复活版R1的强大功能。今天给大家介绍一个新的工具，Cherry Studio，一款聚合主流大语言模型服务的桌面工具。它通过直观的可视化界面和远程API接口，实现了跨平台调用各类模型，既降低了对本地硬件的依赖，又大幅提升了使用效率，为大家搭建高效知识库提供了全新思路。打开Cherry官网：https://cherry-ai.com/download选择适配自己操作系统的版本进行下载。
Cherry Studio知识库嵌入Pro/BAAI/bge-m3模型失败
m0_63117863的博客
02-06 5464
用Cherry Studio添加嵌入式模型Pro/BAAI/bge-m3，提示获取嵌入维度失败503 status code （no body），请问大家如何解决？是因为Pro/BAAI/bge-m3这个模型 超载或者系统维护，无法访问么？
Cherry Studio部署MCP服务报错解决记录
weixin_40705231的博客
03-27 4717
添加blender的MCP服务会出现【添加服务器失败: Error invoking remote method 'mcp:add-server': McpError: MCP error -32000: Connection closed】错误提示。官方帮助文档里的fetch和前面想要部署blender都试了，因为没有科学上网，有时会报错链接失败（32001错误），多点几次以后成功了~（这个截图里bun还是有问题的，可能下载错了，但是uv有了就能链接服务了）反应过来去核实uv到底装没装上。
langChain ollama嵌入模型
04-03
<think>好的，用户想了解如何在LangChain中使用Ollama嵌入模型，需要教程和示例。首先，我需要回忆一下LangChain和Ollama的相关知识。Ollama是一个本地运行大型语言模型的工具，而LangChain是一个用于构建基于语言模型的应用程序的框架。嵌入模型通常用于将文本转换为向量表示，以便进行相似性比较或其他机器学习任务。 接下来，用户的问题涉及到如何在LangChain中集成Ollama的嵌入模型。我应该先确认Ollama是否支持嵌入模型，比如是否有一些预训练的模型可以用来生成嵌入。例如，Ollama可能提供类似于llama2或其他的模型，这些模型可能具备生成嵌入的功能。 然后，我需要考虑LangChain中嵌入模型的使用方式。通常，LangChain提供了Embeddings类，用户需要指定嵌入模型的名称或路径。使用Ollama可能需要通过Ollama类来调用模型，因此可能需要安装相应的Python包，比如langchain_community中的Ollama集成。 接下来，我需要构造一个示例代码。首先，安装必要的库，比如`pip install langchain-community ollama`。然后，导入所需的模块，初始化Ollama服务，设置模型名称，比如'llama2:7b'，并创建嵌入实例。之后，演示如何生成嵌入向量，比如使用embed_documents方法处理多个文本，或者使用embed_query处理单个查询。 还需要注意一些细节，比如确保Ollama服务已经启动，模型已经下载（通过`ollama pull llama2:7b`）。此外，可能需要处理不同模型之间的差异，比如嵌入向量的长度是否一致，或者是否需要调整参数。 用户可能遇到的问题包括安装依赖、模型下载、嵌入生成错误等，应该在回答中提及这些可能的注意事项。例如，提醒用户检查模型是否可用，服务是否运行，以及如何处理嵌入生成过程中的异常。 最后，生成相关问题，帮助用户进一步探索，比如比较不同模型的效果，优化性能的方法，或者处理长文本的策略。这些问题应该与嵌入模型的使用场景和优化相关，符合用户可能的需求。 总结一下，回答的结构应该是：先介绍步骤，包括安装、导入、初始化、生成嵌入，然后给出示例代码，接着说明注意事项，最后提供相关问题。确保代码格式正确，使用中文解释每个步骤，并引用相关的参考资料，比如Ollama的模型下载命令。</think>### LangChain中使用Ollama嵌入模型教程 #### 1. 环境准备 首先确保已安装Ollama并下载所需模型（例如`llama2:7b`）： ```bash ollama pull llama2:7b # 下载模型[^1] pip install langchain-community ollama # 安装依赖库 ``` #### 2. 初始化嵌入模型 在Python脚本中引入Ollama嵌入模块： ```python from langchain_community.embeddings import OllamaEmbeddings # 初始化嵌入模型（确保Ollama服务已启动） embeddings = OllamaEmbeddings(model="llama2:7b") ``` #### 3. 生成文本嵌入 通过`embed_documents`方法批量处理文本： ```python texts = ["机器学习", "自然语言处理"] doc_embeddings = embeddings.embed_documents(texts) print(f"嵌入向量维度：{len(doc_embeddings[0])}") # 输出示例：嵌入向量维度：4096 ``` 通过`embed_query`处理单个查询： ```python query_embedding = embeddings.embed_query("深度学习") ``` #### 4. 集成到LangChain流程 可将嵌入模型与向量数据库结合使用： ```python from langchain_community.vectorstores import FAISS # 创建向量存储 vector_store = FAISS.from_texts(texts, embeddings) ``` #### 注意事项 1. 本地服务验证：执行`ollama serve`确保服务运行在`http://localhost:11434` 2. 模型兼容性：不同模型的输出维度可能不同（如`llama2:7b`输出4096维） 3. 性能优化：通过`temperature`等参数调整生成效果： ```python embeddings = OllamaEmbeddings(model="llama2:7b", temperature=0.3) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值