Error raised by inference API HTTP code: 404, {“error“:“model \“quentinz/bge-large-zh-v1.5\“ not fou

最新推荐文章于 2025-02-20 14:55:54 发布
最新推荐文章于 2025-02-20 14:55:54 发布
阅读量1.4k 收藏
点赞数 10
分类专栏： 报错 文章标签： RAG
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Mooczx/article/details/142610261
版权

按照chatchat文档走,在ollama中拉去向量模型ollama pull quentinz/bge-large-zh-v1.5即可,

在model_settings.yaml修改

Error starting container: API error (404): {“message“:“network _byfn not found“}
h363659487的博客
06-12 3783
在运行fabric环境时，特别是使用docker-compose或者运行2.3.0及以下版本的fabric-sample的test-network时，基本都会遇到这个错误。 导致这个错误的yu
langchain实战-基于ollama+deepseek+bge-large-zh组合开发本地知识库
AI agent
03-17 1017
使用langchain框架，基于ollama+deepseek+bge-large-zh组合开发本地知识库
zzzbge-large-zh-v1.5-model
07-24
zzzbge-large-zh-v1.5_model
LightRAG成功跑通：Ollama+Qwen2.5+bge-large-zh-v1.5
xiangxiang613的专栏
11-07 1万+
LightRAG发展和更新很快，还有很多地方需要完善，当前模型中很多参数都是基于其自带的模型参数进行配置的，若是用到其它模型，则需要修改参数的地方没有明确给出，所以跑起来就会出现这样那样的问题，本质上都是模型参数设置的问题。官方的ollama demo写的很不错，但是如果不用其默认的LLM和embeding模型，也还是跑不起来的，下面将给出一个适配自己模型的ollama跑通教程，供来者参考。复制网页的内容，保存为本地的一个book.txt，将其和下面的程序放在一个路径下。
【Python】解决Python报错：HTTPError: ‘404‘ Error
科技改变人类，技术成就未来
06-05 2931
解决Python报错：HTTPError: '404' Error
ElasticSearch中使用bge-large-zh-v1.5进行向量检索（一）
zhujiahui622的专栏
04-12 9691
ElasticSearch中使用bge-large-zh-v1.5进行向量检索
报错ERROR | chatchat.init_database:worker:61 - Error raised by inference API HTTP code: 500,{“error“:{
m0_63828426的博客
02-12 162
chatchat结合ollama在初始化数据库时报错。nomic-embed-text问题解决。原因，embdding链接有错误，使用embedding为。
HTTPError: 404 Client Error: Not Found for url: https://huggingface.co/saved_model
sunshine77_的博客
09-13 3374
起因： 本来在sort_change_nlp和sort_nlp两个文件夹下，分别有一个saved_model文件夹，但是名字不一样,一个是saved_model一个是saved_model_copy，在http_sever钟使用saved_model，发生了如下错误: model = YesOrNoModel.from_pretrained(model_name) def is_model_answer(query): for rule in base_data....
Fabric 2.x: error starting container: API error (404): network _test not found
新生代青年的博客
09-14 1199
用Fabric 2.2运行fabric-samples/test-network示例网络时报错如下： Error: endorsement failure during invoke. response: status:500 message:"error in simulation: failed to execute transaction 18cf3086eb32e877a497fe3cb33a4d0d0dc892f221528bf0788a07d4ffb6bdcf: could not launc
Zhihu-API-Koa::raised_hand: koa2.0 仿知乎 API 项目
05-20
Zhihu-API-Koa 仿知乎 API 项目 :television: 视频地址： API 介绍 主要模块 :person_with_skullcap: 用户模块 + :ticket: 话题模块 + :red_question_mark: 问题模块 + :megaphone: 回答模块 + :pencil: 评论模块 ...
cypress-api-testing:使用赛普拉斯的自动化测试API
03-28
:rocket: 赛普拉斯4测试自动化API :rocket: API Rest com和Projeto para estudo edefudoçãode uma arquitetura基本paratestes自动机。 :raised_fist: Uso deste材料 塞贾·曼内罗（Seja maneiro），（个人） :...
《BAAI/bge-large-zh-v1.5模型常见错误及解决方法》
gitblog_02517的博客
12-30 1547
《BAAI/bge-large-zh-v1.5模型常见错误及解决方法》 bge-large-zh-v1.5 项目地址: https://gitcode.com/hf_mirrors/ai-gitcode/bge-large-zh...
jenkins报错：Problem accessing /jenkins/. Reason: HTTP ERROR 404
linrongxiao的博客
06-26 1万+
这是一个Jenkins的Bug。临时解决方法是：在浏览器中手工输入：http://<ip>:<port>。不要访问"/jenkins"这个路径。
用LangChain调用Ollama的时候一个小问题
qysh123的专栏
06-21 2418
来测试其是否正常，通常会出来“Ollama is running”，然后我习惯性地从Chrome把地址拷贝到VS Code，真是太奇怪了，试了几次才发现，原来不能带那个反斜杠！这个问题真是让人无语。说来让人无语，简单记录一下。安装好Ollama后，我们通常通过访问。
Ollama 部署大模型
大叔比较胖的博客
02-20 249
本地部署大模型，并且可选择性的切换不同大模型
LangChain-ChatChat+Ollama+DeepSeek 构建RAG本地知识库
bigwhitetao9527的博客
01-23 1万+
使用 LangChain-ChatChat+Ollama+DeepSeek 构建RAG本地知识库
服务器上GraphRag+Ollama避坑指南
YiHanXii的博客
08-15 1667
embding模型：quentinz/bge-large-zh-v1.5:latest。中途碰到输入命令没有反应的情况，可以试试关掉断开服务器，重连一下，再执行命令。这个问题是因为txt文件的编码格式不对，编码格式改成utf-8就可以了。local 查询没有问题，但是global查询模型说自己不知道。：检查日志发现，问题出现在读取txt文件的时候。里也写了一些可能出现的问题。1、离线下ollama。
【RAGFlow】“提示 : 102 Fail to access model(qwen2.5:14b).**ERROR**: [Errno 111] Connection refused” 的解决
热门推荐
LegendNoTitle的博客
11-11 1万+
出现这个问题，一般是因为我们的RAG搭建在容器里面，如果没有做端口穿透的话，RAG就会尝试访问容器内的11434端口，从而造成访问失败。(这里可以任意修改你喜欢的端口号)，冒号前保持为空相当于在所有IPv4和IPv6地址上监听。再次访问Ollama地址，看看是不是可以用了，你也可以用宿主机IP作为访问IP试一下。首先，我们需要更改Ollama的端口监听，使其在所有域名上都生效。首先确认Ollama可以正常访问：127.0.0.1:11434。退出Ollama：右下角Ollama→quit。
ollama run bge-m3:latest Error: "bge-m3:latest" does not support generate
最新发布
04-03
<think>好的，我现在需要解决用户在使用Ollama运行bge-m3:latest模型时遇到的错误：“bge-m3:latest” does not support generate。首先，我需要了解这个错误的原因以及可能的解决方案。 首先，用户尝试使用`ollama run bge-m3:latest`命令，但返回了不支持生成（generate）的错误。这说明该模型可能不是生成式模型，而是用于其他用途，比如嵌入或检索。BGE-M3模型通常是用来生成文本嵌入的，而不是生成文本，所以当用户尝试用生成式命令运行时，系统会报错。 接下来，我需要验证这一点。查阅Ollama的文档或模型库，确认bge-m3模型的类型。根据BGE系列模型的常见用途，BGE-M3确实主要用于多语言文本嵌入，属于检索模型，不具备文本生成能力。因此，当用户试图使用`generate`命令时，Ollama会抛出错误，因为该模型不支持生成操作。 然后，考虑用户可能的意图。用户可能误解了模型的用途，或者想使用该模型进行文本生成，而实际上应该使用嵌入相关的功能。因此，正确的做法是指导用户如何正确使用bge-m3模型，例如进行文本嵌入或相似性检索，而不是生成文本。 此外，用户可能需要检查模型名称是否正确，是否存在拼写错误。确认模型在Ollama的模型库中存在，并且名称正确无误。如果名称正确，那么问题确实在于模型类型不支持生成操作。 接下来，解决方案部分需要明确告知用户如何正确使用该模型。例如，使用Ollama的API进行嵌入获取，或者结合其他工具如LangChain来处理嵌入结果。同时，建议用户如果需要生成式模型，可以改用其他支持生成的模型，如Llama 2、Mistral等。 最后，确保回答结构清晰，分步骤解释问题原因和解决方法，并验证建议的可行性。同时，保持语言简洁，避免技术术语过多，让用户容易理解。</think>遇到 `ollama run bge-m3:latest` 报错 **"bge-m3:latest does not support generate"**，原因和解决方案如下： --- ### **错误原因** 1. **模型类型不匹配** BGE-M3 是 **文本嵌入模型**（Embedding Model），专用于将文本转换为向量表示（如语义检索、相似度计算），**不支持文本生成**（如对话、续写）。 Ollama 的 `run` 命令默认调用生成式模型（如 Llama 2），而 BGE-M3 的功能与此不兼容。 2. **模型用途混淆** 生成式模型（如 Llama 2）与嵌入模型（如 BGE-M3）的接口不同。直接运行 `ollama run` 会触发生成式操作，导致报错。 --- ### **解决方案** #### 1. **正确使用 BGE-M3 嵌入功能** 通过 API 调用嵌入接口（需结合其他工具，如 Python 脚本或框架）： ```python # 示例：通过 Ollama API 获取文本嵌入 import requests response = requests.post( "http://localhost:11434/api/embeddings", json={ "model": "bge-m3:latest", "prompt": "Your text here" } ) embeddings = response.json()["embedding"] print(embeddings) ``` #### 2. **替代方案：使用生成式模型** 如果需要文本生成，选择以下支持 `generate` 的模型： - **通用生成**：`ollama run llama2`、`ollama run mistral` - **中文优化**：`ollama run qwen:7b`、`ollama run chatglm3` #### 3. **验证模型是否加载** 检查 Ollama 已下载的模型列表，确认 `bge-m3` 存在： ```bash ollama list ``` --- ### **技术背景** - **BGE-M3 用途**：专为多语言检索设计，支持密集向量、稀疏向量和多向量混合检索，适合语义搜索、推荐系统等场景。 - **Ollama 的限制**：目前未提供针对嵌入模型的直接交互式 CLI，需通过 API 或 SDK 调用。 --- ### **总结** 1. BGE-M3 是嵌入模型，不能直接通过 `ollama run` 生成文本。 2. 使用 API 或框架（如 LangChain）调用其嵌入功能。 3. 如需生成式交互，切换至支持 `generate` 的模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值