用LangChain调用Ollama的时候一个小问题

最新推荐文章于 2025-04-07 08:35:12 发布
最新推荐文章于 2025-04-07 08:35:12 发布
阅读量2.4k 收藏 1
点赞数 2
分类专栏： 深度学习 大模型 文章标签： langchain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qysh123/article/details/139865252
版权

说来让人无语，简单记录一下。安装好Ollama后，我们通常通过访问http://127.0.0.1:11434来测试其是否正常，通常会出来“Ollama is running”，然后我习惯性地从Chrome把地址拷贝到VS Code，

oembed = OllamaEmbeddings(base_url="http://127.0.0.1:11434/", model="mxbai-embed-large")

结果报：

ValueError: Error raised by inference API HTTP code: 404, 404 page not found

真是太奇怪了，试了几次才发现，原来不能带那个反斜杠！这个问题真是让人无语，简单记录一下。

ollama教程——使用LangChain调用Ollama接口实现ReAct
walkskyer的博客
08-06 1471
简化配置：Ollama将模型权重、配置和数据捆绑在一起，从而优化了设置和配置细节。用户无需过多关注GPU使用情况，可以专注于模型的应用。易用性：安装过程相对简单，例如macOS用户可以直接从官网下载安装包并运行，而Windows用户则可以通过WSL 2以Linux方式进行安装。这种便捷性使得更多开发者能够轻松上手。支持量化：Ollama支持模型量化，这一特性可以显著降低显存要求。例如，通过4-bit量化，可以将FP16精度的权重参数压缩为4位整数精度，从而大幅减小模型权重体积和推理所需显存。
玩转大语言模型——langchain调用ollama视觉多模态语言模型
艾醒的博客
01-11 1963
视觉多模态语音模型由预训练的多模态编码器、预训练的 LLM 以及连接两者的多模态接口等主要组件构成。将图像信息转换为可被语言模型处理的特征表示。拥有强大的视觉理解能力，能够准确理解图像内容，进行图像描述、视觉问答、图像定位等任务。可以与用户进行多轮交互，根据用户的文本和图像输入生成连贯、准确且有针对性的回答。本篇文章将介绍使用langchain调用ollama视觉多模态语音模型。
Ollama 提供了一个简单的 API，用于创建、运行和管理语言模型 它还提供了一个预构建模型库，可以轻松集成到您的应用程序中
04-10
在本地运行模型 安装 Ollama 后，您可以运行各种语言模型。 我们以骆驼2为例： 此命令会启动 Llama 2，让您可以与它交互。 但还有哪些其他型号可供选择？ Ollama 支持多种功能，包括 Mistral、Dolphin Phi、Neural Chat 等。 这是一个快速概述： ollama run llama2 Llama 2：用于一般语言任务的 70 亿参数模型。 Mistral：另一个具有独特功能的 70 亿参数模型。 Dolphin Phi：专为特定用例设计的 27 亿参数模型。 神经聊天：用于基于聊天的应用程序的 70 亿参数模型。 您可以使用以下命令下载这些模型： ollama run mistral ollama run dolphin-phi ollama run neural-chat 请记住，70 亿参数模型至少需要 8 GB RAM，而 130 亿参数模型需要 16 GB。 330 亿个参数的模型？ 那么，您需要高达 32 GB 的 RAM。 定制模型 导入模型 Ollama 允许您从各种来源导入模型。您可以使用模型文件导入 GGUF
nginx反向代理+负载均衡配置
ycy白米饭的博客
12-04 243
1.反向代理+负载均衡 upstream  www.101ycy.com   {     server   localhost:8088;     server   localhost:8087; }   server {     listen  8089;     server_name  www.101ycy.com;       location / {         proxy_pa...
ollama 提示403
mzh10588的博客
02-15 1105
2，在其他机器访问安装ollama的机器。变量名：OLLAMA_ORIGINS。变量名：OLLAMA_HOST。
Langchain + Ollama
AI工程化、开源分享、文档翻译、代码笔记
03-20 8283
伊织 2024-03-20。
langchain 为什么无法按照预期的效果进行回复
weixin_41046245的博客
02-22 623
针对langchain训练数据可能没有涵盖到所有可能的情况，因此它可能无法对某些特定内容生成准确的回答。提出面向RAG场景生成式阅读理解数据集构建以及基于全参数量微调、profix tuning、prompt tuning、lora、qlora的微调模式。面向RAG（Retrieval-Augmented Generation）场景的生成式阅读理解数据集构建，以及基于多种微调模式的解决方案，旨在提高模型在特定垂直领域内的生成式阅读理解能力。：如果AI没有理解您的问题，尝试用不同的方式重新表述。
ollama 拉取模型失败
热门推荐
qq_29941075的博客
04-29 2万+
ollama 拉取模型失败
停止回答 ollama 接口调用返回 ＜think＞＜/think＞
计算机辅助工程
02-20 1143
如果你在使用 Ollama 或其他 LLM 服务时遇到 ，请确保你的交互方式是基于 API 的，而不是依赖于特定的脚本语言或标记。在讨论 Ollama 接口调用返回 这个情况时，我们需要先澄清一些基本信息，因为 通常与聊天机器人或对话系统中的特定标记有关，比如在某些基于规则或脚本的对话系统中，这些标记可能用于指示对话流程中的一个特定步骤或状态。在客户端处理：在客户端（如你的应用或脚本中），你可以使用字符串操作（如 Python 的 str.replace() 方法）来移除这些标记。
LangChain 入门5 Ollama 美化输出与Function-calling
weixin_41870426的博客
04-29 3626
维基百科API检索器。它将load（）包装为get_relevant_documents（）。它使用所有WikipediaAPIWrapper参数，没有任何更改。通过分析和验证来自关键字参数的输入数据来创建一个新模型。如果无法解析输入数据以形成有效的模型，则引发ValidationError。结果返回现在我们已经有了一个模型、检索器和提示，让将它们链接在一起。需要添加一些逻辑，将检索到的文档格式化为可以传递给提示的字符串。以便链的同时返回答案和检索到的文档。
Ollama教程——使用langchain：ollama与langchain的强强联合
walkskyer的博客
04-16 8589
在当今技术迅速发展的时代，利用最新的人工智能技术来处理复杂的数据和文档成为了开发者们追求的目标。ollama和langchain作为两个强大的工具，能够帮助我们更加高效地完成这项任务。本文将深入探讨如何将ollama与langchain结合使用，通过一个具体的示例——处理和理解《奥德赛》这一经典文献——来展示其强大的实战应用能力。本文适合具有一定编程经验的中高级开发者，旨在通过丰富的技术细节和实战代码，帮助读者掌握这两个工具的高效结合使用方法。
玩转大语言模型——使用langchain和Ollama本地部署大语言模型
艾醒的博客
01-30 2004
Ollama 是一个开源的大型语言模型服务工具，旨在简化在本地运行大语言模型的过程，降低使用大语言模型的门槛。用户可以在自己的设备上运行模型，无需依赖云服务或远程服务器，保护了数据隐私。支持 Windows、macOS 和 Linux 等多种操作系统，方便不同用户安装使用。在本篇中将介绍Windows下使用Ollama进行本地大模型的部署。
【Langchain+Ollama+RAG】使用Langchain调用本地Ollama部署的Qwen模型，读取本地PDF进行知识问答实现RAG
cherrysssss的博客
12-09 939
实现RAG有多种手段。本文仅介绍使用Langchain+Ollama的方式，读取本地PDF进行知识问答实现RAG的一种最简单的实例。本实例仅介绍了一种最简单的RAG实现方式，使用RAG技术的同时，大模型与直接调用的大模型会拥有不同的回答。此外，本地部署Ollama的模型请参考其他文章。
ollama serve真解决port更改后model not found
ckite2的博客
05-10 1964
启动ollama serve时要用user用户权限的文件夹作为OLLAMA_MODELS变量。此时ollama serve无法访问models文件夹，懂了吗？单独启动ollama serve会以user用户名启动，ollama存放模型的文件夹属于ollama.
Ollama：一个在本地部署、运行大型语言模型的工具
weixin_59191169的博客
05-28 7790
所谓自定义模型就是不适用Ollama官方模型库中的模型，理论可以使用其他各类经过转换处理的模型Ollama库中的模型可以通过提示进行自定义。# 设置温度参数# 设置SYSTEM 消息SYSTEM """作为AI智能助手，你将竭尽所能为员工提供严谨和有帮助的答复。"""Modelfile文档One-API是一个OpenAI接口管理 & 分发系统，支持各类大模型。这里使用Docker快速进行部署。拉取镜像创建挂载目录启动容器访问IP:3001初始账号用户名为 root，密码为 123456。
langchain-chatchat或者说fastchat启动访问404的问题
llsixly
09-11 2741
虽然很白痴，但是我还是记录一下我遇到的问题。
An error occurred while running this request. Check Postman Console for more info.
u011159607的博客
07-24 2085
w
LangChain 部署本地 LLM —— ollama
cheese_burger_的博客
07-04 1169
PrivateGPT、llama.cpp、Ollama、GPT4All、llamafile 等项目的流行凸显了在本地 (在本地设备上) 运行 LLM 的需求。  这至少有两个重要的好处： 隐私：您的数据不会发送给第三方，也不受商业服务的服务条款约束 成本：没有推理费，这对于 token 密集型应用程序 (例如，长时间运行的模拟、摘要)很重要
【langchain4j系列教程-03】Ollama本地部署并调用本地模型
最新发布
双非二本自学到互联网公司的成长经历，有故事，有干货。
04-07 596
在人工智能飞速发展的今天，大型语言模型（LLM）已成为推动技术创新的核心引擎。然而，传统的云端大模型依赖网络、受限于隐私与延迟，难以满足个性化、高安全性的需求。Ollama 应运而生，它是一款轻量级、高性能的本地大模型运行框架，让开发者、研究者和企业能够轻松在本地部署和运行各类开源大模型，如Llama 3、Mistral、Gemma等，无需依赖云端服务，即可享受强大的AI能力。本地运行，隐私无忧：数据完全留在本地，避免敏感信息外泄。极简部署，开箱即用：一行命令即可下载并运行模型，无需复杂配置。
langchain调用ollama
02-20
### 如何在LangChain项目中集成和使用Ollama #### 安装必要的库 为了使LangChain能够与Ollama协同工作，需先确保环境中已安装了相应的Python包。这可以通过pip来实现： ```bash pip install langchain ollama ``` 此操作会从PyPI仓库下载并安装`langchain`及其依赖项[^1]。 #### 初始化Ollama模型实例 一旦环境配置完毕，在Python脚本或交互式解释器里创建一个Ollama类的新对象就变得简单起来。下面的例子展示了怎样加载名为`llama2`的预训练模型，并通过它执行一次简单的查询请求： ```python from langchain_community.llms import Ollama # 创建基于Llama2架构的语言模型实例 llm = Ollama(model="llama2") response = llm.invoke("How can LangSmith assist with testing?") print(response) ``` 这段代码定义了一个变量`llm`，该变量指向由指定参数初始化后的Ollama对象；随后调用了它的方法`invoke()`来进行对话式的交流尝试[^3]。 对于更复杂的场景或是想要调整更多选项的情况，则可以考虑采用如下方式构建聊天机器人应用： ```python from langchain_ollama.chat_models import ChatOllama chat_llm = ChatOllama( model="llama2:13b", temperature=0, ) conversation_history = chat_llm.generate(["What is the weather like today?", "Tell me more about it."]) for message in conversation_history['messages']: print(f"{message['role']}: {message['content']}") ``` 这里引入了`ChatOllama`作为更加高级别的接口用于处理多轮次的人机对话流程。除了基本的消息传递外，还可以自定义诸如温度(`temperature`)之类的超参以影响生成回复的质量特性[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值