Ollama教程——使用Ollama与LangChain实现Function Calling(函数调用)的详细教程（一）

已于 2024-11-06 10:12:31 修改
阅读量2.8k 收藏 5
点赞数
分类专栏： ollama入门教程 文章标签： langchain ollama function-call
于 2024-06-04 09:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/walkskyer/article/details/139408942
版权
本教程详细介绍了如何利用Ollama和LangChain实现函数调用，提高AI模型在特定任务的性能。内容包括OllamaFunctions的简介、环境设置、函数绑定、调用及结构化输出的实例。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

了解本专栏 订阅专栏 解锁全文 超级会员免费看
ollama教程——使用Ollama与LangChain实现Function Calling(函数调用)的详细教程（二）【附完整源码】
walkskyer的博客
07-15 2217
Ollama 是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括 GPU 使用情况，简化了在本地运行大型模型的过程。Ollama 支持 macOS 和 Linux 操作系统，并且已经为 Windows 平台发布了预览版。Ollama 的一个重要优势是其易用性。安装过程简单，例如在 macOS 上，用户可以直接从官网下载安装包并运行。对于 Windows 用户，官方推荐在 WSL 2 中以 Linux 方式使用命令安装。
Ollama教程——深入解析：使用LangChain和Ollama构建JavaScript问答系统
walkskyer的博客
05-22 1871
本文通过详细的步骤和示例，全面介绍了如何使用JavaScript结合LangChain和Ollama构建一个高效的问答系统。从环境配置到功能实现，再到问题处理和系统优化，我们涵盖了问答系统开发的各个方面。
Langchain中使用Ollama提供的Qwen大模型进行Function Call实现天气查询、网络搜索
python1234567_的博客
06-17 4378
Function Call，或者叫函数调用、工具调用，是大语言模型中比较重要的一项能力，对于扩展大语言模型的能力，或者构建AI Agent，至关重要。
qwen+ollama实现function call
最新发布
qq_36437991的博客
04-18 452
qwen qwq+ollama实现function call
LangChain 入门5 Ollama 美化输出与Function-calling
weixin_41870426的博客
04-29 3678
维基百科API检索器。它将load（）包装为get_relevant_documents（）。它使用所有WikipediaAPIWrapper参数，没有任何更改。通过分析和验证来自关键字参数的输入数据来创建一个新模型。如果无法解析输入数据以形成有效的模型，则引发ValidationError。结果返回现在我们已经有了一个模型、检索器和提示，让将它们链接在一起。需要添加一些逻辑，将检索到的文档格式化为可以传递给提示的字符串。以便链的同时返回答案和检索到的文档。
Ollama Qwen2 支持 Function Calling
hawk2014bj的博客
09-06 1671
现在的模型都是支持 Tools，在 Ollama 中使用我们需要对 Template 配置，配置好 Tools 后，就可以通过 Ollama 直接进行函数调用了。
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
ZILLIZ
08-23 1179
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。本文将介绍如何将 Llama 3.1 与 Milvus 和 API 等外部工具集成，构建具备上下文感知能力的应用。01Function Calling 简介诸如 GPT-4、Mistral...
【AI提升】AI利器Tool Call/Function Call(一):langchain+ollama+llama3/qwen2
旭日跑马踏云飞的专栏
06-28 3891
使用AI的一个常用场景就是，接收人类的语言，识别人类的意图，最终进行相关的业务处理，这就是设计Tool Call / Function Call的初衷。现在一般都说Tool Call，以前常叫Function Call，不要纠结。
ollama教程——使用LangChain调用Ollama接口实现ReAct
walkskyer的博客
08-06 1512
简化配置：Ollama将模型权重、配置和数据捆绑在一起，从而优化了设置和配置细节。用户无需过多关注GPU使用情况，可以专注于模型的应用。易用性：安装过程相对简单，例如macOS用户可以直接从官网下载安装包并运行，而Windows用户则可以通过WSL 2以Linux方式进行安装。这种便捷性使得更多开发者能够轻松上手。支持量化：Ollama支持模型量化，这一特性可以显著降低显存要求。例如，通过4-bit量化，可以将FP16精度的权重参数压缩为4位整数精度，从而大幅减小模型权重体积和推理所需显存。
Ollama教程——使用langchain：ollama与langchain的强强联合
walkskyer的博客
04-16 8715
在当今技术迅速发展的时代，利用最新的人工智能技术来处理复杂的数据和文档成为了开发者们追求的目标。ollama和langchain作为两个强大的工具，能够帮助我们更加高效地完成这项任务。本文将深入探讨如何将ollama与langchain结合使用，通过一个具体的示例——处理和理解《奥德赛》这一经典文献——来展示其强大的实战应用能力。本文适合具有一定编程经验的中高级开发者，旨在通过丰富的技术细节和实战代码，帮助读者掌握这两个工具的高效结合使用方法。
Win10（CPU）+ Anaconda3 + python3.9安装pytorch
AAI666666的博客
01-14 1953
Win10（CPU）+ Anaconda3 + python3.9安装pytorch
Ollama教程——入门：开启本地大型语言模型开发之旅
热门推荐
walkskyer的博客
04-02 5万+
ollama不仅支持运行预构建的模型，还提供了灵活的工具来导入和自定义您自己的模型。无论是从GGUF格式导入还是进行模型的个性化设置，ollama都能满足您的需求。您还可以通过自定义提示来调整模型的行为。接着，创建一个ModelfileFROM llama2 # 设置创造性更高的温度参数 PARAMETER temperature 1 # 设置系统消息 SYSTEM "" "你是超级马里奥，以马里奥的身份回答问题。"" "这样，您就能按照自己的需求定制模型了。
ollama使用教程
m0_56147044的博客
02-19 689
关于ollama的第一次实践，下载，环境配置，计划做一个漏洞挖掘的知识库。
Ollama教程，本地部署大模型Ollama，docker安装方法，仅供学习使用
chenyu_Yang的博客
06-01 6648
先上视频教学：
Ollama详解教程
wangbo_angel的博客
02-09 7591
通过合理的配置，Ollama 可以高效地管理和运行大型语言模型。配置文件、API 设置和模型管理是核心部分，根据实际需求调整这些配置可以优化性能和用户体验。如果遇到问题，可以参考日志文件或联系官方支持。
ollama教程——Ollama Tools功能详解实现复杂任务的完整教程
walkskyer的博客
08-19 1748
Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它通过将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，这大大简化了在本地运行大型模型的过程。Ollama支持macOS和Linux操作系统，并且已经为Windows平台发布了预览版。Ollama的一个重要优势是其易用性。安装过程非常简单，例如在macOS上，用户可以直接从官网下载安装包并运行。而对于Windows用户，官方推荐在WSL 2中以Linux方式使用命令安装。
ollama 基本使用教程
weixin_63443072的博客
02-10 3168
创建一个ModelfileFROM llama2 # 基础模型SYSTEM """你是一个友好的助手，用中文回答。"""PARAMETER temperature 0.7 # 控制生成随机性（0-1）
Ollama安装教程
学习AI应用开发，分享AI干货、获取最新AI咨询
03-20 1529
Ollama 是一个开源的大语言模型（LLM）部署工具，专为在本地机器部署和运行大模型而设计，通过简单的命令就可以在本地快速运行大模型（如DeepSeek、Llama、Gemma、QWQ等）。非常适合开发者、研究人员以及对数据安全和隐私有较高要求的企业和用户
Ollama入门教程：从安装到运行的完整指南
yoona333的博客
11-30 4801
随着人工智能（AI）技术的快速发展，大型语言模型（LLMs）逐渐成为了各行各业的重要工具。然而，使用这些强大模型的同时，数据隐私、处理效率和部署复杂度等问题也逐渐浮现。为了解决这些问题，Ollama 提供了一种创新的解决方案——通过本地化部署大型语言模型，不仅能够增强数据隐私性，还能提高模型的运行效率。本文将详细介绍如何下载和安装 Ollama，如何选择和运行不同的语言模型，以及 Ollama 的特点、适用场景、优缺点等内容，帮助大家深入了解这一平台。ollama官网🚪 ollama官方文档🚪 根据自己
ollama实现function calling
01-03
### 如何在 Ollama 中实现 Function Calling 为了实现在 Ollama 中的函数调用功能，需先理解并配置 `OllamaFunctions` 和相应的工具集。这涉及到几个关键步骤。 #### 设置 Ollama Functions 首先，确保已安装最新版本的 LangChain 库以及 Ollama SDK。接着，在项目中引入必要的模块： ```python from langchain.chains import LLMChain from ollama.functions import OllamaFunctions ``` 定义模板时要特别注意加入对 `Tools` 的支持。这意味着当创建用于处理输入输出逻辑的链（chain）时，应该指定哪些外部能力是可以被访问到的[^2]。 #### 实现具体的功能调用 下面是一个简单的例子来说明如何执行这一过程: 假设有一个名为 `get_height_difference` 的 Python 函数用来计算两个人之间的身高差异，并希望让 AI 模型能够调用这个方法作为其解决问题的一部分，则可以在初始化阶段像这样注册该服务： ```python def get_height_difference(name1, name2): heights = {"Brian": 66, "Suzy": 71} diff = abs(heights[name1] - heights[name2]) return f"{name1} is {diff} inches {'shorter' if heights[name1]<heights[name2] else 'taller'} than {name2}" functions = [ { "name": "get_height_difference", "description": "Calculate the difference of two people's height.", "parameters": { "type": "object", "properties": { "personA": {"title":"Person A", "type": "string"}, "personB":{"title":"Person B","type":"string"} } }, } ] ollama_functions = OllamaFunctions(functions=functions) ``` 之后，构建一个基于上述自定义行为的语言模型链条，并传入准备好的 `ollama_functions` 对象以便于后续操作中启用这些特性： ```python chain = LLMChain(llm=..., prompt=prompt_template, functions=ollama_functions) response = chain.run({"input_variables": ...,}) print(response) ``` 这里省略了一些细节性的参数设定工作，比如具体的提示词设计等；但是核心思路就是如此 —— 将想要暴露给大模型使用的业务逻辑封装成标准接口形式，再经由专门适配器传递进去即可完成集成[^1]。 对于返回的结果解析部分，可以通过如下方式获取 JSON 格式的响应数据中的特定字段值[^3]: ```python import json # 假设 response 是来自上一步得到的消息对象 json_string = response.to_json()['kwargs']['additional_kwargs']['function_call']['arguments'] parsed_data = json.loads(json_string) result_text = parsed_data.get('return') print(result_text) ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

walkskyer

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值