[lang graph] openai like的大模型服务调用

最新推荐文章于 2024-12-24 00:09:51 发布
最新推荐文章于 2024-12-24 00:09:51 发布
阅读量166 收藏
点赞数 3
文章标签： python langgraph
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Tourior/article/details/144271055
版权

调用openai like 标准的大模型服务

from langchain_community.chat_models import ChatOpenAI

model = ChatOpenAI(base_url='http://127.0.0.0:1235/v1/',model="qwen",openai_api_key="none")

修改base_url和model参数即可，如果起服务的工具能够设置key,就填写相对应的key参数

Tourior
关注
【LangChain编程：从入门到实践】代码实践
AI天才研究院
06-04 958
【LangChain编程：从入门到实践】代码实践 1. 背景介绍 1.1 人工智能的发展历程 人工智能(Artificial Intelligence, AI)是当代科技领域最具革命性和颠覆性的技术之一。自20世纪50年
AI出版业机遇：垂直领域无限想象
AI天才研究院
09-10 1683
1. AI出版业中的内容推荐算法 题目： 如何利用AI技术为AI出版业设计一个内容推荐系统？请详细描述算法框架。 答案： 设计一个内容推荐系统通常需要以下几个步骤： 用户建模： 收集用户的基本
llamaindex介绍以及加载中文模型的4种方法
qq_29837229的博客
05-22 2973
llamaIndex是一个用于LLM应用程序的数据框架。用于注入，结构化，并访问私有或特定领域数据。用通俗易懂的方式讲解：大模型应用框架 LangChain 和 LlamaIndex，到底谁更胜一筹？llamaindex的官网介绍：https://docs.llamaindex.ai/en/stable/examples/low_level/oss_ingestion_retrieval/内容包括如下使用模型，加载数据，数据向量化，存储向量，对输入query做检索，跟踪。效果评估。
智谱GLM Api接口适配langchain OpenAI llamaindex的openAI接口
Zison_Chen的博客
07-25 1891
动机OpenAI充值比较麻烦，且访问不是那么方便。因此想用国内的api的去调试和测试一个任务。但是很多教程都是以openAI的接口为例子的，因此学习起来就不那么方便。本文参考了，终于调试成功了！！如何用接口在langchain 和 llamaindex中使用chatGLM api。
只需三步，搭建基于知识库的专属ChatGPT
spicy_chicken123的博客
02-04 2109
Meta AI 的研究人员引入了一种叫做的方法来完成知识密集型的任务。RAG 会接受输入并检索出一组相关/支撑的文档，并给出文档的来源（例如维基百科）。这些文档作为上下文和输入的原始提示词组合，送给文本生成器得到最终的输出。RAG 让语言模型不用重新训练就能够获取最新的信息，基于检索生成产生可靠的输出。RAG 的应用范围广泛且多样，从改进客户服务聊天机器人、促进详细和个性化的内容推荐，到支持业务环境中的复杂决策流程。
LLM之LangChain（三）| LangChain和LlamaIndex与4个任务的比较
wshzd的博客
01-18 1583
请注意，对于我们的后续问题“我如何冲泡咖啡”，agent的回答与查询引擎不同，这是因为agent可以自己决定是否从我们的笔记中查找。LlamaIndex使用一个名为“query_engine”的包来包装RAG管道，但LangChain会展示内部组件，包括检索到的文档的连接符、提示模板“based on X please answer Y”，以及链本身（如上面的LCEL所示）。3.运行RAG管道。请注意，我们是如何通过暗示“我们作为用户将自己查找笔记”来欺骗LLM的，但事实上，我们现在要求LLM承担重任。
容器中的⼤模型（一）| 三行命令，大模型让Excel直接回答问题
LinkTime_Cloud的博客
02-29 875
宋文欣，智领云科技联合创始人兼CTO武汉大学计算机系本科及硕士，美国纽约州立大学石溪分校计算机专业博士。曾先后就职于Ask.com和EA(电子艺界)。在Ask.com期间，担任大数据部门技术负责人及工程经理，使用Hadoop集群处理实时搜索数据，形成全球规模领先的Search Ads Arbitrage用户；在EA期间，担任数字平台部门高级研发经理，从无到有组建EA数据平台团队，建设公司大数据平台...
大模型高级 RAG 检索策略之混合检索_rag混合检索
qingkahui24689的博客
11-05 2049
混合检索也叫融合检索，也叫多路召回，是指在检索过程中，同时使用多种检索方式，然后将多种检索结果进行融合，得到最终的检索结果。混合检索的优势在于可以充分利用多种检索方式的优势，弥补各种检索方式的不足，从而提高检索的准确性和效率，下面是混合检索的流程图：首先是问题查询，这一过程的设计可以简单也可以复杂，简单的做法是直接将原始查询传递给检索器，而复杂一点的做法是通过 LLM（大语言模型）为原始查询生成子查询或相似查询，然后再将生成后的查询传递给检索器。
大模型学习笔记十三：工作流
谢白羽
07-23 2027
②直接进行CoT控制（尤其是用自然语言表达CoT，也就是思维链）会输出思考过程，但我们不希望用户看到这个过程。③ 随着工作进展出现的新信息，对任务时序、编排有依赖的信息，不一定能在单次请求中一次性完成输入。① 上下文窗口长度限制、输出长度限制（早期的LangChain长文本Summarize）②能够将模型单次请求调用视作一个工作节点。③能够灵活将其他代码逻辑也写入工作节点。⑤能够在工作节点之间进行数据传递。①将工作任务拆分成多个工作节点。④能够对工作节点进行任务编排。
『C/C++养成计划』Visual Studio Code编辑器配置(外观&通用型扩展&Minmal)
AI新视界
02-15 1338
vscode插件大全 1.5. 执行代码扩展(code runner) 1.6. 版本管理扩展(gitlens和gitgraph) 1.7. settings.json总结 二. vscode配置C/C++|MakeFile|CMake 2.1. C/C++在线参考资料扩展(cpp reference) 2.2. 文档生成工具(Doxygen Documentation Generator) 2.2. C/C++扩展(重要) 2
FFmpeg中基于深度学习模型的图像处理filter：dnn_processing介绍（1）
那遁去的一
03-20 2111
在FFmpeg中，一开始增加了两个基于深度学习的video filter，分别是用来超分辨率的vf，和用来去除雨点的derain。它们都是对每帧中的内容进行的调整，包括对帧size的改变，用到的算法都是基于深度学习的模型。实际上，相比于这样为每一种功能算法增加一个filter的思路，我们还可以采用另外一种思路，即，设计一个通用的filter，可以用一个filter来普适所有基于深度学习模型的图像处...
10分钟学会python对接【OpenAI API篇】
leaning_java的博客
02-16 8671
10分钟学会python对接【OpenAI API篇】
Python使用OpenAI的API
积跬步，至千里。
04-17 3277
OpenAI API可以应用于几乎所有涉及生成自然语言、代码或图像的任务。提供了一系列不同能力级别的模型，适用于不同任务的，并且能够微调自己的自定义模型。
将本地LLM部署为OPENAI的API进行调用
xdg15294969271的博客
10-29 1475
接上一篇使用langgraph搭建agent。有一个问题是能不能用本地的llm来接入langgraph，这里先介绍一下把模型部署为OPENAI的API进行调用。
使用LocalAI搭建本地AI模型实现OpenAI兼容的REST API
qq_29929123的博客
07-25 920
在这篇文章中，我们将介绍如何使用LocalAI在本地搭建一个与OpenAI API兼容的REST API服务，并使用LlamaIndex直接与LocalAI服务器进行交互。
大模型系列：OpenAI使用技巧_使用搜索API和重新排序进行问答
数智笔记
12-31 1156
然后，我们计算这些嵌入之间的余弦距离，从而得到语义相似性度量。请注意，由于OpenAI嵌入在我们的API中返回为标准化形式，因此我们可以简单地计算点积，而不是进行完整的余弦相似性计算。在本指南中，我们将探索一种使用各种AI技术增强现有搜索系统的方法，帮助我们筛选噪音。的启发，我们首先生成一个假想的理想答案，以重新排列我们的结果并将其与之比较。这有助于优先考虑看起来像是好答案的结果，而不是与我们的问题相似的结果。正如我们所看到的，通常情况下，搜索查询会返回大量结果，其中许多与用户最初提出的问题无关。
基于OpenAI API使用Fastchat部署调用本地大模型
qq_45734745的博客
12-24 481
【代码】基于OpenAI API使用Fastchat部署调用本地大模型。
OpenAI函数调用
我的博客，不一样的自我表达
07-07 92
GPT-4 和 GPT-3.5 Turbo 上下文中的函数调用是这些模型能够根据用户查询理解并生成用于特定函数调用的 JSON 对象的能力。这并不意味着模型正在执行该函数，而是为您提供了在您自己的代码中调用该函数所需的信息。
使用 openai 和 langchain 调用自定义工具完成提问需求
fanghailiang2016的博客
08-01 987
我们提供了一个函数，接受传入运算的字符串，返回运算的结果。现在的需求是，我们问 gpt 模型，由于模型计算能力并不好，他要调用计算函数，根据计算结果，回答我们的问题。
mybatis if test 逻辑运算
最新发布
02-23
### MyBatis `if` 标签 `test` 属性逻辑运算使用方法 在 MyBatis 动态 SQL 中，`<if>` 标签用于有条件地包含 SQL 片段。`test` 属性支持 OGNL 表达式来实现复杂的条件判断。 #### 基本语法 OGNL（Object Graph Navigation Language）是一种强大的表达式语言，允许读取和操作 Java 对象图。通过 `test` 属性可以方便地进行各种类型的比较、布尔运算以及调用静态方法等[^2]。 #### 逻辑运算符示例 下面是一些常见的逻辑运算及其应用实例： - **等于 (`==`) 和不等于 (`!=`)**： ```xml <if test="age == 18"> and age = #{age} </if> <if test="name != 'John'"> and name <> #{name} </if> ``` - **大于 (`>`) 小于 (`<`) 大于等于 (>=) 小于等于 (<=)**： ```xml <if test="salary > 5000"> and salary > #{salary} </if> <if test="score >= 90"> and score >= #{score} </if> ``` - **与 (`&&`) 或 (`||`) 非 (!)**： ```xml <!-- 当两个条件都满足时 --> <if test="status == 'active' && type == 'VIP'"> and status = #{status} and type = #{type} </if> <!-- 只要有一个条件成立即可 --> <if test="gender == 'M' || gender == 'F'"> and gender in ('M', 'F') </if> <!-- 否定某个条件 --> <if test="!isEmpty(email)"> and email is not null </if> ``` - **字符串处理函数**： 调用 Apache Commons Lang 库中的工具类来进行字符串验证。 ```xml <if test="@org.apache.commons.lang3.StringUtils@isNotBlank(address)"> and address like concat('%',#{address},'%') </if> ``` - **算术运算**： 支持简单的加减乘除四则运算。 ```xml <if test="(price * quantity) / discountRate > minOrderValue"> -- 订单金额超过最低限额才生效 </if> ``` 以上展示了如何利用 `<if>` 标签配合不同的逻辑运算符构建灵活多变的查询语句[^4]。 ```sql -- 示例SQL片段展示多个条件组合的情况 WHERE 1=1 AND <if test="startDate != null">start_date <= ${currentDate}</if> AND <if test="endDate != null">end_date >= ${currentDate}</if> ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值