手把手教你完成大模型RAG知识问答应用构建-01.如何调用大模型API

大家好,我是程序锅。

github上的代码封装程度高,不利于小白学习入门。

常规的大模型RAG框架有langchain等,但是langchain等框架源码理解困难,debug源码上手难度大。

因此,我写了一个人人都能看懂、人人都能修改的大模型RAG框架小项目。

整体项目结构如下图所示:

手把手教你大模型RAG框架架构

本篇文章将介绍1.如何调用大模型API,使用到的工具有:pycharm和Anaconda,pycharm和Anaconda的安装不再赘述,如有疑问,可查看以下文章。

pycharm安装介绍
https://blog.youkuaiyun.com/qq_35054222/article/details/137057961

一、大模型API介绍

大模型的使用可以分为本地调用和远程调用。由于本地硬件资源有限,我们一般选择远程调用大模型(后续小项目,也可自己本地部署大模型)。

目前市面上的大模型有ChatGPT、GPT4、GLM4、文心一言等等,OpenAI的产品由于有关原因被限制,在此我们采用智谱AI的GLM4作为实验对象。

登录智谱AI开放平台获取获取API_key

(1) 注册账号

https://maas.aminer.cn/

image

新注册账号有18元的额度,足够实验了。

(2) 获取API_KEY

1

2

注意,请不要泄露自己的API Keys!

2. API文档说明

请牢记上图的API key,现在我们看一看GLM4的API调用文档。

(1)查看接口文档

image

(2)查看调用示例
image

当然,我这里只讨论最简单的API调用形式,还有很多接口的参数没有利用到。

后续我们的小项目会根据实际需求,修改代码。

二、代码实现

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="") # 填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-4",  # 填写需要调用的模型名称
    messages=[
        {"role": "user", "content": "作为一名营销专家,请为我的产品创作一个吸引人的slogan"},
        {"role": "assistant", "content": "当然,为了创作一个吸引人的slogan,请告诉我一些关于您产品的信息"},
        {"role": "user", "content": "智谱AI开放平台"},
        {"role": "assistant", "content": "智启未来,谱绘无限一智谱AI,让创新触手可及!"},
        {"role": "user", "content": "创造一个更精准、吸引人的slogan"}
    ],
)
print(response.choices[0].message)

这里修改API key即可
image

这样就完成了一个非常简单的大模型API调用,下一章我们将介绍RAG原理思路。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值