LlamaIndex整合chatglm
LlamaIndex官方网站上给出的示例都是采用的Open AI,那么对于没有open_api_key的用户怎么执行查看LlamaIndex的效果嘞。下面是LlamaIndex整合ChatGLM的一个简单示例:
1. 安装相关依赖
pip install zhipuai
pip install langchain
pip install langchain-openai
pip install llama-index
pip install llama-index-embeddings-huggingface
2. 定义获取ChatGLM
具体怎么获取,请参考这篇文章:python实现在线 ChatGLM调用
本次使用的是langchain方式调用在线ChatGLM。
新建一个zhipu_llm.py文件:
from langchain_openai import ChatOpenAI
import jwt
import time
from langchain_core.messages import HumanMessage
zhipuai_api_key = "智普清言的API-KEY"
def generate_token(apikey: str, exp_seconds: int):
try:
id, secret = apikey.split(".")
except Exception as e:
raise Exception("invalid apikey", e)
payload = {