前提是启动好项目里openai风格的chatglm3的api。
不论是chatglm几,经测试只要是oepnai风格的接口,都可以使用
from langchain.chat_models import ChatOpenAI
llm = ChatOpenAI(
openai_api_key="EMPTY",
openai_api_base="http://127.0.0.1:8000/v1"
)
if __name__ == "__main__":
response = llm.invoke("你好!")
print(response.content)
得到结果:
你好👋!我是人工智能助手 ChatGLM3-6B,很高兴见到你,欢迎问我任何问题。