AIMessagePromptTemplate的使用-优快云博客

本文链接：https://blog.youkuaiyun.com/oHeHui1/article/details/136413399

本文介绍如何使用Gradio和HuggingFacePipeline构建一个简单的聊天机器人，可以回答关于深圳天气和电影推荐的问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

以下demo只在使用智普官网时是正常的，用本地模型回答经常出错.

import gradio
from langchain_core.prompts import ChatPromptTemplate  
from langchain.prompts import PromptTemplate 
from langchain_core.output_parsers import StrOutputParser
from langchain_community.llms import HuggingFacePipeline
from langchain_core.prompts.chat import AIMessagePromptTemplate
from langchain.prompts import HumanMessagePromptTemplate 
import time

from ChatGLM_new import zhipu_llm
model  = zhipu_llm 

# model = HuggingFacePipeline.from_model_id(
#     model_id="THUDM/chatglm3-6b",
#     task="text-generation",
#     verbose=True,
#     device=0,
#     model_kwargs={"trust_remote_code":True},
#     pipeline_kwargs={"max_new_tokens": 5000},
# )

prompt = ChatPromptTemplate.from_messages([
        HumanMessagePromptTemplate.from_template("深圳的天气怎么样"),
        AIMessagePromptTemplate.from_template("深圳今天的天气非常好"),
           HumanMessagePromptTemplate.from_template("最近有什么好看的电影"),
        AIMessagePromptTemplate.from_template("非诚勿扰不错"),
           HumanMessagePromptTemplate.from_template("{user_input}"),
            ])

output_parser = StrOutputParser()
chain = prompt | model | output_parser
def greet(name):
    response = chain.invoke({"user_input": name})
    return response
demo = gradio.Interface(fn=greet, inputs="text", outputs="text")
demo.launch()