快速搭建大语言聊天界面 Streamlit + LangChain + Ollama

最新推荐文章于 2025-11-10 15:21:26 发布

原创

最新推荐文章于 2025-11-10 15:21:26 发布 · 1k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#python #llm

快速搭建语言聊天界面

在这里插入图片描述

快速搭建大语言聊天界面能快速测试我们选用的模型，通过命令行测试不是很直观。
本文采用 Streamlit + LangChain + Ollama 搭建，10 行代码搞定。

创建 Streamlit App.py

修改Ollama IP 地址和端口到你本地的 Ollama


#app.py

from langchain_community.llms import Ollama
import streamlit as st
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler

llm = Ollama(model="testllama3", base_url="http://10.91.3.116:11434", verbose=True)

def sendPrompt(prompt):
    global llm
    response = llm.invoke(prompt)
    return response

st.title("Chat with Ollama")
if "messages" not in st.session_state.keys(): 
    st.session_state.messages = [
        {"role": "assistant", "content": "Ask me a question !"}
    ]

if prompt := st.chat_input("Your question"): 
    st.session_state.messages.append({"role": "user", "content": prompt})

for