【笔记】动手学Ollama 第六章 Ollama可视化界面部署

正文详见：6.1 使用 FastAPI 部署 Ollama 可视化对话界面https://datawhalechina.github.io/handy-ollama/#/C6/1.%20%E4%BD%BF%E7%94%A8%20FastAPI%20%E9%83%A8%E7%BD%B2%20Ollama%20%E5%8F%AF%E8%A7%86%E5%8C%96%E5%AF%B9%E8%AF%9D%E7%95%8C%E9%9D%A2

一、FastAPI部署

1、克隆handy-ollama仓库

通过git下载gandy-ollama仓库，在路径handy-ollama\notebook\C6下找到fastapi_chat_app文件夹。

git clone https://github.com/AXYZdong/handy-ollama

2、目录结构

fastapi_chat_app/
│
├── app.py
├── websocket_handler.py
├── static/
│   └── index.html
└── requirements.txt

fastapi_chat_app文件夹包括四部分：

• app.py：FastAPI应用程序的主要设置和路由
• websocket_handler.py：处理WebSocket链接和消息流
• atatic/index.html：HTML页面
• requirements.txt：环境依赖

3、安装环境依赖

pip install -r requirements.txt

除了安装dw给的环境外，还需要进行完整版本的Uvicorn