用Rasa和FastAPI搭建开源AI客服:从对话管理到部署的实战指南
最近几年,我身边不少技术团队都在尝试将传统的客服流程自动化,但往往卡在几个关键点上:要么是对话逻辑太死板,用户稍微换个说法就“听不懂”;要么是系统架构复杂,开发和维护成本居高不下;再或者就是性能瓶颈,用户一多响应就变慢。如果你也遇到过类似的问题,那么将Rasa和FastAPI这两个开源利器组合起来,或许能给你带来一个清晰、高效且完全可控的解决方案。这不是一个简单的“Hello World”式教程,而是一套面向生产环境的、从核心对话逻辑设计到高可用部署的完整技术路径。无论你是想为内部系统添加一个智能问答助手,还是为To C产品构建一个7x24小时在线的客服入口,这套基于Python生态的方案都能提供坚实的支撑。接下来,我将以一个电商售后咨询场景为例,带你一步步拆解如何用代码实现一个既聪明又可靠的AI客服系统。
1. 项目蓝图:理解Rasa与FastAPI的协同架构
在开始写第一行代码之前,我们需要先厘清Rasa和FastAPI在这个系统中各自扮演什么角色,以及它们如何“握手”。很多人误以为Rasa只是一个聊天机器人框架,实际上,它是一个完整的对话式AI平台,核心由两部分组成:Rasa NLU负责理解用户的自然语言(意图识别和实体提取),而Rasa Core则负责管理复杂的多轮对话流程。你可以把它想象成大脑的“理解”和“决策”两个区域。
那么FastAPI的作用呢?它是一个现代、快速(高性能)的Python Web框架,特别适合构建API。在我们的架构里,FastAPI将作为系统的主干和对外接口。它负责接收来自前端(如网页、APP)的用户请求,然后调用Rasa服务来处理对话,并可能同时查询数据库、知识库或其他微服务,最后整合所有信息返回给用户。这种解耦的设计带来了巨大的灵活性:Rasa专注于其擅长的对话AI,而FastAPI则处理业务逻辑、数据整合和高效响应。
一个典型的请求流看起来是这样的:
- 用户在前端界面输入:“我昨天买的手机屏幕碎了,能保修吗?”
- 前端通过HTTP请求将这句话发送到FastAPI后端的一个特定端点(例如
/chat)。 - FastAPI接收到请求后,可能先进行一些预处理(如用户身份验证、请求日志记录)。
- 随后,FastAPI将用户消息代理转发给独立运行的Rasa服务。这里通常通过Rasa提供的HTTP API(默认在
localhost:5005)进行通信。 - Rasa服务运用其训练好的模型,识别出用户意图是
query_warranty,并提取出实体product: 手机、issue: 屏幕碎了以及时间实体昨天。 - Rasa的对话管理模块根据当前对话历史和识别结果,决定下一步动作,比如“询问订单号”或“直接回复保修政策”。
- Rasa将决策结果(一个包含响应文本和后续动作指令的结构化数据)返回给FastAPI。
- FastAPI在收到Rasa的回复后,可能还需要执行一些“后处理”:例如,根据“手机”这个实体去产品数据库查询具体的保修条款,或者根据用户ID去订单系统查找昨天的订单。
- 最后,FastAPI将加工后的、信息更丰富的回复(例如:“您好,手机屏幕碎裂属于人为损坏,不在标准保修范围内。但我们可以为您提供付费维修服务,费用是XXX元。您需要我帮您查询最近的维修网点吗?”)返回给前端。
- 前端将回复展示给用户,完成一轮交互。
通过这个流程,你可以看到FastAPI充当了智能路由和业务增强层的角色。这种模式的优势在于,你可以轻松地在FastAPI层集成任何其他服务(支付、CRM、库存),而无需修改Rasa的核心对话逻辑。下面是一个简化的架构示意图(以文字描述):
[用户] <-> [前端: React/Vue] <-> [API网关: FastAPI] <-> [对话引擎: Rasa]
|
[业务数据库]
[知识库]
[其他微服务]
2. 搭建核心:Rasa对话引擎的配置与训练
现在,让我们深入Rasa的核心,构建一个能真正理解用户并管理对话的引擎。我们将以电商售后场景为例,涵盖从数据准备到模型训练的全过程。
2.1 定义对话的“领域”:Domain配置
domain.yml 文件是Rasa项目的核心配置文件,它定义了机器人所知的一切:用户可能表达的意图、对话中需要关注的实体、机器人可以做出的回应以及它能够执行的动作。
首先,我们需要定义意图。意图代表了用户话语背后的目的。对于售后客服,常见的意图包括:
intents:
- greet: # 问候
triggers: action_greet_back
- goodbye # 道别
- query_warranty: # 查询保修
use_entities: # 明确使用哪些实体
- product
- issue
- complain_delivery: # 投诉物流
- request_human_agent: # 请求人工客服
注意:
triggers是一个有用的特性,它允许在识别到某个意图时立即触发一个特定的动作,非常适合处理像问候这样无需上下文的标准流程。
接着是实体,用于从用户句子中提取结构化信息:
entities:
- product # 产品,如“手机”、“耳机”
- issue # 问题,如“不开机”、“有划痕”
- order_number # 订单号
- date # 日期
然后,我们需要准备响应模板。这些是机器人回复的“素材库”:
responses:
utter_greet:
- text: “您好!我是售后助手,请问有什么可以帮您?”
utter_ask_order_number:
- text: “为了更好地为您查询,请提供一下订单号好吗?”
utter_warranty_info:
- text: “根据我们的政策,{product}的{issue}问题,保修状态是:{warranty_status}。”
utter_connect_human:
- text: “好的,马上为您转接人工客服,请稍等。”
最后,也是最具威力的部分:自定义动作。当简单的回复模板不够用时,我们需要编写Python代码来执行复杂逻辑,比如查询数据库。
actions:
- action_greet_back # 对应 triggers 的问候动作
- action_query_warranty_database # 自定义动作:查询保修数据库
- action_submit_complaint # 自定义动作:提交投诉工单
2.2 用故事和规则训练对话管理
Rasa Core通过两种主要方式学习如何管理对话:规则和故事。
规则适用于简短、线性的对话路径,不受复杂上下文影响。它们在 rules.yml 中定义:
- rule: 激活问候
steps:
- intent: greet
- action: action_greet_back
- rule: 直接转人工
steps:
- intent: request_human_agent
- action: utter_connect_human
- action: action_transfer_to_human # 另一个自定义动作,调用工单系统API
故事则用于训练机器人处理更复杂、多分支的对话流。它描述了在多轮交互中,根据用户的意图和实体,机器人应该如何应对。下面是一个 stories.yml 中的例子:
- story: 保修查询流程(有订单号)
steps:
- intent: query_warranty
entities:
- product: “手机”
- issue: “屏幕碎裂”
- action: action_query_warranty_database
- slot_was_set: # 假设动作设置了槽位
- warranty_status: “不保修”
- action: utter_warranty_info
- intent: affirm # 用户说“是的”
- action: utter_ask_order_number
- intent: inform # 用户提供订单号 “订单号是123456”
entities:
- order_number: “123456”
- action: action_log_complaint # 记录维修请求
- action: utter_complaint_submitted
2.3 准备与增强NLU训练数据
NLU模型的质量直接决定了机器人能否正确理解用户。基础的训练数据写在 nlu.yml 中:
nlu:
- intent: query_warranty
examples: |
- 我买的[手机](product) [屏幕碎了](issue),能保修吗?
- 这个[耳机](product) [有杂音](issue),在保修期内吗?
- 请问[电脑](product)[无法开机](issue)怎么处理?
然而,仅靠几十条示例是不够的。为了提升模型的泛化能力,我强烈推荐使用Rasa的 NLU Generator 或类似的数据增强技术。例如,你可以对实体进行同义词替换(“手机” -> “智能手机”、“机子”),或者对句式进行微调。在实践中,一个有效的方法是结合开源的中文同义词词林或使用回译(用机器翻译中转一次)来生成更多样化的表达。
训练模型只需一行命令,但其中包含了对不同管道组件的选择:
rasa train --config config.yml --domain domain.yml --data data/
config.yml 文件中的管道配置至关重要。对于中文场景,一个推荐的组合是:
pipeline:
# 1. 分词
- name: “JiebaTokenizer”
# 2. 特征提取:使用预训练的语言模型,这是提升理解精度的关键
- name: “LanguageModelFeaturizer”
model_name: “bert”
model_weights: “bert-base-chinese”
# 3. 意图分类器
- name: “DIETClassifier”
epochs: 100
constrain_similarities: true
# 4. 实体提取器(DIETClassifier已包含实体提取功能)
# 5. 实体同义词映射
- name: “EntitySynonymMapper”
# 6. 响应选择器(如果使用检索式响应)
使用预训练的BERT等模型作为特征提取器,能显著提升对用户问句深层语义的理解,尤其是在处理表达多样、口语化强的中文客服场景时。
3. 构建桥梁:FastAPI后端与Rasa的深度集成
当Rasa引擎准备就绪后,我们需要用FastAPI搭建一座坚固、高效的桥梁,连接用户与这个引擎,并赋予其更多的业务能力。
3.1 创建FastAPI应用与核心聊天端点
首先,初始化一个FastAPI应用,并定义最关键的聊天接口。
# main.py
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
import httpx
import logging
from typing import Optional
app = FastAPI(title=“AI客服后端API”, version=“1.0.0”)
logger = logging.getLogger(__name__)
# Rasa服务器的地址
RASA_SERVER_URL = “http://localhost:5005”
# 定义请求/响应模型
class ChatRequest(BaseModel):
message: str
sender_id: str # 用于区分不同会话的用户ID
session_id: Optional[str] = None # 可选的独立会话ID
class ChatResponse(BaseModel):
recipient_id: str
text: str
custom_data: Optional[dict] = None # 用于携带额外业务数据
@app.post(“/v1/chat”, response_model=ChatResponse)
async def chat_with_bot(request: ChatRequest):
“”“核心聊天接口,将消息转发给Rasa并返回响应。”“”
rasa_payload = {
“sender”: request.sender_id,
“message”: request.message
}
try:
async with httpx.AsyncClient(timeout=30.0) as client:
# 调用Rasa的`/webhooks/rest/webhook`端点
rasa_response = await client.post(
f“{RASA_SERVER_URL}/webhooks/rest/webhook”,
json=rasa_payload
)
rasa_response.raise_for_status()
rasa_data = rasa_response.json()
if not rasa_data:
return ChatResponse(recipient_id=request.sender_id, text=“抱歉,我没有理解您的意思。”)
# 取Rasa返回的第一个响应文本
bot_text = rasa_data[0].get(“text”, “”)
# 在这里,你可以解析Rasa响应中可能包含的`custom`字段,执行额外业务逻辑
# 例如,如果custom字段包含 `{“action”: “query_order”, “order_id”: “123”}`,则去查询订单系统
# 假设我们有一个后处理函数来丰富回复
enriched_text = await enrich_response_with_business_data(bot_text, request.sender_id)
return ChatResponse(recipient_id=request.sender_id, text=enriched_text)
except httpx.RequestError as e:
logger.error(f“连接Rasa服务失败: {e}”)
raise HTTPException(status_code=503, detail=“对话服务暂时不可用”)
except Exception as e:
logger.error(f”处理聊天请求时发生未知错误: {e}”)
raise HTTPException(status_code=500, detail=“内部服务器错误”)
这个端点完成了最基本的代理功能。但真正的价值在于 enrich_response_with_business_data 这个函数,它代表了FastAPI层的业务增强能力。
3.2 实现自定义动作服务:让Rasa“能动”起来
前面在domain.yml中定义的action_query_warranty_database,需要一个对应的服务来执行。这就是Rasa的自定义动作服务器。它实际上是一个独立的HTTP服务,Rasa Core在需要执行自定义动作时会调用它。我们可以用FastAPI轻松构建它。
# actions_server.py
from fastapi import FastAPI
from pydantic import BaseModel
from typing import List, Dict, Any, Optional
import asyncpg # 异步PostgreSQL驱动
import os
app = FastAPI(title=“Rasa自定义动作服务器”)
# 数据库连接池(假设使用PostgreSQL)
DATABASE_URL = os.getenv(“DATABASE_URL”)
class Tracker(BaseModel):
sender_id: str
slots: Dict[str, Any]
latest_message: Dict[str, Any]
# ... 其他跟踪器字段
class ActionRequest(BaseModel):
tracker: Tracker
domain: Dict[str, Any]
@app.post(“/webhook”)
async def webhook(action_request: ActionRequest):
action_name = action_request.tracker.latest_message.get(“intent”, {}).get(“name”)
# 实际上,Rasa会通过一个`next_action`字段明确告知要执行哪个动作
# 这里为简化,根据意图判断。实际应从`action_request`中解析`next_action`。
if action_name == “query_warranty”:
return await handle_query_warranty(action_request.tracker)
elif action_name == “submit_complaint”:
return await handle_submit_complaint(action_request.tracker)
# ... 处理其他动作
return {“events”: [], “responses”: []}
async def handle_query_warranty(tracker: Tracker) -> Dict[str, Any]:
“”“查询保修信息的自定义动作”“”
# 1. 从tracker的slots或latest_message的entities中提取实体
entities = tracker.latest_message.get(“entities”, [])
product = next((e[“value”] for e in entities if e[“entity”] == “product”), None)
issue = next((e[“value”] for e in entities if e[“entity”] == “issue”), None)
if not product or not issue:
# 如果信息不足,可以设置一个slot提示需要更多信息,并触发一个追问的utterance
return {
“events”: [
{“event”: “slot”, “name”: “missing_info”, “value”: “product_or_issue”}
],
“responses”: [{“text”: “请问是什么产品出现了什么问题呢?”}]
}
# 2. 连接业务数据库进行查询
async with asyncpg.create_pool(DATABASE_URL) as pool:
async with pool.acquire() as conn:
warranty_status = await conn.fetchval(“““
SELECT status FROM warranty_policies
WHERE product_type = $1 AND issue_category = $2
“““, product, issue)
# 3. 设置slot,以便后续的utterance模板使用
events = [
{“event”: “slot”, “name”: “warranty_status”, “value”: warranty_status or “未知”},
{“event”: “slot”, “name”: “queried_product”, “value”: product}
]
# 4. 返回结果,Rasa会根据domain中的`utter_warranty_info`模板和设置的slot自动生成回复
return {“events”: events}
# 需要在Rasa的 `endpoints.yml` 中配置动作服务器地址
# action_endpoint:
# url: “http://localhost:5055/webhook”
通过这种方式,Rasa的对话决策与你的业务数据库、外部API等实现了无缝连接。动作服务器是扩展机器人能力的关键。
3.3 增强API:上下文管理、认证与监控
一个生产级的API还需要更多考量。
上下文与会话管理:Rasa本身通过sender_id来维护对话状态(存储在Redis等中)。在FastAPI层,我们可能需要维护更丰富的用户会话上下文。例如,我们可以使用Redis缓存一些跨对话的临时信息:
import redis.asyncio as redis
redis_client = redis.from_url(“redis://localhost:6379”, decode_responses=True)
async def store_conversation_context(sender_id: str, key: str, value: Any):
await redis_client.hset(f“conv_ctx:{sender_id}”, key, json.dumps(value))
async def get_conversation_context(sender_id: str, key: str) -> Any:
data = await redis_client.hget(f“conv_ctx:{sender_id}”, key)
return json.loads(data) if data else None
认证与授权:使用FastAPI的依赖注入系统轻松添加API密钥或JWT令牌验证。
from fastapi import Depends, Security
from fastapi.security import APIKeyHeader
api_key_header = APIKeyHeader(name=“X-API-Key”, auto_error=False)
async def verify_api_key(api_key: str = Security(api_key_header)):
if not api_key or api_key != os.getenv(“VALID_API_KEY”):
raise HTTPException(status_code=403, detail=“无效的API密钥”)
return api_key
@app.post(“/v1/chat”)
async def secure_chat(request: ChatRequest, verified_key: str = Depends(verify_api_key)):
# 现在这个端点受API密钥保护了
return await chat_with_bot(request)
结构化日志与监控:使用如structlog库记录格式化的日志,并集成Prometheus指标暴露端点,方便使用Grafana监控QPS、响应延迟和错误率。
from prometheus_fastapi_instrumentator import Instrumentator
Instrumentator().instrument(app).expose(app) # 暴露 `/metrics` 端点
4. 部署实战:从开发到高可用生产环境
让系统在本地运行起来只是第一步,如何让它稳定、可靠地服务线上用户才是真正的挑战。
4.1 容器化:Docker与Docker Compose
为每个组件(Rasa, FastAPI, 动作服务器,Redis, PostgreSQL)创建Dockerfile是标准做法。这里给出FastAPI应用的示例:
# Dockerfile for FastAPI backend
FROM python:3.10-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY . .
CMD [“uvicorn”, “main:app”, “--host”, “0.0.0.0”, “--port”, “8000”]
使用docker-compose.yml编排所有服务,能一键启动整个开发或测试环境:
version: ‘3.8’
services:
rasa:
build: ./rasa
ports:
- “5005:5005”
volumes:
- ./rasa/models:/app/models
- ./rasa/data:/app/data
command: [“run”, “--enable-api”, “--cors”, “*”, “--debug”]
actions:
build: ./actions
ports:
- “5055:5055”
environment:
- DATABASE_URL=postgresql://user:pass@db:5432/customer_service
depends_on:
- db
api:
build: ./backend
ports:
- “8000:8000”
environment:
- RASA_SERVER_URL=http://rasa:5005
- REDIS_URL=redis://redis:6379
depends_on:
- rasa
- redis
redis:
image: redis:7-alpine
ports:
- “6379:6379”
db:
image: postgres:15-alpine
environment:
POSTGRES_DB: customer_service
POSTGRES_USER: user
POSTGRES_PASSWORD: pass
volumes:
- postgres_data:/var/lib/postgresql/data
volumes:
postgres_data:
4.2 性能优化与伸缩策略
随着用户量增长,性能瓶颈可能出现在多个地方。
Rasa模型推理优化:
- 模型量化:使用ONNX Runtime等后端替代默认的TensorFlow,并对模型进行量化,能大幅减少内存占用和提升推理速度。
rasa train --config config.yml --quantize 8 - 缓存:对常见的、结果确定的用户查询(如“你们的工作时间?”),可以在FastAPI层设置缓存,避免重复调用Rasa NLU和动作服务。可以使用Redis缓存意图-实体-响应的映射。
FastAPI与异步处理:
- 确保充分利用FastAPI的异步特性。所有I/O操作(如调用Rasa API、查询数据库、访问Redis)都应使用
async/await和非阻塞客户端(httpx.AsyncClient,asyncpg)。 - 使用连接池管理数据库和Redis连接,避免为每个请求新建连接的开销。
水平扩展:
- 无状态服务:FastAPI应用和Rasa动作服务器本身是无状态的,可以轻松地启动多个实例。使用Nginx或云负载均衡器进行流量分发。
- Rasa的扩展:Rasa的NLU和Core服务也可以多实例部署。关键在于共享对话状态存储。确保在Rasa的
endpoints.yml中将会话存储(tracker_store)指向一个共享的Redis实例,这样任何一个Rasa实例都能访问到同一用户的对话历史。tracker_store: type: redis url: “redis://redis:6379” db: 0 record_expiry: 3600 # 会话记录过期时间
4.3 生产环境部署与CI/CD
对于生产环境,Kubernetes是管理此类微服务架构的绝佳选择。你需要为每个服务创建Kubernetes Deployment和Service资源文件。
一个简化的FastAPI Deployment示例如下:
# k8s/api-deployment.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: ai-customer-service-api
spec:
replicas: 3 # 启动3个副本
selector:
matchLabels:
app: ai-customer-service-api
template:
metadata:
labels:
app: ai-customer-service-api
spec:
containers:
- name: api
image: your-registry/ai-customer-api:${IMAGE_TAG}
ports:
- containerPort: 8000
env:
- name: RASA_SERVER_URL
value: “http://rasa-service:5005”
resources:
requests:
memory: “256Mi”
cpu: “250m”
limits:
memory: “512Mi”
cpu: “500m”
livenessProbe:
httpGet:
path: /health
port: 8000
initialDelaySeconds: 30
periodSeconds: 10
---
apiVersion: v1
kind: Service
metadata:
name: api-service
spec:
selector:
app: ai-customer-service-api
ports:
- port: 80
targetPort: 8000
健康检查与就绪探针:如上例所示,在FastAPI应用中添加/health端点,并配置Kubernetes的livenessProbe和readinessProbe,是保证服务弹性的基础。
持续集成与部署:使用GitHub Actions或GitLab CI自动化你的流程。一个典型的CI/CD流水线包括:
- 测试阶段:运行单元测试、集成测试(可以使用Testcontainers模拟依赖服务)。
- 构建与推送镜像:为通过测试的代码构建Docker镜像,并推送到容器镜像仓库(如Docker Hub, Google Container Registry)。
- 部署到K8s:使用
kubectl set image或更先进的GitOps工具(如ArgoCD)来更新Kubernetes集群中的镜像版本。
最后,别忘了监控和告警。除了之前提到的Prometheus指标,集中式的日志收集(使用Fluentd或Filebeat将日志发送到Elasticsearch)和错误追踪(使用Sentry)对于快速定位线上问题至关重要。在项目初期就搭建好这些可观测性设施,能为后续的稳定运营省下大量排查时间。
298



被折叠的 条评论
为什么被折叠?



