基于 GPT-OSS 的在线编程课 AI 助教追问式对话 API 开发全记录

本文记录了如何在 3 天内使用 GPT-OSS 开源权重搭建一个 在线编程课 AI 助教追问式对话 API，从需求分析、数据准备到微调与部署全流程实战。

---

1️⃣ 需求与指标

• 回答准确率 ≥ 95%
• 响应延迟 < 1 秒
• 支持多学生并发提问

---

2️⃣ 数据准备

• 收集课程问答对
• 清理无效数据、去重
• 制作训练集和验证集（1k 条示例）

# 示例：加载训练数据
import pandas as pd
train_data = pd.read_csv('qa_dataset.csv')
print(train_data.head())

---

3️⃣ 模型微调

• 使用 GPT-OSS 开源权重
• LoRA + Adapter 微调
• 生成专属 Prompt，提高回答精准度

# 微调示例
from gpt_oss import GPTOSS
model = GPTOSS.load_pretrained('gpt-oss-base')
model.finetune(train_data, adapter='lora')

---

4️⃣ API 部署

• 使用 FastAPI 部署接口
• 支持多线程并发
• 提供 /ask 接口，学生输入问题即可获得回答

from fastapi import FastAPI
app = FastAPI()

@app.post("/ask")
def ask(question: str):
    answer = model.predict(question)
    return {"answer": answer}

---

5️⃣ 测试与优化

• 压测 API 并记录日志
• 常见问题优化 Prompt
• 评估准确率与响应时间

---

✅ 实战效果

• 学生提问平均响应时间：从 10 分钟 → 5 秒
• 回答命中率 96%
• 提升学习体验，减少人工辅导压力

---

引流提示

完整代码、微调脚本及部署指南已托管至官网，欢迎查看并 Star 👉 官网链接