11 月 6 日晚上,我给一个代码服务接入 glm-5.3-flashx。一次请求耗时 1834ms,HTTP 状态码是 200,页面却一个字都没有。
碰到这种情况,先不要直接归因于模型。常见原因包括但不限于:应用主动返回空正文、连接或上游异常、网关改写响应、内容过滤、输出预算耗尽、工具调用等非文本输出、客户端漏拼增量片段,以及代理缓冲。真正有用的证据是响应头、原始响应体、结束原因、请求 ID、SSE 事件数和最终拼接字符数。HTTP 200 表示服务器将这次 HTTP 请求作为成功响应处理,不代表模型一定生成了可见文本。
本文使用的模型名 glm-5.3-flashx 来自随题提供的 model ID 真值表。可进一步核对以下目录或文档:
- Z.ai 文档入口:https://docs.z.ai/
- OpenRouter 模型目录:https://openrouter.ai/models
- OpenRouter 模型目录 API:https://openrouter.ai/api/v1/models
需要特别说明:本文没有取得两个聚合端点在请求发生时的目录快照,也没有通过实际响应证明这两个端点使用同一个模型 ID。因此只能确认本文采用的规范名称是 glm-5.3-flashx,不能把它直接写成两个聚合端点已经核实的“实际模型 ID”。
端点对应关系应按调用时的目录和日志分别记录:
| 端点 | 本文能够确认的实际模型 ID |
|---|---|
| 模型原厂端点 | 未通过公开快照或实际响应核实 |
| OpenRouter | 未核实;应查询实时模型目录和请求日志 |
| ofox.io | 未核实;应查询其控制台、文档或请求日志 |
价格、上下文长度和输出速度也没有随素材提供可核验数据,本文不作类推。
为什么 HTTP 200 也可能没有可见内容
所谓“空响应”,实际可能是几种完全不同的情况。只盯着 message.content,很容易查错方向。
| 观察结果 | 可能的原因 | 优先检查 |
|---|---|---|
| HTTP 200,响应体为 0 字节 | 应用逻辑主动返回空正文、网关改写,或响应传输异常 | Content-Length、Transfer-Encoding、原始响应头、服务端日志、请求 ID |
| 没有收到有效 HTTP 响应 | 连接、网关或上游异常 | curl 错误、连接日志、网关日志、请求 ID |
| 响应体不是合法 JSON | HTML 错误页、代理截断、接口格式不匹配 | Content-Type、原始响应体前 512 字节 |
choices 是空数组 | 非标准响应或网关改写;不能仅凭空数组判断权限或路由问题 | 服务商接口文档、完整响应、请求 ID、网关日志 |
content 为空,但存在其他字段 | 工具调用、拒答字段、结构化结果或其他非文本输出 | 完整 message、接口响应 Schema、工具调用和其他结果字段 |
| SSE 有文本增量,页面仍为空 | 客户端漏拼、状态覆盖、渲染错误或代理缓冲 | 原始 SSE、事件数、增量字符数、TTFB |
| 有结束事件但没有文本增量 | 过滤、输出预算、非文本结果或服务端特定行为 | 结束原因、安全元数据、Token 用量、服务商文档 |
如果响应头明确包含 Content-Length: 0,服务器或网关很可能有意发送了空正文,但仍需结合服务端日志判断是哪一层作出的决定。如果使用 Transfer-Encoding: chunked,则应检查是否发送了数据块、是否正常结束,以及代理有没有截断或重写响应。
我当时看到的异常是:
json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)
这只能说明程序尝试把空字符串或非 JSON 内容解析成 JSON,不能证明模型返回了空文本。解析前至少应记录:
status
content-type
content-length
transfer-encoding
body_bytes
request_id
另一个经常被混在一起的错误是:
curl: (52) Empty reply from server
按照 libcurl 的错误定义,这表示客户端没有收到有效的 HTTP 响应,与“收到了 HTTP 200,但正文长度为 0”不是同一件事,更不能据此判断模型正常返回了空答案。
排查顺序可以整理成下面这张图:
flowchart TD
A[发起请求] --> B{收到有效 HTTP 响应?}
B -- 否 --> C[查连接、网关、上游和请求 ID]
B -- 是 --> D{响应体大于 0 字节?}
D -- 否 --> E[查 Content-Length、Transfer-Encoding、应用逻辑和服务端日志]
D -- 是 --> F{JSON 或 SSE 格式合法?}
F -- 否 --> G[保存原始正文和响应头]
F -- 是 --> H{存在文本增量或其他结果字段?}
H -- 有文本增量 --> I[查客户端拼接、状态更新和渲染]
H -- 只有其他字段 --> J[按接口 Schema 处理工具调用或结构化结果]
H -- 均没有 --> K[查结束原因、安全元数据、输出预算和服务商文档]
I --> L[检查代理缓冲]
方案一:用最小请求定位响应层级
先关闭流式输出、工具调用、JSON Schema 和复杂系统提示词,只保留一句“只回复 OK”。这样可以减少变量,但不能单凭一次最小请求确定根因。
模型参数应使用目标端点实时目录中列出的 ID。下面以随题真值表中的 glm-5.3-flashx 为例:
curl -sS -D headers.txt "$BASE/v1/chat/completions" \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model":"glm-5.3-flashx",
"stream":false,
"messages":[
{"role":"user","content":"只回复 OK"}
]
}' \
-o body.json
请求结束后,先查看响应头和字节数,不要立即交给 SDK 解析:
cat headers.txt
wc -c body.json
head -c 512 body.json
重点检查:
HTTP status
Content-Type
Content-Length
Transfer-Encoding
Request ID
实际响应字节数
如果 HTTP 200 同时带有 Content-Length: 0,应查应用和网关为什么主动发送空正文。如果响应头声称存在正文,但实际读取到的字节数不一致,则要进一步检查传输中断、代理行为和客户端日志。
要判断是否触发内容过滤,应查看结束原因及服务商返回的安全元数据。各家接口的字段名和行为不同,不能看到空字符串就直接写成“触发过滤”。
判断输出预算是否耗尽,主要看以下证据:
- 结束原因是否表示达到长度限制;
- 输出 Token 是否接近请求设置的上限;
- 提高输出预算后,相同最小请求是否恢复;
- 服务商是否把推理 Token 计入同一输出预算。
结束原因经常位于 finish_reason 一类字段中,但具体字段和枚举值必须以当前端点文档为准。如果响应没有拆分推理与可见输出的用量,只看总 Token 通常不足以准确判断根因。
也不要只记录 content。文本为空可能伴随工具调用、拒答信息、结构化结果或其他字段。客户端应先按服务商的响应 Schema 检查完整对象,再决定它是不是异常。
方案二:保存原始 SSE,检查客户端有没有漏拼
流式响应中,服务端可能已经发送了多个事件,前端却只读取最后一个结束事件,最终展示为空白。
客户端至少要累加每一个文本增量:
let text = "";
for await (const chunk of stream) {
const delta = chunk.choices?.[0]?.delta;
if (typeof delta?.content === "string") {
text += delta.content;
}
}
这只是 OpenAI 风格响应的最小示意。不同端点的增量结构、结束标记和非文本字段可能不同,生产代码必须以实际接口文档和原始事件为准。
建议记录以下数据:
- 收到的 SSE 事件总数;
- 包含文本增量的事件数;
- 累计文本字符数;
- 是否收到结束标记;
- 原始结束原因;
- 首事件时间与总耗时;
- 非文本增量或工具调用事件数量;
- 请求 ID。
可以计算两个基础指标:
TTFB_ms = first_event_time - request_start_time
assembled_chars = Σ length(delta.content)
如果原始 SSE 中 assembled_chars > 0,业务页面却为空,问题通常位于客户端字段读取、状态更新、并发覆盖或渲染层。此时反复重试模型只会增加费用和排查噪声。
测试 SSE 时,可以让 curl 禁用输出缓冲:
curl -N -sS "$BASE/v1/chat/completions" \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model":"glm-5.3-flashx",
"stream":true,
"messages":[
{"role":"user","content":"只回复 OK"}
]
}'
为了便于复盘,还可以保存未经解析的流:
curl -N -sS "$BASE/v1/chat/completions" \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model":"glm-5.3-flashx",
"stream":true,
"messages":[
{"role":"user","content":"只回复 OK"}
]
}' | tee raw-sse.txt
保存前应评估敏感信息风险,并设置访问控制和过期策略。
方案三:关闭代理缓冲,保留可切换的诊断链路
如果 curl 直连时能逐段收到数据,浏览器经过代理后却一直等到最后才显示,就要检查 Nginx、CDN、Serverless Runtime 或应用框架是否缓冲了响应。
Nginx 常见的诊断配置如下:
proxy_buffering off;
proxy_cache off;
gzip off;
proxy_read_timeout 300s;
应用层可以返回:
Content-Type: text/event-stream
Cache-Control: no-cache
X-Accel-Buffering: no
这里的 300s 只是配置示例,不是 glm-5.3-flashx 的超时建议,也不是模型性能数据。实际值应按业务超时策略、网关限制和服务商文档确定。
排查模型路由时,可以保留原厂端点和聚合 API 两条诊断链路,但必须分别记录:
- 实际请求的
base_url; - 实际提交的模型 ID;
- 服务端返回的模型字段;
- 请求 ID;
- 是否发生模型别名解析或回退;
- 网关是否改写状态码和响应体。
OpenRouter 和 ofox.io 的目录、别名和路由策略可能不同。不能因为两个端点都采用 OpenAI 风格接口,就假定它们接受同一个模型 ID,或把其中一端的 ID 直接复制到另一端。
使用 OpenAI 风格 SDK 时,可以把模型 ID 作为端点级配置,而不是硬编码成未经核实的值:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["API_KEY"],
base_url=os.environ["BASE_URL"],
)
response = client.chat.completions.create(
model=os.environ["MODEL_ID"],
messages=[
{"role": "user", "content": "只回复 OK"}
],
)
其中 MODEL_ID 应来自该端点当时的模型目录、控制台或官方文档。若使用本文随题真值表中的规范名称,可以配置为:
export MODEL_ID="glm-5.3-flashx"
但这不等于 OpenRouter 或 ofox.io 已经确认接受这一字符串。调用聚合端点前,仍需查询该端点的实时模型目录。
如果两条独立链路都稳定复现,应继续比较请求参数、响应 Schema 和服务端日志。如果只有经过某层代理才出问题,就检查该层的原始请求、响应头和日志。多端点对照只能缩小范围,不能替代根因分析。
日志应该保留哪些字段
可以给每次请求保留一份“诊断信封”,内容不必很多,但要足以还原响应在哪一层变空。
| 分类 | 建议字段 | 用途 |
|---|---|---|
| 请求身份 | request_id、trace_id | 串联网关与服务端日志 |
| 端点信息 | base_url、服务商名称 | 区分不同路由和实现 |
| 请求配置 | model_requested、stream、tools_enabled | 确认实际调用方式 |
| 响应模型 | model_returned | 识别别名解析、回退或路由变化 |
| HTTP | status、content_type、content_length、transfer_encoding、body_bytes | 区分主动空正文、传输异常和解析失败 |
| 时延 | elapsed_ms、ttfb_ms | 识别代理缓冲和超时 |
| 流式事件 | sse_events、text_events、delta_chars、done_seen | 判断客户端是否漏拼 |
| 生成结果 | 原始 finish_reason、工具调用数量、其他结果字段 | 判断结束方式和非文本输出 |
| 用量 | 输入 Token、输出 Token、可用时记录推理 Token | 辅助判断输出预算 |
| 环境 | SDK 版本、代理、重试次数 | 复现环境差异 |
一组日志可以写成:
{"request_id":"req_xxx","model_requested":"glm-5.3-flashx","status":200}
{"content_type":"text/event-stream","body_bytes":846,"elapsed_ms":1834,"ttfb_ms":612}
{"sse_events":17,"text_events":1,"delta_chars":2,"done_seen":true}
{"finish_reason":"<raw_value>","tools_enabled":false}
其中 1834ms 和 612ms 只代表 2026 年 11 月 6 日的一次请求记录,不是公开性能测试,也不能当作平均值或 P95。
日志里不要保存 API Key。业务提示词也不应整段明文落盘,至少要进行脱敏、截断或哈希处理。原始响应体和 SSE 应存入带访问控制、审计与过期策略的调试存储。
常见问题 FAQ
Q:glm-5.3-flashx 返回 200,为什么 choices 是空数组?
空 choices 不是标准的“成功生成空文本”信号,也不能直接与权限问题建立强关联。它可能来自非标准接口行为、网关改写或服务商自定义响应。
应保存完整响应和请求 ID,并查询当前服务商的接口文档与服务端日志。标准 OpenAI 风格接口通常会使用非 2xx 状态和错误对象表达权限、认证或参数问题,但自定义网关可能采用不同做法。
Q:message.content 为空,一定是内容过滤吗?
不一定。接口可能返回工具调用、拒答字段、结构化结果或其他非文本内容,也可能因为输出预算或服务端特定行为而没有形成可见文本。只有结束原因或安全元数据明确指向过滤时,才能作出这一判断。
Q:流式接口有 SSE 数据,为什么页面仍然不显示?
先确认 SSE 中是否真的存在文本增量,而不只是心跳、角色声明、用量统计或结束事件。若 delta_chars > 0,应检查客户端是否逐事件拼接文本、状态更新是否被覆盖,以及 Markdown 或富文本渲染是否丢弃了结果。
Q:curl 能流式输出,经过 Nginx 后为什么变成一次性返回?
常见原因是代理缓冲、压缩、缓存或应用框架没有及时刷新数据。可以关闭 proxy_buffering 和缓存,确认响应类型为 text/event-stream,再比较直连与代理链路的 ttfb_ms 和原始事件到达时间。
Q:HTTP 204 和 HTTP 200 空正文有什么区别?
HTTP 204 No Content 的语义就是响应没有内容。HTTP 200 则允许带正文,也允许正文长度为零。
如果收到合法的 HTTP 200 且 Content-Length: 0,应用或网关可能主动返回了空正文;如果响应头与实际字节数不一致,则应继续检查传输和代理问题。两种情况都应结合请求 ID 与服务端日志判断。
Q:如何确认聚合平台实际使用的模型 ID?
查询该平台调用当时的模型目录或控制台,并同时记录:
- 请求中提交的模型 ID;
- 响应中的模型字段;
- 请求 ID;
- 路由、别名解析或回退记录;
- 模型目录的查询时间和快照。
没有这些证据时,只能说“请求中填写了某个 ID”,不能说它就是聚合端点最终使用的准确模型 ID。
我的最终选择
现在再遇到空响应,我会先发出非流式最小请求,同时保存响应头、原始 JSON 或 SSE。确认基础链路正常后,再逐层恢复 SDK、代理、工具调用、结构化输出和业务提示词。
如果 HTTP 200 的正文确实为零字节,我会先根据 Content-Length、Transfer-Encoding 和服务端日志判断是否由应用主动返回;如果 choices 为空,则按非标准响应或网关改写处理,不直接归因于权限;如果 content 为空但存在其他字段,则按当前端点的响应 Schema 检查非文本结果。
简单增加 if (!content) retry() 解决不了根因。保存结束原因、响应字节数、SSE 事件数、增量字符数、端点信息和请求 ID,定位通常会快得多。HTTP 200 不能证明模型生成了可见文本,最终结果必须结合完整响应链判断。



被折叠的 条评论
为什么被折叠?



