hailuo-3-max 一提交就报 429 怎么办?先拆开验证 RPM 和并发任务数
11 月 4 号晚上,我给视频生成服务补批处理。单请求跑得好好的,一开队列就撞上 HTTP/1.1 429 Too Many Requests。
hailuo-3-max 返回 429 时,要把“每分钟请求限制”和“同时生成任务上限”分开验证。降低提交频率只能处理前者;如果后台生成任务已经占满并发槽位,请求发得再慢也可能继续报 429。
截至 2026 年 11 月 6 日,可核对的完整模型 ID 是 hailuo-3-max。官方素材没有公布确定的 RPM、并发上限和等待时间,下面不硬编数字。
先看具体表现
| 你的现象 | 优先排查 | 怎么验证 |
|---|---|---|
| 短时间连续提交才报 429 | 每分钟请求限制 | 固定并发为 1,逐步调整请求间隔 |
| 已有多个任务生成时,新任务立刻 429 | 同时生成任务上限 | 保持低频提交,改变未完成任务数 |
| 单机正常,多实例上线后报 429 | 账户级总流量 | 汇总所有实例的提交量与活跃任务 |
| 等待后偶尔恢复,集中重试又失败 | 重试惊群 | 检查 Retry-After 和重试时间分布 |
| 缩短提示词仍报 429 | 通常不是请求体大小 | 检查频率、并发及账户配额 |
最容易搞混的是“请求”和“任务”。
一次提交请求可能只占几百毫秒,生成任务却会继续运行。限制并发任务数时,槽位要等任务成功、失败或取消后才释放,不是 POST 返回任务 ID 就算结束。说实话,我一开始也把提交 QPS 当成全部问题,折腾半天才发现队列里还有一批没结束的任务。
flowchart TD
A[收到 429] --> B{是否有 Retry-After}
B -->|有| C[按响应头等待]
B -->|无| D[指数退避加随机抖动]
C --> E{活跃任务是否接近上限}
D --> E
E -->|是| F[任务队列限制全局并发]
E -->|否| G[降低提交速率]
F --> H[任务结束后释放槽位]
G --> I[重新验证 RPM]
429 为什么会出现
RFC 6585 §4 对 429 的定义很明确:客户端在给定时间内发送了过多请求,触发了速率限制。服务端可以按资源、服务器或用户统计,也可能通过认证凭据或 Cookie 识别用户。
RFC 没规定厂商只能按“每分钟多少次”限流。实际系统可能同时套着几层规则:
- 提交接口的 RPM;
- 同时运行或排队的生成任务数;
- 认证账户共享配额;
- 某个资源池当前可用容量;
- 多实例共享认证信息后的总请求量。
我抓到的原始状态行就是:
HTTP/1.1 429 Too Many Requests
只看这一行,判断不了触发的是哪层限制。减小 JSON、缩短提示词也未必有用。429 不是 413,请求体大小和请求次数是两回事。
调用路径也会影响排查位置。使用 OpenRouter、Together AI 或 ofox.io 这类 API 聚合平台时,要同时保存响应头、完整错误体、模型 ID 和请求时间,判断 429 来自接入层还是模型资源层,别只在业务日志里留一句“生成失败”。
分开测 RPM 和任务并发
测每分钟请求限制
把同时生成任务数固定在 1。等前一个任务进入终态,再提交下一个,只调整请求间隔。
记录这四项:
submitted_at, task_id, http_status, finished_at
计算方式很简单:
请求速率 = 时间窗口内提交次数 ÷ 窗口分钟数
如果活跃任务始终只有 1,缩短提交间隔后却稳定出现 429,那就更像请求频率限制。具体阈值仍要以控制台或最新文档为准。我也不确定动态资源池会不会让阈值随时段变化。
测同时生成任务上限
这一轮反过来。保持较长且固定的提交间隔,让前面的任务故意不结束,再逐步增加未完成任务数。
活跃任务 = 已提交 - 已成功 - 已失败 - 已取消
请求已经放得很慢,活跃任务积累后仍然出现 429,就该查并发任务槽位了。继续盲目 sleep(10) 没什么用。
排查跨平台调用时,我会在 OpenRouter、Together AI 和 ofox.io 的请求日志里使用同一组字段。这些字段适合定位多个服务实例是否共用了同一配额。
正确处理 Retry-After
RFC 9110 §10.2.3 规定,Retry-After 可以是非负整数秒数,也可以是 HTTP-date。
下面只是协议格式示例,60 不代表 hailuo-3-max 的实际等待时间:
HTTP/1.1 429 Too Many Requests
Retry-After: 60
两种格式都得解析,不能直接 int(header):
from datetime import datetime, timezone
from email.utils import parsedate_to_datetime
def wait_seconds(value):
if value.isdigit():
return max(0, int(value))
retry_at = parsedate_to_datetime(value)
return max(
0,
(retry_at - datetime.now(timezone.utc)).total_seconds(),
)
响应里带了 Retry-After,就按服务端给的时间等。没有这个响应头,再用指数退避:
等待时间 = min(上限, 基础秒数 × 2^重试次数) + 随机抖动
一个短实现:
import random
import time
def backoff(n, base=1, cap=60):
delay = min(cap, base * 2**n) + random.uniform(0, 1)
time.sleep(delay)
随机抖动不能省。三个实例都在第 2、4、8 秒重试,和组团撞门没区别。服务端不知道这边在忙什么,反正结果又是一片 429。
可以启动一个只在本机监听的测试服务器,让它第一次返回带 Retry-After 的 429、第二次返回 200,从而检查 requests 是否会遵循响应头:
import threading
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
import requests
from requests.adapters import HTTPAdapter
from urllib3.util.retry import Retry
class TestHandler(BaseHTTPRequestHandler):
attempts = 0
def do_GET(self):
type(self).attempts += 1
if type(self).attempts == 1:
self.send_response(429)
self.send_header("Retry-After", "1")
else:
self.send_response(200)
self.end_headers()
def log_message(self, format, *args):
pass
server = ThreadingHTTPServer(("127.0.0.1", 0), TestHandler)
thread = threading.Thread(target=server.serve_forever, daemon=True)
thread.start()
retry = Retry(
total=2,
status_forcelist=[429],
allowed_methods={"GET"},
backoff_factor=1,
respect_retry_after_header=True,
raise_on_status=False,
)
session = requests.Session()
session.mount("http://", HTTPAdapter(max_retries=retry))
try:
url = f"http://127.0.0.1:{server.server_port}/"
print(session.get(url, timeout=10).status_code)
finally:
server.shutdown()
server.server_close()
正常情况下,这段代码会等待约 1 秒并最终输出 200。它验证的是 GET 重试行为。生成任务一般通过 POST 提交,盲目重试可能创建重复任务。要配合幂等键或本地去重,别把 allowed_methods 一改就当处理完了。
用全局任务队列控制生成并发
单进程可以用信号量限制并发:
import asyncio
slots = asyncio.Semaphore(3)
async def run(job):
async with slots:
return await generate_and_poll(job)
3 只是演示值,不是 hailuo-3-max 的官方上限。重点在 generate_and_poll():信号量应该覆盖从提交任务到任务进入终态的完整周期,不能只包住那次 HTTP 请求。
多实例就别各玩各的了。应该使用共享队列、Redis 信号量或网关级限流器,让所有实例看到同一个活跃任务计数。否则每台机器都觉得自己只跑了 3 个,四台机器加起来其实已经跑到 12 个。
队列消费逻辑可以这样做:
- 取出任务并占用全局槽位;
- 提交生成请求;
- 按服务端允许的方式查询状态;
- 成功、失败或取消后释放槽位;
- 遇到 429 时延迟入队,不要原地死循环。
如果请求要经过 OpenRouter、Together AI 或其他 API 聚合平台,队列仍然应该放在自己的业务侧。聚合平台能提供请求记录和状态观察,但不能替你的业务决定哪个任务更急、失败后是否还能重复提交。
常见问题 FAQ
Q:hailuo-3-max 返回 429,是不是账户受限了?
不一定。429 的标准含义是请求过多或触发限流,也可能来自并发任务数、账户配额或资源限制。账户有没有异常,要结合控制台状态和完整响应体判断。
Q:收到 HTTP 429 后可以立即重试吗?
不建议。先读取 Retry-After。没有该响应头时,使用带随机抖动的指数退避,并设置最大重试次数。立即重试很容易把一次限流放大成重试风暴。
Q:为什么缩短提示词后还是出现 429?
因为 429 通常针对请求频率、活跃任务或账户配额,不一定按请求体大小计算。提示词变短,不代表正在生成的任务变少。
Q:为什么单机正常,多实例部署后频繁 429?
多个实例可能共享同一认证账户,总请求量和活跃任务数会叠加。各实例独立退避还可能同时醒来重试,应该使用全局并发控制、共享限流器和随机抖动。
Q:已经按 Retry-After 等待,为什么还是 429?
等待期间可能还有其他实例在提交任务,或者生成槽位根本没释放。Retry-After 只告诉你“何时再请求”,不保证到时候一定有空闲任务槽位。
我现在的处理方式
我保留了两把闸:提交端按时间窗口限制请求速率,消费端按任务终态限制全局并发。碰到 429,优先执行 Retry-After;响应头缺失时,再走指数退避和随机抖动。POST 重试必须带幂等保护。
别只加一行 sleep()。hailuo-3-max 的 RPM 和同时生成任务上限是两回事。拆开验证,记好活跃任务数,再决定该限速还是减并发,能少绕不少弯路。
4415



被折叠的 条评论
为什么被折叠?



