- 博客(9)
- 收藏
- 关注
原创 一个 API Key 管多模型安全吗?小团队必须补上的权限隔离、模型白名单与预算分组
一个 OpenAI-compatible API Key 可以简化多模型接入,但不应成为所有环境共用的万能钥匙。本文给出环境拆分、模型白名单、任务级预算、归因日志和 Key 轮换的最小实现清单。
2026-08-19 15:40:14
184
原创 多模型回退的最小实现:429、5xx、超时与预算熔断怎么统一处理
用一套最小结构统一处理 AI Agent 的 429、5xx、超时、幂等、路线回退和任务级预算,避免 SDK、工作流与队列多层重试放大成本。
2026-08-17 14:23:28
226
原创 AI Agent 为什么越聊越贵:上下文截断、摘要缓存与预算控制
多轮对话并不是每轮只为新增问题付费。本文拆解历史消息、工具结果和系统提示如何反复进入上下文,并给出滑动窗口、结构化摘要、Prompt Cache、工具结果裁剪与三层预算的实战方案。
2026-08-16 09:17:32
412
原创 429 重试为什么会让 AI Agent 成本翻倍:指数退避、幂等与预算熔断
429 不可怕,危险的是 SDK、工作流和队列同时重试。本文用 Python 讲清指数退避、jitter、幂等键、retry budget 与三层预算熔断。
2026-08-15 10:08:06
376
1
原创 OpenAI 兼容 API 接入模板开源:Python、Node.js 与 Agent 成本计算器
开源一个 OpenAI-compatible API 最小模板,包含 Python、Node.js 接入、成功工作流成本计算器,以及 streaming、tool calling 等生产前检查清单。
2026-08-15 09:52:51
301
原创 多模型 API 成本优化实战:别只看 Token 单价,用成功工作流成本做压测
很多团队挑选大模型 API 时,第一眼只看价格表:每百万 Token 多少钱,哪个模型输入更便宜。但真正上线 Agent、RAG、客服机器人或内容工作流后,账单往往和表格算出来的不一样。原因很简单:用户只点了一次“发送”,后台可能经历意图识别、查询改写、工具选择、结果总结,再加上失败重试。单次请求便宜,不代表完成一个任务真的便宜。
2026-08-14 19:37:41
235
原创 AI Agent 成本压测:一次点击为何触发 4+ 次模型调用?附可落地计算公式
AI Agent 的真实成本不等于一次 API 调用价格。本文拆解规划、检索、工具调用、总结等隐性请求,并给出“每个成功工作流成本”的计算方法和上线前压测清单。
2026-08-14 11:59:23
218
原创 Dify 接入 WoofAPI:5 分钟配置、连通测试与 401/404/429 排错
用 5 分钟完成 Dify 接入 WoofAPI:先用 cURL 验证接口,再配置 Base URL、API Key 和模型名,并快速判断 401、404、429 的真实原因。
2026-08-13 17:34:22
190
原创 Dify 接入低成本 OpenAI 兼容 API:部分 GPT 路线约省 95% + 429 排错
WoofAPI 部分 GPT 路线相对官方输入价约省 94%~95.5%。本文完整演示 Dify 接入 OpenAI 兼容 API,并整理 401、403、404、429、503 等常见错误的排查顺序。
2026-08-11 18:54:06
505
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅