- 博客(20)
- 收藏
- 关注
RSS订阅原创 AI 应用的第一课不是调 API，而是防它挂：我的模型路由+降级+可观测实战
一个记单词应用同时调用四类大模型，两周踩遍下架、涨价、限流、超时，最终沉淀出路由+降级+可观测治理体系。
2026-08-18 17:49:21
404
原创 3000行全塞一个 index.html？四刀瘦身手术，不装 Vite 也能模块化
从3000行单文件出发，抽CSS、建统一请求层、原生ES模块零工具拆文件、只抽纯函数不碰状态——四刀给胖前端做完整瘦身。
2026-08-13 17:47:27
368
原创 我的AI口语搭子“猝死“了——豆包千问智能体下架事件深度拆解
如果你以为这次下架只是监管部门拍脑袋的决定，那说明你对这个赛道的灰色地带一无所知。风险类型具体表现合规触雷点虚拟恋人泛滥大量用户创建"男友/女友"型智能体，进行深度情感互动诱导情感依赖，模糊人机边界擦边内容滋生部分智能体人设偏向暧昧、挑逗，对话内容打色情擦边球违反内容安全法规肖像侵权用户以明星、熟人等为原型创建智能体侵犯肖像权、名誉权未成年人沉迷青少年对AI角色产生过度依赖，影响现实社交违反未成年人保护法内容治理失控UGC（用户生成内容）模式下的智能体，平台难以实时审核监管责任无法落实。
2026-08-03 11:18:37
908
原创 我把80张图片喂给大模型总结，上下文直接满载，AI开始胡言乱语？
80张图片直接喂大模型，上下文飙至1000K爆满触发压缩，AI开始胡言乱语。根因在视觉token隐藏成本，OCR预处理可降维为纯文本问题。
2026-07-30 22:00:35
418
原创 SSE 断连重连导致的上下文错位
聊天产品里,用户用着用着,大模型回复到一半,网络抖了一下,SSE 连接断了。UI 上自动重连后,为什么 LLM "忘了" 自己刚才说到哪儿了?某 SaaS 客服 Agent 上线第 2 个月,工程师做了流式输出(逐字打字效果)。某天客服反馈:后台日志里也能看到诡异现象:同一 下出现了两个 不同的并发请求,LLM 收到的上下文被截断到某个中间状态,于是基于"半句话"继续胡编。这就是典型的 SSE 断连重连导致的上下文错位。这类问题在 2025–2026 年的 AI Chat 产品里频繁出现(ChatGPT
2026-06-26 19:38:36
526
原创 RAG 系统中「检索质量」与「生成质量」之间那道隐形的鸿沟，到底是怎么形成的？
客服团队被迫增设了人工"AI 答案复核"岗位——本应省人力的系统，反而多雇了一个人。导致关键信息（"虚拟商品 2 小时 + 联系客服"）被切到第二个 chunk，而这个 chunk 恰好落在 prompt 的"中间盲区"，LLM 几乎读不到它。先用向量检索粗筛（recall 优先，k=20），再用 Cross-encoder 精排（precision 优先，取 top-3），最后喂给 LLM。你（LLM）翻开第一本书的前 10 页，看到"普通商品 7 天无理由退款"，又翻了翻第二本，都是自助退款截图。
2026-06-23 23:49:17
311
原创 SSE 断连重连导致的上下文错位
聊天产品里,用户用着用着,大模型回复到一半,网络抖了一下,SSE 连接断了。UI 上自动重连后,为什么 LLM "忘了" 自己刚才说到哪儿了?某 SaaS 客服 Agent 上线第 2 个月,工程师做了流式输出(逐字打字效果)。某天客服反馈:后台日志里也能看到诡异现象:同一 下出现了两个 不同的并发请求,LLM 收到的上下文被截断到某个中间状态,于是基于"半句话"继续胡编。这就是典型的 SSE 断连重连导致的上下文错位。这类问题在 2025–2026 年的 AI Chat 产品里频繁出现(ChatGPT
2026-06-22 23:58:43
386
原创 为什么 RAG 加了 BM25 反而更不准了
某在线教育平台的 AI 答疑助手，上线第二周，产品经理怒气冲冲找来："问'Python 装饰器和闭包的关系'，以前纯向量检索能答对，现在加了 BM25 混合检索后，返回的第一条居然是《Python 安装教程》——就因为'Python'这个词在 BM25 里得分爆表！这是一个的生产环境问题。
2026-06-21 15:11:37
316
原创 Function Calling 格式漂移
模式2 字段缺失: '{"category": "PAYMENT", "reason": "用户已付款"}' ← 缺 confidence 和 priority。"description": "支付异常选PAYMENT；# 模式4 额外字段: '{"category": "PAYMENT", "suggested_action": "立刻退款", ...}'# 模式5 字段名变体: '{"cat": "PAYMENT", "pri": "HIGH"}' ← 缩写字段名。
2026-06-18 22:51:15
326
原创 ReAct 循环中陷入“工具调用死循环“
维度A：收敛 PromptB：信息增益门控C：结构化输出实现复杂度⭐⭐⭐⭐⭐⭐对小模型友好度⭐⭐⭐⭐⭐⭐不依赖模型自觉❌✅部分额外 token 消耗几乎为零中（相似度计算）低可控性低高最高适用场景原型验证生产高可靠前沿探索推荐策略：先用 A 快速验证，上线前切到 B 或 C（取决于你的模型是否支持 structured output）。
2026-06-17 23:08:29
306
原创 当 DeepSeek 被 2 万 Prompt Token 噎死：一次 LLM 流水线的“血栓手术“
三个并行研究员 5 秒出结果，整合器却卡死 45 秒？不是代码 bug，不是网络抖动——是提示词从 3K tokens 暴涨到 2 万，DeepSeek API 直接被"噎死了"。本文记录了一场从 App 崩溃到管道疏通的全过程排查。
2026-06-14 17:11:17
322
原创 AI帮我写代码，结果我们一起debug了3小时——为什么大模型修不好自己的bug？
AI生成代码快，修bug却常陷入死循环：上下文膨胀、局部修复、幻觉API。本文从真实场景出发，给出切换模型、重启对话、人肉根因分析等可操作策略，帮你跳出修复陷阱。
2026-06-14 00:33:23
717
原创 别再死磕Prompt！RAG精度90%靠检索，阿里云ACP 6节课浓缩9条生产铁律
阿里云ACP大模型学习资料C2中6节课提炼RAG核心9法则，附LlamaIndex代码、Ragas评测与排查清单，吃透问答系统实战。
2026-06-10 09:53:44
452
原创 Langchain：22年的老古董，现在都不知道是什么？一千字带你通关
LangChain是LLM应用编排框架，涵盖核心组件、RAG检索增强、Agent智能体、LangGraph工作流等全栈技术
2026-06-07 23:33:52
181
原创 别急着写Agent代码，90%的人卡在大模型认知上
智能体开发前必看：从大模型演进、Decoder-Only架构到提示工程、函数调用，帮你建立Agent开发的完整认知底座，少走弯路。
2026-06-01 13:59:31
249
原创 129 行 Python，手写一个 AI 智能体
LLM 驱动的智能体远没有你想象的复杂。一百行代码，从零实现 ReAct 范式，看完就能自己写一个。
2026-06-01 01:33:07
255
原创 DeepSeek官方没告诉你的秘密：这个开源项目靠“缓存优先“架构让AI编程成本暴跌80%
DeepSeek-Reasonix是一个围绕prefix-cache机制构建的生产级AI编程智能体，通过"缓存优先循环"架构将长会话token成本降低50%-80%。项目独创三层工具调用修复管道（Scavenge/Truncation/StormBreaker）解决R1模型的不确定性问题，采用事件溯源、端口-适配器等工程模式实现高可维护性。本文深度解析其架构设计，为构建可靠AI智能体提供实践参考。
2026-05-29 20:59:03
924
原创 不卷算法、不写论文：2026年AI应用开发正在疯狂招人（附50+真实JD分析）
《2026年AI应用开发/智能体开发岗位调研报告》摘要 本报告基于2026年主流招聘平台数据，揭示AI应用开发和智能体开发已成为技术领域最热门方向。核心发现： 岗位需求激增，60%岗位仅需本科学历，Python(100%)和LangChain(80%)是必备技能； 薪资范围：应届8k-15k，3年经验可达20k-40k； 典型技能组合：Python+RAG+LLM应用+FastAPI，Dify等低代码平台快速崛起； 中小企业更重实操能力，项目经验可弥补学历短板； 建议学习路径：Python基础→LangCh
2026-05-28 18:17:02
3850
原创 免费的阿里云ACA大模型认证：锦上添花，还是雪中送炭？
2026年AI岗位增长8.7倍，但提示词工程师已锐减70%。阿里云ACA认证——零基础入门雪中送炭，有基础者锦上添花。但证书无法替代项目经验与编程能力。AI学得比你快，不必追赶，但要学会审视。持续审判性地学习：技术只是方法，解决真实需求才是目的。保持怀疑，保持审判——这才是白嫖之外最值钱的东西。
2026-05-26 01:32:52
1121
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人