自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(28)
  • 收藏
  • 关注

原创 从“会诊断”到“能验证”:AI FaultLab 的修复验证闭环设计

AIFaultLab v0.15.0聚焦于“可验证修复”,突破传统AI诊断仅输出自然语言建议的局限。通过结构化修复计划(RemediationPlan)、受控反事实回放(CounterfactualReplay)与真实指标对比,系统在相同故障条件下验证修复效果,实现Before/After Metrics比对与自动验证。核心创新在于:拒绝模型自定义参数与验证规则,坚持deterministic执行与证据驱动判断,最终输出VERIFIED/PARTIALLY_VERIFIED等四类状态报告。

2026-09-28 22:38:43 376

原创 一篇文章讲清楚 RAG 系统的完整工程链路

本文系统梳理了RAG(检索增强生成)技术的完整工程实现链路。RAG通过结合外部知识库检索与大模型生成,解决了模型知识时效性、私有知识覆盖和幻觉三大核心问题。文章从离线知识库构建(文档解析、智能切片、向量化入库)和在线问答流程(查询改写、混合检索、精排、生成控制)两大阶段展开,详细分析了每个环节的技术要点与工程挑战,包括文档预处理质量、Chunk切分策略、Embedding模型选型、多路召回融合、Prompt工程等关键因素。同时强调RAG系统需要配套的质量评估体系、知识动态更新机制和工程治理能力(如状态管理、

2026-08-24 13:22:33 364

原创 AI FaultLab:“下游调用韧性”场景(接口超时、重试风暴、熔断器打开)

在前面几个版本里,AI FaultLab 已经覆盖了 MQ 堆积、线程池饱和、幂等冲突、缓存故障、数据库瓶颈这些比较典型的后端问题。做到这里以后,其实项目已经能展示一条比较完整的故障排查链路了:触发故障、采集指标、记录 Trace、规则诊断、构造证据包,再交给 Runbook RAG 和 AI 诊断报告做进一步分析。但如果只到数据库为止,系统稳定性的覆盖还是少了一块。真实的后端服务很少是孤立运行的,一个接口背后经常会调用支付、风控、库存、用户、消息、第三方平台等下游服务。

2026-08-14 22:21:14 305

原创 AI FaultLab:数据库瓶颈场景(慢SQL+锁竞争+连接池耗尽)

AIFaultLab v0.10.0版本聚焦数据库层故障场景,新增慢SQL、锁竞争和连接池耗尽三种典型问题。该版本采用进程内模拟而非真实压测,通过参数化控制实现稳定复现。每个场景设计了针对性指标体系和诊断规则,并整合到现有故障演练链路中,形成从现象观测到AI诊断报告的闭环。项目现已覆盖MQ、线程池、缓存、数据库等核心后端故障类型,后续将完善故障传导场景并优化产品化展示。这一版本强化了平台"可复现、可观测、可诊断"的核心定位,为构建完整的后端故障诊断平台奠定基础。

2026-08-12 17:20:48 363

原创 AI FaultLab:给 RAG 检索加上回归验证

本文介绍了在AIFaultLab项目中实现RAG回归验证的方法。作者指出单纯依赖最终回答质量无法判断检索链路问题,因此将RAG评测拆分为独立环节,重点关注检索效果而非LLM生成。文章详细说明了三个核心评估指标(Hit@K、Recall@K、MRR)的计算方法和工程意义,并分享了如何建立9个测试用例的基准评测集,通过docId+section的严格匹配标准确保评估准确性。作者还阐述了将BM25-like检索器作为CI回归门禁的设计考量,包括稳定性、分层验证策略等工程实践要点。这套方案将主观判断转化为量化指标,

2026-08-09 10:56:29 367

原创 AI FaultLab:给 Hybrid RAG 补上检索评测闭环

本文介绍了AIFaultLab项目中为RAG(检索增强生成)系统构建的基础评测能力。针对现有HybridRetrieval(结合Milvus向量召回、BM25关键词召回和RRF融合)方案,作者设计了包含9个故障案例的评测集,采用docId+section的严格命中标准,实现Hit@K、Recall@K和MRR三项核心指标,支持通过CLI/API进行多检索器对比测试并生成Markdown报告。该评测系统独立于LLM生成链路,聚焦检索效果评估,能识别特定故障类型的召回弱点,为后续优化提供量化依据。当前版本虽案例

2026-08-01 17:08:14 291

原创 AI FaultLab:RAG 在线检索链路的设计思考-Hybrid Retrieval

AIFaultLab的RAG在线检索链路实现了故障诊断的智能化闭环。系统通过结构化证据构造检索Query,并行执行Milvus向量检索和BM25-like关键词检索,采用RRF算法融合结果并轻量rerank,将Top3相关Runbook片段注入Prompt。大模型基于证据和检索结果生成诊断报告后,系统会校验JSON格式及引用合法性,确保输出有据可依。设计上兼顾语义与精确匹配,多层降级机制保障稳定性,当前已完成包含混合检索、结果融合、引用校验等核心环节的初级工程闭环,使AI诊断兼具专业性和可解释性。

2026-07-31 20:57:43 297

原创 AI FaultLab:RAG 初级阶段的搭建

文章摘要:AIFaultLab将RAG技术作为故障诊断的关键中间层,构建了一个工程化解决方案。通过结构化故障证据与Runbook排查手册的向量化检索,确保大模型输出的诊断结果具有可追溯性。系统采用Markdown文档管理、基于section的内容切分、Milvus向量存储等轻量级方案,并实现了索引治理、多级降级和引用校验机制。当前版本虽未实现完整Hybrid检索,但已形成包含离线索引、在线检索、结果验证的工程闭环,在保障系统稳定性的同时,显著提升了AI诊断的准确性和实用性。

2026-07-30 20:07:53 330

原创 AI FaultLab:故障演练 Agent 的设计思路

本文介绍了构建后端故障诊断型Agent的工程化实践。设计核心在于构建稳定、可控的诊断流程,而非依赖大模型的自由发挥。系统采用分层设计:首先通过规则引擎和证据包(EvidencePackage)收集确定性指标,再交由大模型在约束条件下生成结构化JSON报告。关键设计包括:严格Prompt约束确保输出基于证据、JSON解析和fallback机制保障服务可用性、模型路由(ModelRouter)按任务复杂度选择合适模型。当前系统已实现从故障演练到诊断报告生成的完整链路,未来计划引入RunbookRAG增强诊断能力

2026-07-29 15:42:41 314

原创 轻量级链路追踪实践:异步场景下 traceId 为什么会断裂?

本文记录了作者在开发后端故障演练平台时遇到的链路追踪(Trace)问题。最初设计的轻量级Trace系统在同步调用中工作正常,但在异步场景下出现Trace树为空的情况。问题根源在于:1)实验启动入口与自动生成的traceId未统一;2)ThreadLocal存储的TraceContext无法跨线程传播,导致MQ消费和线程池任务生成独立traceId。 作者分析了当前设计的合理性,认为这是从Demo走向工程化的必经阶段。解决方案包括:统一入口创建TraceContext、使用TaskDecorator传播线程池

2026-07-28 15:51:21 357

原创 从 0 实现轻量级 Trace

本文介绍了在AIFaultLab故障演练平台中实现轻量级Trace系统的设计思路。该系统通过traceId串联完整链路、spanId标记步骤节点、parentSpanId还原调用关系,实现了实验过程的可观测性。采用@TraceSpan注解和AOP切面技术自动记录方法调用信息,避免侵入业务代码。Trace数据写入数据库后可按traceId聚合为调用树,支持故障诊断分析。系统核心特点是:Trace作为旁路能力不影响主流程,通过ThreadLocal管理上下文并确保线程安全,异常处理不改变业务语义。当前方案已支持

2026-07-27 20:18:47 172

原创 为什么 Agent 系统一定需要状态管理

摘要: Agent系统必须进行状态管理,因为它本质上是多步骤、动态决策的任务流,而非单次模型调用。状态管理解决以下核心问题:1) 记录执行进度,确保中断后可恢复;2) 追踪工具调用(成功/失败/重试),提升可观测性;3) 避免重复执行和结果混乱;4) 支持异步任务生命周期管理;5) 为推荐结果提供可解释的业务依据;6) 维护权限和安全边界。工程实践中,需通过数据库持久化任务状态(如PENDING/TOOL_CALLING/SUCCEEDED)和步骤轨迹,结合Redis缓存加速查询。

2026-07-25 16:03:17 284

原创 缓存空值不够用时,试试布谷鸟过滤器

本文探讨了在高并发读链路中使用布谷鸟过滤器解决缓存穿透问题的实践经验。针对随机非法ID请求穿透缓存直接访问数据库的问题,作者分析了缓存空值方案的局限性:无法应对随机ID且污染Redis。布谷鸟过滤器通过在Redis前增加存在性预判层,有效拦截明确不存在的请求(允许少量误判),与多级缓存形成完整防护体系。相比布隆过滤器,它支持动态删除的特性更适合业务数据变更场景。实施中需注意过滤器与业务数据的同步维护、误判处理及降级策略。该方案特别适用于高频读、ID集合明确、非法请求多的场景,与缓存空值形成互补,最终实现无效

2026-07-23 18:39:54 212

原创 本地生活系统接入 Agent 推荐:工具接口、异步任务与交易链路解耦

文章摘要: 本文探讨了在本地生活服务中引入AI推荐Agent的设计思路,核心原则是让AI仅负责推荐决策,不介入交易链路。设计要点包括:1) 通过封装受控工具接口替代模型直连数据库,确保数据权限与查询安全;2) 严格分离推荐链路与交易链路,保障主业务稳定性;3) 采用异步任务模式处理耗时推荐请求;4) 设计结构化工具接口与JSON格式输出,提升可控性;5) 通过鉴权、日志、结果校验和降级策略确保系统可靠性。该方案在保留自然语言理解灵活性的同时,明确了AI的边界角色——作为增强体验的辅助决策层,而非核心交易系统

2026-07-22 14:33:53 171

原创 秒杀库存扣减与异步下单:Redis Lua、消息队列和幂等消费的工程取舍

秒杀系统设计中,库存扣减与下单分离的核心逻辑如下: 分层抗压设计 Redis层:通过Lua脚本实现原子化预扣减库存(校验+扣减+防重) 消息队列:承接成功请求实现异步削峰 数据库层:最终一致性落库 关键优势 避免数据库直接承受瞬时峰值(Redis拦截90%无效请求) 异步处理保证系统吞吐量 双重库存校验(Redis预扣+DB最终扣减)确保数据准确 容错机制 Redis预扣失败立即终止流程 MQ发送失败触发Redis回滚 消费者端实现幂等处理 数据库通过条件更新兜底 这种设计通过空间换时间,用最终一致性替代强

2026-07-19 07:56:56 210

原创 高并发读接口的缓存链路设计:从 Redis 到本地缓存,再到热点保护

本文探讨了高并发读接口的缓存设计优化路径。以活动资源查询场景为例,从数据库直查逐步升级为多级缓存架构:通过Redis分布式缓存减少数据库压力,增加本地缓存降低Redis访问频率,并针对缓存穿透(布谷鸟过滤器)、雪崩(TTL随机化)、击穿(互斥锁/逻辑过期)等问题设计防护机制。文章重点分析了本地缓存带来的数据一致性问题及解决方案,比较了互斥锁与逻辑过期的适用场景,最终形成包含参数校验、过滤器、本地缓存、Redis和数据库的分层保护体系。作者强调缓存设计需平衡性能、一致性和可用性,并指出后续可通过热点监控、缓存

2026-07-17 10:57:16 378

原创 报表慢 SQL 优化实践

本文总结了报表慢SQL优化的系统性实践方案。通过分析一个典型报表查询性能问题,揭示慢查询通常由多因素叠加导致:时间字段函数处理、大范围扫描、冗余聚合、子查询及历史数据膨胀等。文章提出五维优化策略:1)SQL语义收敛,避免DATE()函数导致索引失效;2)扫描范围收敛,精准控制时间查询;3)执行成本收敛,去除不必要聚合;4)索引路径收敛,设计(user_id,create_time)等联合索引;5)数据生命周期收敛,实施冷热分离与分区策略。最终将分钟级查询优化至秒级,并为应对数据持续增长提供了预聚合、OLAP

2026-07-14 11:03:04 369

原创 本地生活系统接入 AI 工作流服务:从单轮调用到任务化编排

主业务系统负责数据、权限、任务和结果AI 工作流服务负责理解、编排、调用工具和生成结果数据库负责持久化任务状态缓存负责加速热点数据消息队列作为后续可靠异步的扩展方向第一阶段从探店推荐切入,是因为这个场景数据基础足够、业务风险较低、推荐结果也比较容易解释。哪些数据能给 AI 看哪些接口能被 AI 调哪些事情一定不能让 AI 做任务失败后系统怎么恢复结果怎么落库和追踪把这些问题想清楚以后,AI 工作流服务才不是一个外挂聊天框,而是真正可以接入业务系统的一层能力。

2026-07-12 10:56:57 200

原创 Spring 线程池异步任务治理实践

文章摘要: 本文分享了Spring线程池异步治理的实践经验,针对PDF处理、OCR识别等耗时任务场景,提出多线程池拆分方案。核心观点包括:1)按任务类型(OCR、计算、重试等)隔离线程池,避免资源竞争;2)区分@Async(方法级异步)与CompletableFuture(任务编排)的使用场景;3)特别强调PDF主/子任务需拆解到独立线程池,防止线程饥饿;4)拒绝策略需结合任务重要性选择CallerRunsPolicy或AbortPolicy;5)通过监控线程池指标实现运行状态可视化。最终实现不同任务资源隔

2026-07-11 10:01:02 256

原创 百万级 JSON 数据同步优化:游标分页、分批聚合与断点续传

本文记录了一次百万级 App 埋点数据同步任务的优化过程。原方案采用全量加载,导致 JVM 内存占用过高并出现 OOM;改用 Offset 分页后,又遇到深分页越往后查询越慢的问题。最终通过 ID 游标分页、固定全量同步边界、分批局部聚合、批量 upsert 以及 checkpoint 断点续传,实现了内存可控、失败可恢复和结果不重不漏。优化后任务可以稳定完成,实际耗时约 1.5 小时。

2026-07-10 15:13:38 233

原创 大 PDF 处理为什么不能只加线程池:页级拆分、异步编排与断点续传实践

不建议直接使用 Spring 默认线程池。PDF 拆页属于资源消耗比较明显的任务,既有文件 IO,也有图片渲染。如果和普通业务异步任务共用线程池,很容易把其他任务一起拖慢。核心线程数最大线程数队列容量线程名称拒绝策略这样即使短时间内上传了多个大 PDF,也能限制并发规模,避免把服务器资源一次性打满。大 PDF 的异步治理,真正困难的地方并不是怎么创建线程,而是怎么划分任务。如果仍然把整本 PDF 当成一个任务,即使放到线程池里,也只是把“同步阻塞”变成了“后台串行”。并发处理第一页优先。

2026-07-07 11:02:12 184

原创 RAG 工程化实践:如何避免半成品文档进入在线召回

这次 RAG 优化给我最大的体会是,RAG 的问题不一定首先出在模型或向量库。在线和离线没有解耦文档状态不可控半成品数据提前可见异常没有降级召回结果没有过滤优化效果无法评测如果这些基础问题没有解决,即使换了更好的 embedding 模型,或者把topK调得更大,整体效果也不一定稳定。先把工程边界立住再保证数据状态可控然后提升检索质量最后建立评测闭环。

2026-07-04 16:32:47 241

原创 一次 MySQL Docker 容器日志爆满引发的登录超时排查

这次故障表面上是业务系统登录超时,最终定位到 MySQL Docker 容器日志异常增长。进一步排查发现,日志暴涨不是由数据迁移、general log 或 slow query log 引起的,而是 MySQL 中有一个线程长时间卡在,并持续触发 InnoDB 文件读取错误。由于KILL无法及时释放该线程,最终在完成备份后重启 MySQL 容器,异常线程被清理,数据库和业务系统恢复正常。登录超时不一定是登录接口的问题,容器日志、数据库线程、磁盘资源都可能是根因。

2026-07-03 09:49:30 245

原创 从“日志各打各的”到“链路一眼定位”:Java 端与 Agent 端如何统一错误日志和可观测性

errorCode 错误码,表示具体错误类型errorStage 错误阶段,表示失败发生在哪一层retryable 是否可重试message 面向开发者的错误描述details 扩展信息这样 Java 端就不需要再解析字符串,而是可以直接根据字段处理。说明是验证码失败,可以记录为外部站点挑战失败说明结果校验失败,不应该直接入库说明请求参数本身不合法,通常不应该重试说明可以进入重试队列或等待下次调度这一步的价值是:把“人肉看日志”变成“系统可识别的错误语义”。

2026-07-02 11:39:05 347

原创 浅谈我对幂等的理解:从 Redis 防重到资金级幂等

从 Redis 防重到资金级幂等

2026-06-25 14:28:28 214

原创 通用高耗时请求问题与解决思路(504 Gateway Timeout:网关等待上游服务超时)

测试环境正常的上线接口偶发502/504超时问题,通常源于后端同步处理重计算任务。主要诱因包括:全量查询范围过大、多入口重复触发慢查询、缓存缺失或数据增长导致原查询超时。解决方向应聚焦:1)异步化重计算,预缓存结果;2)多入口共享缓存;3)设置短TTL;4)降级兜底(返回旧值/空结果);5)拆分复杂查询。核心原则是避免同步链路过载,通过缓存复用、预热和异步拆分提升稳定性,而非单纯扩容同步处理能力。

2026-06-16 11:14:15 268 2

原创 动手学深度学习pytorch版:can‘t convert np.ndarray of type numpy.object_. The only supported types are: float6

在2.2.3节转换张量格式中一段代码运行报错“can't convert np.ndarray of type numpy.object_. The only supported types are: float64, float32, float16, complex64, complex128, int64, int32, int16, int8, uint8, and bool.”所以需要先转换成numpy数组格式。

2024-09-16 18:03:34 3176 1

原创 动手学深度学习pytorch版:处理缺失值报错:can only concatenate str (not “int“) to str解决方法

这段代码的问题在于,inputs.mean()函数试图将一个字符串()直接相加或连接,但这两个类型之间不能直接进行这样的操作。我们只对第一列的数字做缺失值处理,因为数字可以取平均值。

2024-09-16 17:10:52 655

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除