小李子-二货-优快云博客

原创年轻时不做会后悔的八件事

人生总是充满遗憾：Life is filled with regrets.Life is filled with regrets. Ask anyone around you what their regrets are and they usually have no difficulty coming up with many items on their “regret list.” And for some reason our twenties are ripe for a field o.

2021-02-18 16:25:49 4281 15

原创可观测性工具链的AI辅助排障演进与落地

日请求百万级的延迟敏感在线服务，排查一次核心链路故障的平均耗时曾达47分钟——这是某头部电商服务团队的真实运维数据。该场景下，传统可观测性工具的核心矛盾是：日志、指标、链路的孤立性，与根因定位的关联性需求不匹配。

2026-11-03 09:43:20 135

原创离线批处理向量检索：Milvus与Qdrant的选型落地手册

离线批处理向量检索（Offline Batch Vector Search, OBVS）：针对非实时、固定时间窗口、无用户交互的批量向量查询任务，核心要求为高吞吐、低单位查询成本，可接受分钟级延迟，典型场景如跨批次用户特征聚类、商品批量相似性匹配、AI模型预推理结果批量检索。选型结论：离线批处理场景优先选Milvus 2.5，Qdrant 1.13仅适用于单批次小于10万的任务核心配置设为5000，开启LZ4压缩，启用冷存储参数调整顺序：先优化批量查询吞吐，再优化存储成本常见坑规避。

2026-10-31 10:21:32 123

原创边缘 AI 推理架构：本地模型与云端协同的工程边界

边缘 AI 的核心问题不是“能不能在设备上运行模型”，而是。把一个 7B 模型部署到边缘节点并不等于完成了边缘 AI。真正困难的是模型路由、资源隔离、数据安全、版本治理和网络中断后的降级策略。本文以 Ollama + Qwen 本地推理为例，拆解边缘 AI 的架构边界、关键机制和工程落地路径。

2026-10-28 09:51:24 48

原创 RAG向量检索：从单库起步到Milvus迁移

RAG 项目最容易做错的选型，不是“向量库够不够快”，而是把检索问题误判成了数据库问题。AI 应用的核心不是保存向量，而是在权限、时效、召回率和延迟之间持续取得平衡。

2026-10-22 10:15:09 176

原创 Kubernetes 上 AI 推理服务的 GPU 调度与隔离

GPU 调度成功，不等于 AI 推理服务可用。模型可能因显存不足启动失败，也可能因并发过高导致 P99 延迟失控。把推理服务部署到集群，真正困难的是把 GPU 资源、模型生命周期和请求流量放进同一个调度模型。

2026-10-21 14:32:24 55

原创 WebAssembly AI推理学习路线与工程边界

在实际项目中，你更倾向于让 Wasm 承担完整推理，还是只负责 Tokenizer、预处理和插件隔离？

2026-10-20 16:37:30 81

原创 Flutter端云协同推理架构解析

推荐项目：Flutter 拍照识别设备铭牌，端侧 OCR 提取文本，云端向量检索维修手册，大模型生成步骤，端侧缓存最近结果并支持离线兜底。进阶资料应优先看三类：Flutter isolate 与 platform channel 文档、TensorFlow Lite 移动端部署文档、Milvus/Qdrant 的索引与过滤查询文档。不要一开始就沉迷大模型 API，端云协同的工程难点更多在链路边界和失败处理。

2026-10-15 09:23:42 116

原创可观测性工具链的AI排障选型

AI 正在改变可观测性的使用方式：从“人查图表”转向“系统组织证据，人审核决策”。但前提是遥测数据完整、上下文清晰、输出可验证。对 Kubernetes 1.32 + GPU Operator 集群，最稳妥的路线是先打牢 OpenTelemetry、Prometheus、Loki、Tempo 和 DCGM，再把 AI 放到排障推理层。你所在团队的可观测性系统，最缺的是数据采集、事件关联，还是可执行的 Runbook？

2026-10-12 14:28:03 89

原创 Rust 重写 AI 基础设施的工程逻辑

Rust 在 AI 基础设施中的趋势不是替代 Python，而是接管数据路径、服务控制面、插件边界和长期运行组件。判断是否使用 Rust，要看瓶颈是否稳定、是否批量化、是否处在高并发或强安全边界上。一个值得讨论的问题是：你的 AI 系统里，最该先从 Python 迁出的部分是数据预处理、推理网关，还是向量检索链路？

2026-10-12 11:31:30 217

原创升PG18后，我少用了一套向量库

很多 AI 应用需要的不是更炫的向量系统，而是能和业务数据长在一起的检索能力。我的争议性判断是：未来三年，80% 的企业内部 RAG 不需要先上专用向量库，先把 PostgreSQL 18 + pgvector 用对，收益更大。你们项目里的向量检索，是已经拆成独立向量库了，还是还压在 PostgreSQL 里？真正踩坑的是性能、召回，还是运维复杂度？

2026-10-10 14:33:53 161

原创 AI Agent 面试核心机制拆解

学 Kubernetes 1.32 的调度、资源限制、HPA/KEDA 思路，以及 NVIDIA GPU Operator、DCGM Exporter、vLLM 等推理基础设施。动手项目可以从一个“只读型 Kubernetes 排障 Agent”开始：只允许查询 Pod、Event、Log、Metric，不允许写操作。等观测、审计和评测稳定后，再增加建议生成和审批执行。Agent 面试的核心不是背框架名，而是说明白：状态如何管理、工具如何约束、失败如何恢复、生产环境如何部署。

2026-10-10 11:17:01 151

原创 2026还只上云？边缘AI要淘汰你

2026 年以后，“所有 AI 都上云”会越来越像一种偷懒架构。它能快速上线，但很难长期控制成本、延迟和数据风险。边缘 AI 不会替代云，但会重新划分云的边界。真正的问题是：你们现在的 AI 架构，是不是已经默认“网络永远可用、云端永远便宜、数据永远能传”？如果不是，你们准备把哪一部分推理下沉到边缘？

2026-10-09 11:11:28 200

原创 2026还人肉看日志？AI排障变天了

很多厂商把 AI Observability 做成了“帮你总结这段日志”。这不够。识别异常窗口：例如 14:03 到 14:11 P99 从 1.2s 涨到 4.8s找关联信号：同窗口 GPU 显存、batch size、queue wait、错误码是否变化生成假设：可能是批处理队列堆积，或 KV cache eviction 增加回查证据：查 Trace span、日志字段、Metrics输出下一步动作：扩容、限流、调 batch、回滚版本。

2026-10-08 14:45:37 167

原创 3个信号：AI基建正在转向Rust

我的判断很直接：到 2026 年，Rust 不会取代 Go 成为云原生默认语言，但会成为 AI 基础设施里“性能敏感层”的默认选择。这里说的不是“Rust 很快”这种老话，而是 AI 基础设施正在把 Rust 推到更靠前的位置：推理网关、向量数据库、GPU 调度边车、模型缓存、数据平面、安全沙箱、WASM 运行时，都在重新评估语言栈。

2026-10-08 11:39:27 383

原创为什么WASM推理还跑不快？

同一个小模型，在 Python 服务里 40ms，塞进 Wasm 运行时后变成 120ms。很多团队第一反应是：WASM 不适合 AI 推理。这篇不是前端 WASM。我们只谈服务端、云原生、AI 推理。

2026-10-07 18:16:26 350

原创感悟-生活

1.对任何人都怀有互利共赢的心态。2.努力到无能为力，拼搏到感动自己3.人脉的实质是人情的消耗和利益的交换，提高自己比广泛社交更高效、半衰期更长。4.尊重游戏规则。5.能够生存下来的物种,并不是那些最强壮的,也不是那些最聪明的,而是那些对变化作出快速反应的。...

2021-03-16 10:58:32 154

qq_34115308的博客