后端架构师,带过三条业务线的服务拆分。
从单体拆到三十多个服务,那是我引以为豪的战绩。高内聚低耦合、独立部署、故障隔离——这套我讲了五年,新人培训第一课就是它。有同事开玩笑说我是"拆服狂魔",我也不恼,因为拆得确实稳。
今年上半年带一个内部AI助理的项目,做到第三周,我第一次对自己这套信仰动了摇:有些服务,是不是我当年拆多了?
一、让我动摇的那个晚上
AI助理要接大模型,做RAG:把公司文档切块、Embedding进向量库,用户提问先检索、再让模型生成,还要带引用来源、支持多轮追问。
按我老习惯,第一版设计稿唰唰画了一排服务:文档解析服务、向量检索服务、对话服务、工具调用服务、历史记录服务……每个独立部署,靠RPC调来调去,清清爽爽。
我甚至给每个服务都配了独立数据库和CI流水线,拆分细到连一个解析格式的小功能都要单独成服务。当年我觉得这叫专业,现在回看,有点走火入魔。
结果联调那天翻车了。
用户问一个问题,请求在五六个服务之间跳一圈,光网络往返就吃掉几百毫秒。模型本来在流式吐字,前面这串调用一卡,前端收到的第一个token晚了快一秒,体验特别糟。更要命的是Agent部分:模型要自己决定调哪个工具、走哪步,这串编排逻辑散在好几个服务里,调试时我追着调用关系满世界找状态,头都大了。
那天晚上我干了件五年没干的事:把"文档解析"和"向量检索"两个服务合并成一个。检索和生成本来就该贴着跑,中间插一道网络调用纯属自找麻烦。合并完,首字延迟直接降了一大截。
二、哪些场景我开始重新看拆分粒度
倒不是后悔拆微服务了。是有些AI相关的场景,老的拆法不灵,我得重新掂量。
第一种,延迟敏感的流式路径。模型流式输出最怕中间多跳。以前一个请求过三四个服务觉得正常,现在只要路径上有AI生成,我就尽量把检索、生成、后处理塞进一个服务,让它们同一进程内完成,别隔着网络喊话。
第二种,Agent自己当编排者的时候。传统做法里,业务流程是一堆服务互相调出来的。但Agent模式下,规划、决策、调工具这套逻辑,很大一部分住在了prompt和工具定义里,不在服务划分里。我原来拆很细的"下单服务"“通知服务”,在AI路径里退化成了Agent能直接调的工具。边界还在,但"谁主导流程"这件事变了。
第三种,上下文和状态的管理。多轮对话要维护历史、管上下文窗口、存中间步骤。这些状态放哪?我试过放独立状态服务,后来发现,只要AI路径一复杂,状态服务和生成服务之间的同步就成了新噩梦。现在我把AI会话相关的状态收拢到靠近模型那一侧,省得来回搬。
第四种,工具调用的可观测性。Agent调工具的次数一多,出错了你根本不知道是哪一步跑飞。我后来给AI路径单独接了一套调用追踪,把每次工具调用、每次模型返回都留痕。这事儿在传统微服务里靠现成方案就能做,但在AI路径里,得把"模型的思考步骤"也当成要记录的对象,不然排查全靠猜。这套追踪如果也拆成独立服务,反而把最该挨着模型的数据推远了。
三、但我不打算走向另一个极端
有朋友看了我的改动,半开玩笑:“你这是要回归单体啊?”
真不是。
该拆的我还是拆。像鉴权、限流、计费这种高并发、无状态、要独立扩缩容的服务,微服务那套一点没过时。AI再猛,也不会让"大促时把订单服务多开十台"变多余。我们这次AI助理项目,文档问答那条线我收了,但订单、支付、用户中心这些,纹丝没动,该独立还是独立。
我现在的判断就一句话:拆不拆,看这条路径吃不吃"跨服务调用的延迟"和"分布式状态同步"这两块亏。
纯AI编排、强依赖流式、状态黏在一起的路径,能收就收,别为架构好看硬拆。剩下的,沿用老办法,稳得很。
AI没让我那五年白干。它只是逼着我去想:以前见复杂就拆,现在得先问一句——这地方拆了是更清晰,还是只是更碎?
四、一点真心话
我不鼓吹谁该把服务合并,也不说微服务过时了。这事儿没有标准答案,全看你的业务长啥样、流量怎么走。
我自己的变化很具体:从前碰新需求,第一反应是"拆个服务出来";现在会先停一下,想想这块是不是本该跟模型贴在一起跑。
五年拆出来的经验没废,它现在教我的,是知道什么时候该收手。
我们组老周前阵子把他那条线也并了两个服务,效果不错。但你也别照抄,他的场景和我的不一样,照抄准踩坑。
你们做AI项目时服务怎么拆的?评论区说说,我也想听听别的踩坑法子。
想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2025 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享!
👇👇扫码免费领取全部内容👇👇

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势
想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI:
1. 100+本大模型方向电子书

2. 26 份行业研究报告:覆盖多领域实践与趋势
报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

- 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
- 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
- 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
- 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。
3. 600+套技术大会 PPT:听行业大咖讲实战
PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

- 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
- 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
- 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
- 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。
二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走
想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位
面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析:

2. 102 道 AI 大模型真题:直击大模型核心考点
针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题
专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:

三、路线必明: AI 大模型学习路线图,1 张图理清核心内容
刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

L1阶段:启航篇丨极速破界AI新时代
L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段:攻坚篇丨RAG开发实战工坊
L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段:跃迁篇丨Agent智能体架构设计
L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

L4阶段:精进篇丨模型微调与私有化部署
L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

L5阶段:专题集丨特训篇 【录播课】

四、资料领取:全套内容免费抱走,学 AI 不用再找第二份
不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:
👇👇扫码免费领取全部内容👇👇

2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!
814



被折叠的 条评论
为什么被折叠?



