Serverless 微服务治理神器: 阿里云 SAE 全链路灰度揭秘

作者:丛霄、章进、十眠

微服务架构下的灰度发布

微服务链路的复杂性

微服务典型的业务架构模式具有松耦合,可被独立开发、部署以及扩缩容等特点。在项目初期,整个业务规模较小,整个系统还在有条不稳地设计测试运行,服务间的调用关系也比较明确。随着业务规模逐渐扩大,链路调用关系越来越复杂,整个系统的稳定性变得岌岌可危。

其中生产发布灰度过程作为稳定性中重要的一环而备受关注,复杂的功能要能支持完备的灰度能力。面对复杂的微服务调用链路环境,为保证稳定性,业务的上线前往往需要经过详细的测试和漫长的灰度,很多情况下尽管做了详细的测试灰度,也没法保证某一些用户或场景的 Corner Case 能被完全覆盖。

天下苦灰度久矣

针对单体应用,业界有成熟的金丝雀发布和蓝绿发布的解决方案,能帮助用户做更全面的灰度发布保障,但微服务场景下,往往多个微服务应用都在并行开发、测试、灰度,并且多个业务部分之间并没有直接交集,那就很可能出现某业务出现逻辑改动造成的非预期的影响,或是参数兼容问题,或是整个链路的性能影响。

比如图中所示的业务系统,如果 S1、S5、S7、S11 都发生了变更,其中 S7 服务的逻辑变更可能导致某些场景下请求时长变慢,如果事先没有进行全链路端到端的灰度验证,直接全量更新线上,很可能会影响到用户。

这种全链路端到端的灰度验证能力,是所有微服务系统都应当具备的,也是保证服务稳定性重要的一环。阿里双 11 每年都会进行全链路压测,保证所有业务逻辑端到端的功能和性能都能平稳应对双 11 的流量洪峰。正是这种全链路灰度的能力,让开发和运维人员从繁重和不可控的发布过程中解放出来,是实现持续交付的基础,也是安全生产的重要支撑。

SAE 全链路灰度解决方案

原理介绍

阿里云 Serverless 应用引擎(简称 SAE)通过集成 MSE 微服务治理能力,支持在 SAE 应用无缝使用全链路灰度功能。其中要怎么实现灰度环境的隔离是需要考虑的问题。常见的隔离方式分为物理隔离和逻辑隔离,

  • 物理隔离: 这种方式会搭建一套独立的网络、计算资源环境去部署灰度的服务,常见于企业的测试开发环境,但对于线上灰度的环境,因为两套独立的环境很难完全保持一致,一般灰度环境和线上都会在同一套物理环境中。

物理隔离

  • 逻辑隔离: 基于流量染色和分布式链路追踪技术,流量在微服务分布式环境中流转时,可以识别出灰度的流量,并且根据具体灰度规则做出动态流量路由。这种方式可以在线上环境逻辑隔离出灰度环境,并自动将满足条件的灰度流量引入灰度环境进行验证,帮助开发运维同学实时快速地对线上流量进行精细化全链路控制。

逻辑隔离

全链路灰度中的关键概念。

  • 基线应用:在 SAE 生产环境中的应用,可以称作基线应用,当应用没有对应的灰度版本时,流量会默认路由到基线应用。
  • 灰度应用:SAE 可以基于基线应用手动复制出一个灰度应用,它与基线应用在同一个命名空间,使用同一套应用配置(包括注册中心等),除了计算资源是新建出来的,其他都是复用的基线应用的。
  • 灰度标签:灰度标签用于定义隔离的逻辑灰度环境,平台会自动识别应用的灰度标签,将具有同一灰度标签的应用都划分为同一分组。
  • 泳道:基于灰度标签串联微服务调用链路的流量通道,同一灰度环境,需要设置不同灰度规则,就可以创建多个泳道。
  • 泳道组:泳道的集合,一个泳道组下可以创建多个泳道。不同的泳道组对应不同的灰度环境,可以包含不同的灰度应用。泳道组的作用主要是为了区分不同团队或不同场景。

SAE 上的微服务全链路灰度基于逻辑隔离的原理,通过一键创建与生产环境配置一样的灰度应用,可快速支持用户构建起全链路的灰度场景。如下图所示,在命名空间 prod 下,我们可以搭建起线上灰度的链路,用于实际生产发布时候的灰度验证。而在命名空间 dev,我们也可以利用灰度应用的逻辑隔离能力,搭建多套开发环境,这样其实免去了搭建多个开发空间的资源浪费。

核心特性

SAE 下的全链路灰度围绕具体用户灰度痛点去针对性解决,具有以下核心特性:

  1. 全链路灰度支持多重灰度策略并行,满足多种业务灰度场景: 通过创建不同的泳道组,实现不同的灰度规则,比如通过比例灰度,可以将一定比例的流量引入灰度环境;而按内容灰度可以基于 HTTP 请求 Header、Cookie、Query、Body Content 等内容进行识别,如果满足灰度条件,则会将流量自动导入到灰度环境中。
  2. SAE 支持灰度应用的一键创建、启停能力,如果在非灰度状态,可以将灰度应用全部关停,需要再次灰度时,可以将灰度应用重启启动,这样无需用户单独创建灰度隔离环境,大幅降低机器/运维成本。
  3. 基于 Java Agent 技术无侵入式支持灰度流量感知与路由, 业务方不需要修改任何一行代码,即可在近 5 年的微服务框架 Spring Boot、Spring Cloud、Dubbo 上直接使用全链路灰度的能力。
  4. 全链路灰度和链路可观测相结合, 方便用户灰度过程中观测流量的具体分发情况,这对观察线上灰度情况直观重要。

操作实践

接下来我们介绍下在 SAE 上的使用全链路灰度的操作实践。

操作的链路架构图如下所示:其中调用链路是网关 -> A 应用 -> B 应用 -> C 应用。

步骤一:创建业务基线应用

在 SAE 控制台创建应用 A、B、C 和网关应用,这里用到的是 SpringCloud 网关。

步骤二:创建业务灰度应用

  1. 对每个 SAE 的基线应用开启为服务治理。进去应用概览-微服务治理,点击“开启微服务治理”。

  1. 基线应用开启微服务治理后,回到应用列表界面,创建灰度应用:

  1. 创建灰度应用的界面,这里灰度标签需要自定义:可以根据自己业务场景进行定义,这里比如设置为 g1。然后将灰度应用的镜像替换为您需要灰度发布的代码版本。

步骤三:创建灰度环境泳道组

  1. 回到 SAE 控制台的微服务治理-全链路灰度界面,点击创建泳道组,选择 Java 服务网关,泳道组流量入口选择您场景的网关应用,泳道组涉及应用选择需要包括到灰度环境中的应用。

  1. 在泳道组中创建泳道:点击创建第一个分流泳道,填写泳道信息,泳道标签可以选择之前选中到灰度环境中的应用所包含的标签。然后配置具体的灰度规则,根据业务具体逻辑,在 Path 处输入要灰度的请求路径。灰度模式可以选择按内容灰度或按流量比例灰度。如果选择内容灰度,还需要设置具体的灰度条件,即满足灰度条件的请求会被路由到灰度环境。

  1. 创建完泳道后,就可以发起请求,验证请求打到了灰度环境。如灰度规则所设置的,其中只有满足 Header 中包含 gray = gray 的请求才会落入灰度环境。
#测试命令
curl -H "gray:gray"  39.107.xxx.xxx:20000/A/a

#测试结果
Ag1[172.16.xx.xxx][config=base] -> 40ms -> B[172.16.xx.xxx] -> 17ms -> Cg1[172.16.xx.xxx]%                                                                        ➜

  1. 如下图所示,可见灰度规则是生效的。我们进一步点开流量详细,可以看到灰度标上的流量数据,便于在实际线上进行灰度操作时观察灰度的走向。

SAE 微服务治理未来展望

SAE 通过与 MSE 进行深度集成,在 Serverless 场景下为用户提供了使用微服务治理能力的最短路径。全链路灰度作为其中的重磅功能,后续还将在更多的灰度发布能力场景化集成,流量可观测等方向为用户提供更完备的应用变更体验。此外,SAE 还提供无损上下线、限流降级等核心能力,为微服务应用运行稳定性保驾护航。

SAE 会继续致力于为用户提供极简易用、成本低廉、功能强大的 Serverless 应用全托管平台:“我们希望让用户做的更少而收获更多,通过 Serverless 化,深度用云就像用水电煤一样简单”。

相关推荐

推荐一款好用的刷题工具

为了帮助正在准备求职季的开发者提升备战效率,阿里云特别推出“通义灵码陪你备战求职季”活动,精心挑选百道历史校招技术面试/笔试题,借助通义灵码智能问答、代码智能生成、代码优化等核心功能,帮助开发者更加准确地了解程序员职业所需的核心技能,加强对问题解决思维和解题能力的练习。

阿里巴巴云原生的博客 1385

通义灵码 Visual Studio 下载安装指南(附安装包)

本安装步骤适用于 Windows 10 及以上操作系统中安装和使用通义灵码。

阿里巴巴云原生的博客 4438

决策模型 Jev 可以直接上生产?用实验和公式理解 logit 调优与训练要领

本文的前半部分转载并整理自 Hamel Husain 与 Antaripa Saha 合著的《How To Use Decision Models for Evals》。后半部分是作者的一些洞见和见解。

阿里巴巴云原生的博客 68

阿里云智能体白皮书开源进展

![1](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261113183315580-502702075.png)![2](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261113183334678-741777744.png)![3](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261

阿里巴巴云原生的博客 17

万联智策基于 AgentCore 构建数字员工团队,800+智能体规模化落地

1 个智能 Leader,带领 4 个专家级智能“员工”,配套约 800 个随时可调用的 AI 数字员工,这样一个 AI 团队能帮企业做什么事?

阿里巴巴云原生的博客 198

关于 DeepSeek 的 SuperAgent,以及我们的实践

DeepSeek 的 SuperAgent 发布之后,行业内的普遍观点是 Agent 的设计基本收敛,对于我们也是一样,本文除介绍 DeepSeek SuperAgent 设计之外,会重点谈谈我们类似 SuperAgent 的技术和产品化探索。

阿里巴巴云原生的博客 105

生产更可信,订阅更耐用丨Higress 社区进展报告

阿里巴巴云原生的博客 147

让 Agent 成为企业生产力丨Alibaba Cloud AgentCore 企业智能体构建与治理沙龙·杭州站精彩回顾 & PPT 下载

近日,让 Agent 成为企业生产力丨Alibaba Cloud AgentCore 企业智能体构建与治理沙龙·杭州站圆满落幕。本场活动吸引了 100+ 名技术从业者深度参与,深度分享了企业 Agent 趋势、AgentCore 构建与治理、Agent 观测与优化、STAROps 智能运维及 AI 网关等相关议题,并设置了动手实操环节。

阿里巴巴云原生的博客 190

如何用 STAROps Elasticsearch 智能助手看穿“搜索变慢”

某电商平台的商品搜索服务使用一台 6 个数据节点的 Elasticsearch 实例。周五北京时间 20:00 起,业务陆续反馈搜索变慢。业务监控中的搜索接口 P99 从平时约 200 ms 升到 2s 以上,部分请求超时。值班工程师打开控制台:集群状态为 Green,没有未分配分片,集群平均 CPU 约 40%,乍看不像资源已经吃紧。

阿里巴巴云原生的博客 350

满帮基于阿里云 AgentCore 打造生产级 SRE 稳定性数字人

满帮基于阿里云 AgentCore 构建“稳定性数字人”:满帮提供业务知识、专业工具与处置流程,AgentCore 提供智能体运行、协作和治理支撑。数字人已在核心链路的巡检与根因分析中得到应用,受控处置能力也在持续建设,让满帮积累的稳定性能力能够在具体任务中得到复用。

阿里巴巴云原生的博客 278

稳定复现超 70% 的缺陷,报警到自动修复的 Agent 流水线实践

本文将分享我们在 PolarDB-X 团队做的一些工程实践:让 Agent 从一条报警或工单出发,自主完成排查、复现、修复和验证,再把结果交给研发评审。

阿里巴巴云原生的博客 313

从“自证清白”到“因果链条”:智能体如何重塑运维排障效率

STAROps 做全域关联分析,把范围从「五个团队依次自证清白」收拢到一条具体链路;证据指向对象存储后,OSS Agent 接手,基于真实配置、访问日志和用量数据往下挖,给出根因和支撑它的证据链。你面对的始终是一个对话框:路由归它管,说清现象、拍板方案归你。

阿里巴巴云原生的博客 148

TechTalk丨从能买奶茶到能进企业,Agent 绕不开同一组问题

史明伟所在的 Alibaba Cloud AgentCore 是企业级 Agent 构建和治理平台,为 Agent 在业务场景下的规模化落地提供基础设施,所以这场对话,他和 Datawhale 主持人从个人助理一路聊到企业 Agent:权限该怎么一步步放开?进了企业,账号打通、数据权限、沙箱隔离又会带来哪些新问题?没有强技术团队的企业,该从哪里起步?

阿里巴巴云原生的博客 220

AgentCore + Codex 构建生产级 Agent 的原理与实践

本文章演示 AgentCore[1]的自定义代码/镜像能力,目的是展示如何基于自定义的 Harness 框架(Codex) 结合 AgentCore 提供的身份、模型、工具、技能、凭证 、观测评估等能力实现一个端到端的 Agent 应用,内容包含两个部分,技术方案和实践教程,文末附相关源码和本次的测试数据,可以根据需要自行查阅。

阿里巴巴云原生的博客 193

让复杂任务由团队完成:阿里云 AgentCore 多 Agent 协作架构及实践

Alibaba Cloud AgentCore 以身份、通信、团队和任务为基础,让专业 Agent 与人类成员共同参与业务协作。企业可以按职责组合知识、工具、Skill 和模型,用任务系统持续追踪工作,再结合 AgentLoop 评估效果、优化配置。

阿里巴巴云原生的博客 383

易点天下:AI 驱动 IT 运维组织提效的实践

易点天下作为一家专注品牌全球化的营销科技公司,由智能营销、全域增长、智能变现三大引擎驱动。公司旗下拥有“整合营销服务”与“广告平台业务”两大业务线。

阿里巴巴云原生的博客 307

阿里云可观测 2026 年 10 月产品动态

阿里云可观测 2026 年 10 月产品动态

阿里巴巴云原生的博客 212

用 Nacos 3.3.0 ARD 让 Agent 按任务发现工具和 Skill

如今,工作中用 Agent 帮忙已经越来越常见。研发同学用 Coding Agent 写代码、补测试、排查问题,业务同学用 Work Agent 整理资料、分析表格、制作演示文稿。不少过去需要自己一步步操作的事情,现在可以把需求交给 Agent,让它协助完成。

阿里巴巴云原生的博客 328

HiRoute 新版本发布:结合自己的真实工作选择最佳模型

HiRoute[1]是一个开源、运行在本地的 Agent 智能路由引擎。你继续用 Codex、Claude Code、Qoder、Pi、OpenCode、Hermes、DeepSeek Harness 等熟悉的 Agent,由 HiRoute 判断每一步交给哪个模型。

阿里巴巴云原生的博客 394

用户说 App“下不了单”:用 Session Replay 看清流程卡在哪一步

Session Replay(会话回放)将采集到的页面变化重建为可回看的过程。研发可以沿着这次会话,查看操作前后的界面变化,先确认流程停在了哪里,再结合当时的事件、日志和代码检查原因。

阿里巴巴云原生的博客 56

欢迎报名丨Alibaba Cloud AgentCore 企业智能体构建与治理八城巡回沙龙 · 杭州站开启

欢迎报名丨Alibaba Cloud AgentCore 企业智能体构建与治理八城巡回沙龙 · 杭州站开启

阿里巴巴云原生的博客 158

运维走出控制台:阿里云 AgentCore AI Native 运维实践

UModel 让现场能够被关联,运维数字员工让经验能够被调用,AgentCore Team 让分析能够协作,AgentLoop 让质量能够被检验。这些建设共同服务于一件事:让团队对系统的理解,成为每个人处理问题时都能接上的能力。

阿里巴巴云原生的博客 312

从长程 Agent 到 Super-agent,解锁更多场景

Deepseek Harness 提升了架构的透明度,但也带来了工程上的复杂度。这次开源的dsh-superagent-prototype,是对 Agent “连续实体”能力的工程拆解。

阿里巴巴云原生的博客 242

排查提效 50%:淘大集新核心系统的观测护航之路

供应链运维,缺的不是更多机器,是“一条能把指标、日志、链路串起来的线”。阿里云 ARMS+SLS+云监控2.0+STAROps 重构观测底座。

阿里巴巴云原生的博客 149

概率、插座与 5000 个爱因斯坦:专访阿里云研发副总裁周琦

这次访谈发生在 2026 年云栖大会之后。大会期间,阿里云发布了智能体构建和治理平台 AgentCore,将企业级 Agent 基础设施进一步标准化和托管化。

阿里巴巴云原生的博客 157

Agent 数据飞轮平台的选型和实践

用统一标准判断修改效果,积累覆盖不同路径的测试样本,沿执行记录排查失败,并将典型问题纳入后续回归。而这也是宙斯接入 AgentLoop 要解决的问题。

阿里巴巴云原生的博客 35

Durable Agent 详解:如何让 Agent 在云端长期稳定运行

本文使用一个具体的用户任务示例“向五位客户发送通知邮件”,解释为什么保存聊天记录还不够,再以 AgentScope 构建的 Agent 为例,展开任务状态、持久提交和故障恢复的通用设计,最后结合 Alibaba Cloud AgentCore 已有的 Harness 托管与节点恢复能力,讨论共享状态、可靠调度及 Brain / Hands 分离如何支撑更完整的长期托管服务。

阿里巴巴云原生的博客 338

Qoder × AgentLoop:智能体规模化应用,敏感数据保护如何跟上?

智能体观测与优化平台 AgentLoop 持续分析已采集的 Qoder 审计日志,将发现的风险线索关联到具体会话、工具调用、成员和环境,帮助安全团队回查任务过程、明确需要整改的环节,并复查处理效果。

阿里巴巴云原生的博客 298

完整还原已经服务千家企业的 AIOps Agent 的评测和调优实践

阿里云 STAROps 是一个生产运维 Agent,通过连接多域数据、运维工具与专家经验,从被动响应走向智能自治,7×24 保障业务连续、稳定运行。本文将分享 STAROps 的评测和调优实践。

阿里巴巴云原生的博客 202

阿里云云原生四项 AI 应用工程化实荣获“鼎新杯”优秀案例

第五届“鼎新杯”由中国通信标准化协会主办、中国信息通信研究院承办,自2026年05月正式启动,历时近 5 个月,聚焦国内政企数智化转型领域的创新成果,旨在为行业提供可复制、可推广的实践参考。

阿里巴巴云原生的博客 335
上一篇: Serverless GPU:助力 AI 推理加速
下一篇: 比 Copilot 快两倍以上!在我的开源项目 AI Godot 桌宠中用通义灵码解决问题
阿里云云原生
阿里云云原生 企业官方账号 企业官方账号
博客等级 码龄8年 1万+粉丝 3155原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值