实现全托管,腾讯云服务网格的架构演进

导语 | 腾讯云服务网格(TCM)作为一个兼容 isito 的服务网格平台,已经在腾讯内外部有诸多落地案例。本文是对腾讯云高级工程师钟华、苗艳强在云+社区沙龙online的分享整理,深度解析服务网格架构演进和发展趋势,希望与大家一同交流。

点击视频查看完整直播回放   


一、 istio 现状和发展趋势

1. istio发展现状

 

istio现在是目前最流行的服务网格实现,它的流行主要体现在两个方面。

一是社区非常的活跃,过去一年,Istio 在 GitHub 增长最快的开源项目排行榜上名列第四。

另一方面 istio 在业界有了越来越多的生产落地。在一项云原生调研报告中,已经有18% 的用户在生产环境中使用mesh 技术,而另外47% 的用户正在进行 mesh 落地评估,而在这部分评估和测试的用户中,有接近7成的用户是在评估 istio。

istio 今年的一个大事件是将商标转让给了OUC(Open Usage Commons ),官方宣称的目的是给 istio 提供更加中立和独立的监督,当然这个做法不太符合社区的主流期望,也就是大家一直在讨论 istio 什么时候加入cncf,这里我们就不展开讨论。

istio 是在 17 年 5月份发布的第一个版本,到目前为止已经演进了三年多,目前有固定的发布节奏,每个季度会发布一个子版本。

istio 是在 18年7月发布 1.0 版本,宣布 Production ready,但在这之后 istio 多次的重新定义生产落地,这从一个侧面也反映了 istio 还处在一个高速演进的过程中,大的架构变迁仍然会时有发生。

所以说如果大家尝试在生产环境中使用开源 istio,开发和运维人员需要对 istio 组件有深刻的理解,以及持续的技术投入。

2. istio 架构演进

istio 最大的一次架构演进发生在今年三月份,将微服务控制面调整为单体式的 istiod。我们简单对比下当时的架构变化,并探讨下演进的背景和原因:

istio 在1.5 之前,整个控制面是一个复杂的微服务架构。其中:

  • Galley 是整个 mesh 的配置管理中心,包括配置验证功能,可以对接不同的服务注册中心,服务配置在这里统一接入。他有两个主要的消费者是 pilot 和 Mixer。

  • Pilot 是整个控制面的核心,它负责聚合服务发现数据,抽象成 istio 的数据模型,以 xDS 的形式下发给数据面。

  • Mixer 包括 Telemetry 和 Policy 两个组件,Telemetry 负责遥测数据采集,并以 Adapter 方式对接到各种监控后端,Policy 负责在服务相互调用过程中对请求进行策略检查。

  • Citadel 负责安全和证书管理。

但实际的实现还要更复杂些,Mixer 可以利用复杂的扩展模型对接第三方系统。控制面还包括 Prometheus Grafana Kiali 等遥测组件。还有独立负责数据面 Sidecar 模板注入的 sidecar-injector 组件等。

再来看单体化的 istio 控制面,控制面只有一个单体组件 istiod,原来的微服务组件全面纳入其中,同时这个架构直接把原来的性能消耗大户 Mixer 去掉了,后面引入了 Telemetry v2 作为 istio 新的扩展方式。

istio 单体化的发展,似乎和目前大热的微服务趋势背道而驰,我们可以稍微分析下背后的原因:

  • istio 诞生在微服务架构大热的背景下,从一开始, 控制面就规划了不同职责的组件,所以 istio 最开始就选择微服务架构是很自然的结果。

  • 在微服务里的理论背景中,不同的组件有不同的资源和弹性需求,比如上图中,Pilot 需要处理服务发现数据,需要对接数据面 Sidecar,Mixer 的消耗和流量规模正相关,这 2 个组件会占用控制面 80% 以上的资源消耗,把它们独立出来是有意义的, 他俩可以各自进行弹性伸缩。比如 Mixer 通常需要跑多份,其他组件可能只有一份。

  • 另外微服务的控制面还做了一些假设,设计者认为控制面不同的组件通常会由不同的团队来维护,这也是典型的微服务架构理论,比如 Citadel 由安全或运维团队来负责,Pilot 和业务开发关系更紧密等等。另外 istio 最初还非常理想化的提出控制面的各个组件都可以独立部署,按需选择安装组件,在实际应用场景里却并非如此。

微服务架构看起来非常优雅,兼顾可伸缩和可扩展性,但是呢在实际使用过程中的,用户却发现该架构极度复杂。这是单体化演进的根本原因。

istio 单体化演进的另一个原因是和 Mixer 组件演进相关,Mixer 一直饱受诟病,check report 模型精巧但性能低下,随着 Envoy 支持 wasm 作为新的扩展方式,社区决定把 Mixer 从控制面中移除。

当 Mixer 移除后我们再来看控制面:Galley 的消费者只剩下 Pilot,没有独立存在的必要,所以合并到 istiod;伸缩性方面, 2个性能消耗大户去掉了一个,只剩 Pilot 比较占用资源,分组件独立伸缩的需求也没有那么重要了。

单体 istiod 受到社区的广泛欢迎,特别是我们这种 istio 相关的研发和维护人员:首先我们使用 istio 的难度降低了,安装和排错都会更简单。

另外 istio 的性能也有很大的提升,一个原因是 Mixer 的去除,另一个原因是 之前复杂的组件合并到一个进程中后,原来组件之间的 RPC 通信,变成了单体中的方法调用,原来组件之间需要传递的数据,变成了单体中的共享内存,所以说不管是响应速度,还是资源消耗,都有较大的优化。

3. 原生 istio 在企业级应用中的挑战 

 

mesh 技术在腾讯内部已经有多年的应用实践,从最早的单纯 sidecar 模式,到最近几年以 Envoy 和 istio 为主的云原生模式,都有大量的生产实践。

但不管是内部用户还是公有云用户,大家的一致反馈是,使用 istio 成本高,落地难,这里有一些共性问题:

  • 版本迭代快,维护周期短;

  • 内部组件复杂;

  • 外部依赖众多;

  • 性能瓶颈;

  • 多集群,混合云,托管诉求。

istio 对 每个子版本的官方支持时间比较短,根据 istio 的 Support Policy,istio 发布了新的 LTS 版本后,上一个版本只会在支持三个月。按照现在 istio 三个月一个 LTS 的节奏,大概就是每个版本官方只支持半年。

举个例子,备受关注的 istio 1.5 在今年 3 月 5 号发布, 而在今年 8 月 21 号 就宣布不再维护,整个周期不到半年。

另外 istio 每个版本只支持 k8s 最新的三个版本。比如最新的 istio 1.7 只支持 k8s 1.16, 1.17 和 1.18。这要求用户频繁地对基础架构进行升级。

即便现在把控制面合并为一个单体后,istiod内部实现也比较复杂,包括高度的模型抽象。

另外 istio 很多功能依赖其他系统,比如遥测,就用到了 Prometheus, Grafana, Kiali,Jaeger 等等。

所以使用者需要理解和运维的,不仅仅是istio本身,比如说 Prometheus 单点问题如何解决,比如说 Jaeger 选用什么存储,这些组件高可用怎么处理等等,这整套对团队的技术投入要求很高。

另外服务网格的性能开销也是用户比较顾虑的点,目前对于最新的 istio 1.7,单次 RPC 增加耗时开销大概是 3~5 毫秒,这对一些耗时敏感的系统是无法接受的。

支持协议方面,目前istio 支持的协议有限,应用层主要是支持 HTTP,gRPC,但现实企业中有大量的其他rpc协议治理的需求:比如dubbo、thrift以及其他私有 RPC。这也会限制很多用户直接接入。

另外 istio 对多集群和多平台的支持也还不够完善,用户有很强的托管 istio诉求。


二、Tencent Cloud Mesh 架构演进 


1. TCM概览

腾讯云服务网格 Tencent Cloud Mesh (以下简称TCM)的定位是云原生服务级别的网络管控基础设施。

为什么说是基础设施呢?一个原因是我们对 mesh 的理解,我们希望接入的业务团队不需要过多地关心 mesh 的底层实现,只需要专注将业务本身。

另一方面,我们认为 mesh 提供的能力,不仅仅局限在常规的服务治理领域,其他需要用到流控能力的场景,比如发布系统,比如 serverless,都可以使用 TCM 暴露的能力,下文也会介绍一些 TCM 的典型落地案例。

如上图所示,是 TCM 的一个能力概览:

TCM 和腾讯云上其他的网络和云原生设施进行了深度集成,在 TCM 中,我们使用腾讯云CLB 对接 istio ingress gateway,用腾讯云云联网实现  跨地域的多集群服务网格的互通,同时我们支持多种服务发现模式的接入,包括腾讯容器平台  TKE,EKS和 VM 等。

TCM包括一套 UI 化的 mesh dashboard,并且提供了 mesh 相关资源的自动化关联和联动修改, 降低了用户的理解和使用成本。

TCM 底层是直接暴露 istio api, 完全兼容开源社区。

另外我们对 istio 数据面的性能短板做了持续的优化,这主要包括两方面,一个是流量拦截时的内核态,另一个是 Envoy 流量处理时的用户态优化。

在内核态,我们开发了 mesh ebpf 插件来短路 iptables 带来的开销。在用户态,我们通过优化和定制 Envoy 的遥测组件,显著的降低了 cpu 开销和请求延时。

最后我们还提供了全托管的遥测系统,以及全托管的控制面,优化了 istio 多集群场景的中心化管理。整体可以帮助用户能低门槛的接入,高性能地落地。

2. 网站支持能力-独立与托管

TCM 提供了2种 网格模式,独立部署版和全托管版本,独立部署版本会将所有 mesh 相关组件安装到用户集群,包括 istio 组件和 TCM 相关自研组件。而全托管版本中,在用户集群不会有任何 控制面相关组件,所有组件都由平台托管。

TCM 最初只有独立部署版本,为了降低用户使用mesh 的技术门槛,我们逐渐演进出全托管的版本。不过这两种产品形态是共存的,不是替代,用户应该根据不同的需求场景进行选用:

如果对 istio 有很多个性化的需求场景,比如说公司内部的私有协议,比如说要进行深度的调参,同时对istio也有足够的理解和技术投入,可以考虑独立部署版本。

如果业务方对 istio 缺乏运维人力,或者希望更高效快速的接入 istio,又或者希望由平台来提供高可用的控制面,那么应该选择 TCM 托管版本。

不过这两种版本对外提供的能力都是一致的,业务使用上没有太大差异。

 

3. TCM托管演进-数据面视角

下面介绍托管控制面架构的演进,让我们从数据面的视角下,看看数据面对控制面有哪些依赖:

数据面运行的是用户业务,服务网格需要控制面,但是用户业务并不直接依赖控制面。用户应用只是需要网格的功能(流控,安全,可观测性)。我们希望让用户把关注点集中到数据面的业务中,控制面的管理尽量由平台来负责。

将 mesh 数据面需要的数据流和控制流抽象一下,可以得到这张图:

 

首先集群需要 k8s api server,数据面需要上报服务发现信息,业务可能需要读写 k8s 资源和 istio 的 crd。接下来是 xDS,这是服务网格的核心数据,包括数据面所需要的所有流控规则。然后是服务网格的可观测性,这包括了遥测的三要素:metric,tracing 和 logging。

所以用户数据面需要的是这几类服务或者说 interface,不管是微服务的 istio 还是单体的istiod 架构都是围绕以上的数据流和控制流。而云平台托管的好处之一就是,平台提供用户所需的能力,屏蔽掉后面复杂的实现,进而降低维护成本和难度。

 

4. TCM 托管架构- 组件概览 

刚才的图是接口模型抽象,这张图是核心的托管组件。接口是简洁的,统一的,但是实现往往是复杂的,具体的。

首选我们提供了全托管的 Kubernetes,TKE平台,然后托管了 istio 的核心组件istiod。

我们尽量保证和 istio 社区的兼容,不过在一些开源版本还不是很好用的地方,不太符合用户需求的地方,我们也做了很多增强。

比如我们提供了中心化的 crd 存储管理,解决用户在使用多集群和混合云 mesh 中的流控配置管理的问题;另外我们提供了全托管的遥测系统,我们还支持跨地域的多集群构建成一个 mesh,mesh 中的集群可以随着业务需求进行增删,不同集群之间的服务可以自动就近访问和失效转移。

 

5. TCM 托管架构- CRD 托管 

接下来为大家介绍 CRD 管理方式的演进。

这里说的 CRD 是指的 istio 的流控规则,包括 virtualservice,destinationrule,gateway等等,在开源的 istio实现中,这些资源的存储在用户 k8s 资源中的。

基于 k8s 的云原生扩展,大部分都是这样,把扩展的模型用 CRD 存储到用户 k8s 中,这样非常方便,扩展不用考虑存储问题,可以直接使用 kubernetes controller 模式实现。

但是这种模式在 mesh 场景下存在一些问题,特别是在多集群和混合云和混合云场景下:

  • CRD 无法分布存储,只能存储到一个固定集群上, istio 默认只会从一个k8s 读取 CRD

  • 主集群无法变更,主集群是整个 mesh 的单点瓶颈

  • 子集群操作 CRD 非常不方便

  • 特殊场景,比如一个不包括任何集群的空网格,无法持久化流控 CRD

问题原因在于, mesh 中的流控配置带有全局性,是对整个网格生效,而在整个 mesh 中,所有 cluster 应该是对等的,出现 master 和 remote 集群的区分,仅仅是网格需要一个集群来运行 istiod,以及存储 istio crd。

如果我们将 istiod 和相关组件,以及 CRD 从用户的业务集群中剥离,那以上问题就都解决了。

 

在 TCM 中,我们将 CRD 和 istiod 都做了托管,这样网格中的集群和虚拟机可以按需增加或删除,平台负责提供高可用保证,网格中的集群都是 remote, 不会存在某一用户集群的故障导致网格不可用。

仅实现 CRD 托管还不够,因为这样会破坏用户的使用行为,因为用户习惯从自己的 k8s 集群中读写 istio 资源,比如使用 kubectl,或者 k8s in cluster 模式操纵 crd 资源。

所以我们还做了一个 crd aggregation 的实现,也就是用户可以在任一集群上读写 istio crd,而且数据始终只有 TCM 托管的一份,也不会出现数据不一致的情况。整个过程对用户透明。

6. 服务网格中的遥测 

遥测是服务网格领域重要的一环,mesh 的流行主要有两个背景,一个是容器化,一个是微服务化,容器的隔离性让服务进程更加的黑盒化,而微服务让请求链路会变长更复杂。

所以在mesh 化的业务中,遥测是必不可少的一环。可以说,如果没有一个易用且完善的遥测体系,mesh 落地是不可能成功的。

遥测数据源主要有三大类:Metric,Tracing 和 Logging,不管是传统服务监控还是云原生的网格遥测都会涉及这三类数据源,也就是我们通常说的遥测三要素:

  • Metric:指标数据,可聚合,如吞吐率,错误率,延迟,分位值,top值等等,通常需要使用统计学的原理来做一些设计。

    实现:时序数据,prometheus 采集。

    应用:服务拓扑,指标分析,监控报表,告警。

  • Tracing:全链路跟踪数据,请求级别。

    实现:jaeger,zipkin 等数据格式,目标是七层流量,受采样率控制。

    标准:OpenTelemetry(OpenTracing,OpenCensus)。

    应用:服务拓扑,请求分析,链路回溯,告警源。

  • Logging:事件数据。

    实现:Envoy access log,Envoy 自定义访问日志。

    应用:链路端点分析,异常分析,指标分析,告警源。

一个生产可用的遥测系统环节非常多,包括:采集,存储,索引,聚合,计算,展示,告警等等。istio 提供的遥测开箱即用,但还是原型级别的,如果用户想独立运维一套兼容 istio 的遥测体系,不是不可以,但是成本非常高,对团队的技术和运维能力要求非常高。

同时遥测系统本身对弹性伸缩的要求很高,大部分遥测数据量的规模和业务的流量正相关。如果遥测系统不够健壮,不但无法提升业务系统的可观测性,还有可能成为整个系统的瓶颈。

而云计算本身是一个强调弹性、提供可用性保证的基础设施。将 mesh 中的遥测接入云平台,用户可以在成本和质量上都得到收益。

7. TCM 遥测概览 

 

TCM 提供的遥测系统,包括服务拓扑,全链路跟踪,以及核心指标分析等等。

通过服务拓扑,我们能知道一个服务依赖的上下游,快速感知系统整体健康度。全链路跟踪可以对某一请求进行深入分析,用户可以识别出整个链路中的慢请求,系统瓶颈在哪里,有没有不合理的调用,多次调用是否可以合并为单次批量调用。

核心指标中包括 top 值分析,关于为什么需要有top值的分析,当一个系统的体量很大的时候,qps上万或者超百万这种, 系统出现非致命的异常时,平均耗时很难体现, 被中和了。而 top95 或者 top99 指标却会非常敏感,能更准确地反映系统异常。 

8. TCM 遥测体系演进 

在 istio1.0 release 后不久,TCM 就开始在腾讯内部提供服务,当时社区的遥测还是基于 Mixer v1 模式,Mixer v1 架构非常灵活,可以方便的对接第三方遥测系统。

TCM 遥测 1.0 也是基于 Mixer 进行扩展,我们利用开发 mesh monitor 组件将用户遥测数据采集并上报到腾讯云监控。

但是 Mixer v1 的短板就是性能,不管是 Check 还是 Report, 这种架构都在流程中增加了一跳,而且 Mixer 的组件 Telemetry 和 Policy 都是运行在用户集群中,非常消耗资源。

9. TCM 遥测 2.0 

随着istio 逐渐将 Mixer v1 过渡到 Mixer v2,我们在后续版本中也将遥测架构进行了升级,新版本中 Mixer 已经移除,我们在 TCM 云平台中直接托管了 metric 和tracing 相关的组件,托管集群和用户集群利用弹性网卡打通,云平台组件直接可以采集到服务网格中的遥测数据。

这样遥测组件不会直接占用用户集群资源,监控体系的高可用由平台来提供,后续的遥测数据分析,指标计算,存储和查询等,都可以直接利用腾讯云已有的能力。

  

另外,我们也注意到有越来越多的多集群服务网格遥测的需求,用户的业务分部在不同的集群中,有的集群可能还是跨地域的,用户希望从单一的视图去观测多集群整体的服务状况,因此我们在遥测 2.0 中引入了 federation 架构:托管端通过腾讯云云联网打通,各集群数据在云端聚合后统一展示给用户。


三、Tencent Cloud Mesh 典型落地场景 

1. 发布变更/流量管理 

   

下文将为大家分享一些 TCM 经典落地场景,首先来看第一个场景:发布变更/流量管理,这里实际包含了两个场景  ,即应用的灰度发布变更,和请求流量分发管理。

上图左边的部分,给出的是灰度发布的简单模型,当我们发布新的变更的时候,往往希望通过灰度发布的形式发布,将对用户的影响降到最低。

因此我们可以通过 TCM 的能力来完成。当发布新的版本时,可以通过 TCM 下发配置,通过设置权重,将少部分的流量导入到新的版本中。如果新版本的有问题,也只会影响少部分用户,我们可以马上切回到老版本,如果新版本功能 OK 后,再通过权重变更,逐渐的将流量全部转到新的版本,从而实现恢复发布。

右面的部分,是流量管理比较经典的一个例子,比如在页面访问时,不同的设备或系统(比如手机,平板,电脑),对于相同的内容,数据呈现的格式,可能有所差异,比如例子中给出的登录界面。

对于这种场景,通常情况下,浏览器在访问服务的时候,请求头中都会带有请求设备的平台信息,(比如图中给出的操作系统的类型),因此,我们在服务部署的时,分别针对不同的平台部署不同的后端服务,通过 TCM 的流量管理能力,结合请求的头信息,将请求发送到对应的服务后端,从而实现平台差异化的服务响应。

 

2. 多分支测试环境 

多分支测试环境,是在产品开发中很有用的一个场景。做一个比较大的系统,一般情况下都会有一套比较完整的测试环境,然后把生产中的请求 镜像到测试系统,来测试系统的新功能特性。

然而,对于一个微服务化的系统,一般都会由很多个模块组成,而每个模块可能由一个独立的团队来负责。

当团队要对功能模块做系统测试的时候,如果大家都用同一套测试系统,很可能会相互影响,从而得不到预期的测试效果,而如果每个团队都部署一套独立的测试系统,则不仅会产生大量的重复工作,造成人力的浪费,又会造成资源的浪费。Servicemesh很好的解决了这个问题。

如图所示,各个团队可以对镜像后的流量染色,即打上团队自己特定的标签,通过在 TCM 中配置相应的转发规则,即可将流量转发到需要测试的模块。而其他路径,仍然复用整体的测试环境,从而实现了测试环境的复用的同时,避免了不同测试分支的互相干扰。

 

3. 分布式可用架构 

 

 

对于分布式可用架构的部署场景,比如游戏,或者电商应用,为了提高系统的高可用性,往往需要将服务分地域部署。而为了让用户得到更好的使用体验,则又希望就近接入,从而减少不必要的网络延时。

对于这种场景,Servicemesh 可以很好的解决这个问题。比如 TCM 就提供了地域感知和失效转移的能力。

当应用以多集群跨地域方式部署时,用户可以通过配置规则,设置后端服务的地域亲和性,以及失效转移优先级,来控制流量的转发策略。

正常访问情况下,TCM 通过地域感知负载均衡能力,会将流量优先转发到本地域的服务副本中,因此可以提高用户的使用体验,同时降低了跨地域通信的网络成本。

如果本地的应用出现故障,导致不可用的时候,TCM 会通过预先配置好的失效转移优先级策略,将流量转发到其他可用地域的同名服务中,从而实现跨地域的高可用。

4. 业务跨平台混部、平滑迁移

 

这里也是比较经典的一个场景,例如我们有的客户在进行微服务改造的时候,很难一次性将所有的应用全部以容器的形式部署,总会由于种种原因(历史包袱,或者业务本身的原因),不方便以容器方式部署应用。

这个时候,我们可以借助 TCM 的能力,将传统的比如以虚机方式部署的应用,加入到网格中,作为 TCM 统一管理的 serviceworkload。这时我们就可以通过配置相应的规则,将容器服务和虚机服务无缝对接,实现互访,从而实现微服务应用和传统应用的混合部署。

当然,混部的形式,可能只是我们临时的过渡方案,最终目的是实现全量微服务部署,以降低我们的维护成本。

随着业务的改造,那么当我们应用满足微服务部署的时候,可以通过控制流量的转发权重,平滑的将应用迁移到以微服务部署的工作负载上来,从而实现跨平台平滑迁移。

5. 成本与性能优化 

接下来介绍通过mesh实现业务性能和成本优化的场景。通常情况下,微服务的基础部署平台,比如 TKE,都会提供弹性伸缩功能,会根据各项指标,实现服务实例的动态增删。

然而部署平台收集的指标,一般情况下,都只资源相关的指标,比如 CPU,MEM,带宽等信息。但是有些业务应用,其向外提供服务的性能瓶颈,不一定都是资源相关的,也可能是其内部的实现逻辑造成的性能瓶颈(比如服务对业务的并发处理能力)。

因此,通过业务相关的指标,来控制服务负载的动态伸缩,也是很多客户的诉求。实际上借助 Servicemesh 的能力,能够很好的 cover 这种场景。

通过 Servicemesh,我们可以采集到的很多业务相关的性能指标,比如 qps,请求延时等。我们可以实现一个基于业务性能数据 实现一个弹性伸缩引擎,通过 mesh 的监控系统,去收集业务的各项业务指标,来作为伸缩引擎的输入,然后去对接用户集群的 api-server,通过业务指标来控制服务负载的副本数,从而实现基于业务指标驱动的弹性伸缩策略。

业务维度弹缩策略的引入,填补了基础部署平台弹缩机制的不足,从而为用户提供优质服务的同时,又可以最大程度的降低资源成本。

6. 控制面灰度升级
 

 

前文我们提到,借助 TCM 的能力,我们的应用可以实现业务无感知的平滑升级。其实在我们使用 Servicemesh 的时候,Servicemesh 的控制面也有类似的需求。

我们知道当前 istio 版本迭代比较快,而且中间会修复用户在使用过程中遇到的 bug,要修复这些 bug,只有通过升级控制来解决。

针对控制面的升级,TCM 提供了灰度升级升级控制面的机制。在升级过程中,在保留老版本的前提下,安装新的控制面,新旧两个控制面同时存在且相互独立。

由于它们连接相同的配置中心和服务发现中心,因此两个控制面都拥有相同的全量的配置和服务数据。我们可以通过 Namespace 中设置标签的方式,来控制新创建服务的数据面由新的控制面来注入,并对接新的控制面。

通过滚动升级的方式,将所有的业务过渡到由新的控制面来接管。当所有的数据面都对接到新的控制面后,我们就可以把老的控制面下线,从而实现控制面的平滑升级。通过这种机制,我们可以很大程度上降低控制面升级对业务的影响。

7. 低延时网格代理 

在有些系统中,用户对应用之间的通信延时有比较苛刻的要求。在新一代 S ervicemesh 中,由于 sidecar 的引入,使两个微服务之间的通信路径变长,导致服务延时受到了一些影响.

同时,由于 sidecar 中,需要对流量进行各种治理操作,比如链路跟踪,遥测等功能。因此通信性能要求较高的场景下,会对 sidecar模 式的性能有一些担忧。针对低延时的场景,我们内部对 Envoy 做了深入研究,并通过两种方式,对其性能做了优化。

首先,通过缩短通信路径,来降低通信延时。如下图所示,我们使用 ebpf 技术对 sidecar 与服务之间的数据进行拦截,使数据在 socket 层进行转发,而不需要再往下经过更底层的 TCP/IP 协议栈的处理,从而减少它在数据链路上的通信链路长度。

从柱状图上我们可以看到,经过优化,还是有比较明显的优化效果。

其次,通过优化 Envoy 内部实现逻辑来达到提高性能的目的,由于 istio  1.5 版本前后,Envoy 实现机制有较大的调整,因此,我们分别以不同的方式,来优化两个版本的性能。

通过分析,我们发现,遥测数据的处理是导致性能问题的根本原因。

在 isito1.5 之前的版本中,由于 Envoy 需要提取所有消息的属性,然后批量压缩上报到 istio 的 Mixer 组件中,这些属性的提取和压缩是一个高 CPU 消耗的操作,而在处理逻辑中,Envoy 又是以同步处理的方式,将这个处理流程插入到整个流量处理的过程中,所以对通信的延时产生比较大的影响。

因此,我们对 Envoy 的内部的处理逻辑作了一些改进,增加了执行非关键任务的异步任务线程。然后将遥测的逻辑拆分出来放到异步线程中去执行,从而解决了主处理流程被阻塞的问题,进而很大程度上降低了Envoy转发消息的延时。

柱状图中,是我们在 2000 qps 下的一个测试结果,对比了官方 Envoy 和优化后的结果,可以看出 Envoy 整体的延时降低了 40% 以上,其实是一个很可观的数据。

基于这个优化,使仍然在使用低于 isito1.5 版本的 mesh 产品的用户,其数据面延时性能有了一个很大的提升。

在 istio1.5 版本开始,社区虽然对遥测功能做了较大的优化,Envoy 中移除了老版本中 Mixer 上报遥测数据的部分,取而代之的是通过遥测系统主动拉的方式上报遥测数据。除去了 Envoy 主动上报的逻辑,一定程度上,优化了 Envoy 的性能。

但遥测数据的收集,isito 是借助了 Envoy 提供的 Wasm 扩展机制实现的,由于 Wasm 扩展机制跟 Envoy 主体是通过内存拷贝的方式进行数据传递,Envoy 内部会进行大量的属性数据的拷贝,数据拷贝是一个 CPU 密集型的操作,即会占用了大量的 CPU 时间,体现在通信上,实际上就会增加延时。

因此,我们基于 Envoy 原生的方式开发了一个新的遥测插件 tstats,tstats 是通过有引用的方式来传递数据,所以避免了大量的内存拷贝,从而有效的降低了通信延时。

由上图中可以看出优化前后的数据对比。在不同的 qps 下,即使是 p99 延时,在官方的基础上也下降了 20% 到 40%,同时 CPU 也有明显的下降。通过延时和资源占用的优化,实际上也给用户带来了直接的经济效益。


Q&A

Q:istio 可以实现哪些场景,能分享下吗?现在腾讯云有哪些业务在使用 istio?

A:比如腾讯的欢乐工作室,欢乐斗地主、欢乐麻将,游戏是对延时非常敏感的业务。还有腾讯文档,环境治理,多人协作等等。

 

Q:对于服务之间通信,服务网格如何保证数据安全呢?

A:安全是服务网格提供的重要能力,在服务网格中,安全主要由两个方面:第一是认证,通常是指 mtls,服务端和客户端通信时需要互相校验身份。第二是鉴权,也就是服务端除了要知道访问者是谁外,还要确定访问者有什么操作权限,在 istio 中可以用  AuthorizationPolicy 来定义。

 

Q:Service mesh 内部的网络用的什么技术?

A:如果指的是 istio 话,istio 是谷歌主导的,控制面交互协议主要是基于 gRPC,数据面的化是和用户业务相关,理论上用什么协议都可以。不过目前 istio 在数据面主要支持的协议还只是 http,gRPC。

 

Q:1.7版本只支持 K8S 1.16 以上,那历史使用 istio 的服务升级成本就一定很高吗?

A:官方不会对 1.16 之前的版本进行测试,也不做可用保证,但是不一定是跑不起来的。我们之前也有支持老版本 kubernetes 的需求,整体看还是有些麻烦的,有一定的改动成本。

 

Q:链路追踪,istio 没法做到无埋点吧,也就是说业务服务并不能知道如何区分请求,这个如何处理呢?

A:istio 链路跟踪的确并不是完全透明的,如果用传统的 SDK 模式实现链路跟踪的确是完全透明的,因为在 SDK 里可以串联起来进程里的上下游 RPC 关系,但是在 mesh 中,应用和 sidecar 虽然是部署到一个托管里面,但是 sidecar 并不知道不同请求之间的关系,所以在 mesh 中 上下游关系需要用户在业务代码中维护,具体地就是需要业务传递少量的 header 信息,包括 trace id,parent id 等。

 

Q:这套托管方案会合并到社区吗?

A:社区的发展方向和云上的托管诉求还是不太一样,不能直接使用,不过我们会将其中的一些通用的解决方案贡献到社区。

 

Q:现在在用的非托管 TCM ,后面切换到托管的 TCM ,是平滑的吗?

A:未来是可以实现的。

文章推荐

降本提效,贝壳搜索推荐架构统一之路

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 降本提效,贝壳搜索推荐架构统一之路
下一篇: 亿级用户,腾讯看点信息流推荐系统的架构挑战
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值