微服务和 Serverless 如何强强联合?

导语 |  微服务与 Serverless 被不少开发者称为“天作之合”,在当前的微服务体系中,Serverless 的定位是什么?Serverless 在微服务分布式应用中又是如何落地的?本文由腾讯云微服务产品中心技术总监 韩欣 在 Techo TVP 开发者峰会 ServerlessDays China 2021上的演讲《腾讯云微服务在 Serverless 的探索实践》整理而成,向大家分享团队中 Serverless 技术在实际开发过程与用户场景中的落地与思考。

点击可观看精彩演讲视频

一、Serverless 带来的思考

今天的分享主要分四部分:第一部分,对 Serverless 的思考。第二部分,Serverless 在微服务体系中的位置。第三部分,Serverless 架构在腾讯云微服务体系实践中的应用。第四部分,Serverless 在腾讯云中间件领域的实践与探索。

首先分享关于 Serverless 的一些思考。企业级开发为什么需要 Serverless?我认为出于四个方面。

第一,研发效能。本身在 Serverless 化的过程中,传统上在容器有技术之后,CI/CD可能已经加速了,但函数技术让开发一个应用的时间大大缩短。比如明天上线一个运营活动,原来的情况下,要找开发、产品,开发完之后找运维,申请资源,部署服务器运营起来,到时还不知道能否扛得住。而现在研发效能提升,写一个代码提交就完成了。

第二,降低了整个基础设施的成本,这是我们 Serverless 化的主要目的,企业很关注这点。比如上云,原来不管运行多少服务,就算没有流量,服务器也要空着放在那儿。而 Serverless 可以自动规划这个事情,极大地降低了企业的整体运营成本。

第三,免运维。比如内部想做内部运营系统,研发成员不太愿意研发,因为这只是去管控现有的业务,在类似这种场景下,使用 Serverless 就能够降低运维成本。

第四,灵活扩展。以前开发业务的时候,经常讲到一个概念:前端把握后端。前面流量不能太大,否则会把后面的数据库压挂;或者消息队列不能写的速度太快,否则也会挂;所以前面要一层层限速。在 Serverless 架构之后,数据库的架构可以无限拓展。完全可以无成本,不考虑因为原来数据库写了一定的数据量就挂了。现在很多企业考虑 Serverless 是基于四种诉求的集中组合,研发效率,节约成本,灵活扩展的弹性,可能双十一来了之后有足够的资源,随时可以应用线上的业务。


接下来分享提升研发效率。整个研发流程,CI到CD,包括整个开发测试环境,多个环境的维护、监控,在 Serverless 的架构上可以提供整套加速业务交互的流程,加速业务价值交付的流程。

另外,降低基础设施成本。波峰波谷,一般的 Serverless 都是按照实际用量来计费,减少资源开销,包括更细粒度对资源分配的方式,提升资源的利用率,避免闲置。

第三,免运维。不需要提供准备服务器,做容量评估、扩缩容、维护服务器,无需操心服务器的各种性能指标和资源利用率,专注应用程序本身的状态和逻辑。如果发布新版本,避免旧的停机风险,随时克隆一套环境出来就行,运行新业务,都是可以缩短时间的。

第四,灵活扩展,主要有两方面。资源上,双十一或者618来了,现在很多云上的客户有大量的促销活动,提前申请一大堆服务器放着,过了双十一释放掉。另一种是不用考虑原来的数据库,考虑写的时候运用到一定规模,就考虑分步分秒,考虑加一个中间件,切分多个库,一个topic性能不够,要开始搭多套,同时应付性能的问题,这种灵活扩展在 Serverless 架构里面带来很大的变化。

另外,讲讲在整个企业级架构和 Serverless 架构演进的路线。看起来两个是不同的维度,但是其实有很多的相似性,企业级架构的转型,一般是单体架构,企业总线,SOA的架构,到现在一直很火的微服务架构,引进的主要原因,是原来单体架构下,包括IOE的架构,一台大型机的服务器慢慢进化到微服务架构的时候,成本不停下降。微服务架构的转型目标在降成本,把原来的单体拆分成微服务之后,单独对某一些微服务、某一些关键的业务逻辑,单独维护升级,原来一升级一大堆,容易出现风险。之前有一些客户说到,单体应用改一个逻辑测试了一个多月还不敢上线,微服务架构随时灵活扩展。Serverless 的目标方向也一致,即降本增效。Serverless 架构里面,原来还搬几个服务器放着,从裸金属进化到虚拟机再到容器技术。Serverless 往下进化的时候,更多在业务方面提供灵活性,成本不停优化,业务使用资源的成本两方面,它的目标都是降本增效,提升业务价值。

从我们的视角来说,全业务流程的 Serverless 架构是怎样的?Serverless 架构有FaaS、BaaS。FaaS是云函数,把很多的业务逻辑简单写两行代码线上发布,BaaS比如TDSQL-C可以做一些包括对象存储、消息队列等,随时买,随时用,根据业务的性能、请求量,不停做自动弹性伸缩,这是在后端的、底层的服务器 Serverless 化。那在FaaS、BaaS之间还有一层DevOps,说到这个词,大家可能会问,是原来的编译构建发布吗?我觉得缺了一部分,整个DevOps非常关键的环节——CO,持续的运行。微服务里讲到的服务治理、全链路的追踪、限流、版本发布,平时这些工作是谁来做?就是运维来做。微服务里强调治理的事情,其实不是落地到研发上,而是在运维上,运维要做很多业务级别的工作。如果把这部分工作提炼出来 Serverless化,是真正的减轻,对微服务整个体系价值有比较明显的提升。

中间这部分,通常在业务逻辑里叫全业务流程。一般我们的业务逻辑由几部分组成,包括很流行的所谓的中台架构,就是中间这部分。把公司内基础的重业务,微服务里面的沉淀重逻辑,在 Serverless 架构、FaaS里面沉淀那些经常由于业务的需求频繁变换的逻辑。轻业务和重业务做分离之后,不管基础的业务需求,产品怎么变,只要变化前面这部分就好了。后面这部分又提供无限能力的支持,这就是非常理想的在全业务流程 Serverless 架构的基础。

二、Serverless 在微服务体系中的位置

第二部分分享 Serverless 在微服务体系中的位置,我们在微服务体系中为什么需要 Serverless架构?

传统的微服务架构中有哪些特点?

1. 运维成本非常高。随着微服务化之后,微服务的数量增加,需要维护的技术设施在不停膨胀。一个微服务至少两个节点,做容灾,创建的配置,管理成本在不停上升。另外,微服务拆分的节点越多,服务间调用的复杂度越来越高。怎么去定位问题?运维成本非常高。

2. 部署难度高。提到部署难,会听到一些概念,全链路灰度、服务的甬道。在复杂的网状逻辑里面,假设现在业务发布,一定不会是把全套架构全部做灰度升级。一般变更一个逻辑的时候,都会选网状逻辑中的某几个节点、某几个服务升级,其他服务不动。这涉及到一点,怎么在变更的时候保证我的流量在那一版本上面做变更,但是又保证灰度变更不影响正常主观逻辑的流量?包括全链路的灰度,保证业务怎么做无缝,业务不中断,部署维护的成本非常高。

3. 资源利用率低。为了保证所有业务的高可用,不管微服务调量是多少,至少维护两个节点。很多容器里面可能还维护了两个4G,这是第一方面。还有一个非常隐患的问题,无法在微服务里面很好地预测,这个微服务应该有几个节点。在全链路的调用过程中,前面看起来没有什么,但是最终获取的关键节点。全链路的压测,判断出哪些是整个链路中的核心关键节点,这些关键逻辑节点要不要提前规划资源,开始没有什么,但是外面的入口某一个分支的流量突然涌上来的时候,突然导致这个节点资源不够,或者节点扛不住挂掉了。其实在整个的微服务架构里面,各个方面都会带有运维,资源预估、规划的问题。

Serverless 化和微服务化做一些结合,带来哪些好处或者它的特点是什么?

第一,不用再关心环境。因为 Serverless 让资源打平,可以随意创造多套运营环境,去做随意的隔离、销毁、管理。

第二,应用接入。不应该关心通常流行的很多框架,微服务有很多框架,这么多框架集中在一起,我们之前面过一个同学,说公司有三大框架,来一个腾讯的同学,开始用PaaS,来一个百度的同学用BRBC,阿里同学入职就用dabel,一个公司里面三四个框架都在跑,怎么做统一的运维和管理?多应用接入,多开发框架,多部署包怎么做?

第三,应用托管。全生命周期管理,应用的启停控制,发布、回滚等。

第四,弹性的底座。结合 Serverless、K8s,怎么去做这些资源动态的管理?

第五,弹性收缩。这部分是重点。它跟微服务,普通的HPA,K8s有什么区别?很多是基于资源纬度,就是CPU内存,磁盘堆积量,这是基于IaaS贡献的场景。但是基于应用场景,当这些资源如果没有的时候怎么办?如果写一个代码,自己的并发没有处理好,因为有锁,业务请求上来的时候,我的CPU和内存没有显著上升,但是对于业务上层看到的就是一直超时,这是应用的并发能力不够导致的情况,那怎么去做伸缩?应用并发能力体现在哪个地方?时间是一个纬度,请求量也是。应该自己去做结合,才能保证业务的可用性。

还有一种经常遇到的维度,消息队列。很多场景下通过消息队列做异步解耦,会面临一个问题,上有企业消息,下有消费消息,怎么定义下游应该有多少的资源去承接这个消费过程?如果定义少了,消息队列开始堆积,之前就有客户问我们,你们能不能根据消息队列的堆积量去给我微服务扩容,这就是另外一个场景的问题。

第六,可观测性。微服务里面做 Serverless 化是非常高的承诺,因为都不让我关心微服务器,出了问题怎么保证解决?现场出问题的时候,原来可以操作系统日志,现在不让我关心服务器,问题深入的定位和分析过程,有没有现场?包括应用级的可观测性的分析,都是很关键的问题。把这些问题都解决完之后,才能是完全靠谱的 Serverless 解决方案。

现在在 Serverless 整个微服务架构里我们面临一些挑战:云产品的集成,观测性,弹性的时效性。关于弹性的时效性,现在有很多技术体系平台,包括流行的K8s,腾讯有EKS,那么弹性时效性主要的点在哪?业界有几个 Serverless 关键的问题,有非常大的挑战性。为了给用户节省资源,能不能把它弹性到0,这是决定 Serverless 架构做得好还是不好的非常重要的区分点。对于函数来说,因为非常轻量,请求来的时候,再部署运行。但是如果做微服务化的 Serverless 时,是否可以把实例弹到0或者1,现在能做的级别也是最小只能维护一个实例。弹到0的话,请求过来的时候,应用没有起来,请求就可能失败。这是最大的一个时效性的问题。包括刚才讲的,应用的扩缩容,应用扩容的指标完善。

那么,基于 Serverless 下的微服务架构,我们的理解是怎样的?

1. 开发者可以自由选择任何语言、任何框架的微服务应用,专注于业务逻辑。

2. 微服务下的 Serverless 架构里面,分布式治理能力下沉、采用sidecar模式或者Node共享模式,把微服务常用的治理和业务逻辑无关区分开。

3. 支持业务构建任意的业务开发模式,比如有状态应用/无状态应用/事件驱动应用。

4. 接口标准化、业务逻辑下沉,技术下沉之后,跟业务层开放的就是一个非常标准的通用的常用接口。把通用能力通过标准的API提供给业务,通过简单的API操控底层的资源。支持标准API提供对分布式能力的抽象,通过HTTP/gRpc标准协议进行承载。

5. 支持服务依赖组件的可插拔,数据库能不能换?或者不依赖于云,支持对接各种云平台或者边缘网站。

6. 支持完善的可观测性能力,快速支持业务级的问题预测/发现诊断。

7. 资源运行的高可用,支持跨IDC,IDC挂了,能否跨可用区调度?可用区挂了,能否做到跨地域的高可用,我觉得这是微服务下的 Serverless 应该具备的特征。

新技术对于微服务的 Serverless 化带来很多优势,新技术主要讲的是Service Mesh以及Dapr。这个技术对整个微服务的 Serverless 有哪些价值?首先是可以让业务本身专注于业务开发。比如Service Mesh屏蔽了底层通信的复杂性,包括负载均衡、服务发现、认证授权、链路追踪、流量控制等等,让服务只关心业务逻辑。第二是多语言,本身能力下沉了,可以做到任何语言编写运行,随时运行。第三,简化应用开发流程,应用分布式状态的存储、事件驱动,可以用简单的API抽样给上层应用。第四,可移植性,把业务能力下沉之后,对于应用来说没有任何耦合,只要标准通用的API,可以进行多种云场景的支持。第五,可观测性,天然集成的日志、链路、追踪,包括可以轻松对接任何的组件、监控等。

三、Serverless 架构在实际中的应用

第三部分分享 Serverless 架构在腾讯云实际架构中的落地应用。

一是构建弹性微服务场景TEM,基于腾讯云,打造云原生标准可插拔的服务平台。它的优势是是可插拔,腾讯的资源可以插进去(按需配置无绑定、可上可下);标准化,用户自我定义消息中心,消息队列等。整个的架构大概是这样,整个流量管理和服务治理,负载均衡,服务降级包括日志、监控等,都围绕业务本身,底层是腾讯云的EKS腾讯容器,构建整个 Serverless 化的场景,上面是API做整个的入口。

它有几个特点:

1. 构建无状态应用。Dapr通过标准的GRP协议通讯支持加密。

2. 开放了几种模式,可以选用下沉的模式构建,可以通过支持代理转发、流量管理等能力,也可以构建有状态应用、服务。Daper框架对接数据库、消息队列,提供了轻量级的接口,业务开发的时候应用这些轻量级的接口,底层的存储套件,可以把当前业务的一些已有状态,下沉到组件里面去。

3. 事件驱动应用。事件驱动可以插拔,可以通过暴露对外绑定的组件监听外部调用的方式,包括消息驱动的模式,完全可以支持。

然后是组件,可以跟腾讯云或者自建的缓存等服务抽象出一个资源组件,通过component自己声明需要哪些组件,通过声明的方式管理这些资源,我们会将这些资源与运营环境进行解耦,绑定资源的时候创建对应的数据库,在微服务里面依赖的数据库就都有了。最后,应用接入,基于Dapr运作,对于业务方来说是单独隔离的,不用单独地申请维护。

最后,微服务引擎。在传统微服务里,分为微服务的支撑侧、运行侧。支撑侧包括注册中心、配置中心、链路追踪系统等,我们把这部分做了 Serverless 化,无状态托管,自动免运维,做自动的扩容,进行可视化的管理。和刚才的TEM做在一起的时候,那就是一个全链路的 Serverless 化完整的架构。

四、中间件领域的Serverless架构

最后一部分,Serverless 架构在中间件领域的落地,在消息队列里做 Serverless 化。BaaS那层的 Serverless 化有很明显的特征:存储和计算分离。传统消息队列有哪些问题?我们面临几个场景问题,第一是性能的问题。现在云上去买一个托管的不管阿里云还是AWS,你买一个实例,它一定告诉你限定使用的峰值,为什么?因为本身没有存储架构分离的情况下,搭一个集群的峰值是由于搭这个集群的物理讯息或者物理机上限资源决定的。假设搭起来最多只有1万KBS,那云服务厂商提供的就是1万KBS,如果扩容只能迁移,买更多的重新搭一遍,这是性能的问题。

第二是topic,很多会在业务开发的时候面临这个问题,一个业务场景下定义一个topic。但是像Kafka这种消息队列的组件的源数据存储在CKA数据管理,自己本身能扛的数据量规模是有限的。一般像Kafka,1000-2000的时候到极限,扩容也解决不了。但现在SaaS化的场景,给每一个用户分布一个topic存储数据的时候,就面临问题。现在100万客户要生产出100万的topic,市面上很多做不到这一点。

另外,堆积。数据量没有消费走的时候,应该堆在后端堆着。但是这是物理上限决定的,物理集群如果存储只有500G,最多也只能堆到500G。如果不行,只能提供申配,搭更大的。对业务来说,是有感知的。堆在上限的时候,只能删掉,要不没有消费掉,要么淘汰掉,丢到队列里面或者换到另外一个地方去,或者删掉,因为磁盘满了不让写入。

那么 Serverless 上的消息队列,现在要解决,我们其实也是跟Pulsar社区深入合作。Pulsar对于我们来说是一个非常好的存储与计算分离的消息队列的架构,能够完美地支持,基于上面去做的这些基于云的资源。比如把broker存算分离之后,把消息队列的broker用容器化,用EKS做支持,这种情况下,性能的问题基本解决。再解决一个问题,broker本来依赖的CKI做一些去依赖化,包括Kafka社区在3.0里面马上发布的版本里面也是这样做。这样把topic上线的问题也解决了,所有的源数据以消息队列的存储,而不是以第三方组件去存储。包括堆积,放在云上的时候,把腾讯云的存储,比如COS对象存储,冷热数据做存储,热数据放在Pulsar里,把冷数据慢慢堆积到COS里,解决问题。

同时,基于Pulsar良好的架构设计,我们做很多协议的适配,之前说了,相信一个公司内至少维护两套消息队列集群。在这种基础上,基于Pulsar场景,很有可能换成一套集群,支持不同的场景,适配多种协议。现在我们在云上打造 Serverless 化的消息队列产品,主要就是四种能力,多协议支持、无上限的性能、无上限的topic(达到百万量级)、无上限的堆积(线性扩容、存储分离的架构)。

今天我的分享就到这里,非常感谢大家!

讲师简介

韩欣

腾讯云高级工程师

腾讯云高级工程师,微服务平台,消息队列,API网关等产品的负责人,负责中间件相关产品的规划,架构和落地实施。有超过十二年的研发架构经验,先后在腾讯、百度负责过腾讯广点通实时推荐系统,腾讯手机QQ空间,百度im+即时通讯平台,百度知秋智能客服等产品的研发和架构工作。目前关注在云计算中间件相关领域,致力于整合paas技术资源,构建基于微服务的技术中台,为企业的数字化转型提供基础支持。

推荐阅读

Function Mesh:Serverless 在消息与流数据场景下的火花

初创企业的福音,还有这么贴心的云原生数据库?

用了 Serverless 这么久,这里有其底层技术的一点经验

Serverless + 低代码,让技术小白也能成为全栈工程师?


???? 错过了直播懊悔不已?本次峰会所有嘉宾的演讲视频回顾上线啦,点击「阅读原文」即可观看~

???? 看视频不过瘾还想要干货PPT?关注本公众号,在后台回复关键词「serverless」即可获取!

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: Function Mesh:Serverless 在消息与流数据场景下的火花
下一篇: 如何优雅地把握 Serverless 和 Serverful 的平衡点?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值