从TDSQL,看分布式数据库的技术之美

导语 | 每一个时间段总是一个新时代,新技术层出不穷使得数据库技术焕发新生。Spanner、CockroachDB、TDSQL等分布式数据库正是这个时代的弄潮儿。本文由腾讯云数据库专家工程师 李海翔在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术,到海量数据分析技术」 的《分布式数据库的演进》演讲分享整理而成,带大家品味分布式数据库架构、前沿技术和TDSQL技术实践,感受分布式数据库的技术之美。

点击可观看精彩演讲视频

一、分布式数据库架构

我今天所分享的内容主要集中在数据库技术层面,和腾讯近十年的分布式数据库技术发展息息相关,主要有三方面:第一是分布式数据库的历史发展和演进;第二是分布式数据库里较核心的技术内容,包括相关的内容知识点;第三是腾讯TDSQL在前沿方面所做的工作。TDSQL是一个基于HTAP的分布式数据库系统,尤其强调强一致。2017-2018年我们提出过“全时态数据库”的概念,当时提出实现了一个叫做HTAC的混合事务分析处集群架构,HTAC和HTAP非常接近,在工程方面我们称为HTAC,用一个理论的名词来概括就是HTAP(混合事务分析处理系统),所以在那时我们就已经推出自己的原创性产品,而这个产品这两年的演化一直专注于强一致性,在去年我们推出了兼具理论与实践的产品,清楚解释了“强一致”这个概念。该技术对应的产品,内部经过一段时间打磨后,载有该项技术的TDSQL将在TDSQL公有云等产品中很快推出。

1. 分布式系统经典架构概述

先来看第一部分,分布式数据库的发展演进。这幅图在说明什么?里面在谈一些基础架构:Shared Nothing、Shared Memory、Shared Disk、Shared Everything。这些是什么?最早从哪里来?硬件层面是做软件的基础,硬件层面的发展决定着软件技术的发展,硬件层面把一些基本的框架搭好后,数据库的软件或者说应用层、系统层的软件都会在上面叠加,就像搭积木一样,一块一块地往上垒。对于数据库内部其实也是这样的,分模块、分层次,之后这些东西都可以搭建在一起。但是数据库有着紧耦合性较强的特点,搭在一起后就很难拆开,但是现在做分布式数据库的一个趋势是要尝试把这些东西拆分,再像搭积木一样往上垒,哪个地方需要什么样的组件,就去建设这样的组件,模块与模块之间要解耦,解耦之后更易搭建,把这个系统搭得在将来更具扩展性。分布式数据库系统的底层基础是和硬件紧密相关的。

2. 分布式系统架构经典主流技术

我从技术的角度展示一下数据库的代表技术。在这幅图中,第一个人是数据库界图灵奖的第二位得主——关系模型的创始人科德博士,他在1970年的时候以一篇论文奠定了关系型数据库的基础。1974年时有两个典型的技术诞生,一个是SQL语言,另外一个是事务处理技术。50多年前,数据库界第三位图灵奖得主James Gray开始研究事务处理,并对得到了一系列的开创性的成果,所以事务处理奠基于70年代,直至今日。同年,IBM同样诞生了一个开创性的技术,就是我们所熟知的SQL,SQL这个概念是从IBM在做数据库的研究起就开始提出的结构化查询语言。

再往后,是ER模型,ER模型是实体关系模型,能够帮助我们做数据库应用的建模。但是,在数据库技术的发展过程当中出现了很多模型,包括前面说的1970年之前的关系模型、层次模型,再往前的网状模型,这些模型和ER模型产生的初衷是一样的,都是要从数据、数据层次的角度与实体世界进行映射,以让数据世界具备表达、计算实体世界的能力。只不过ER模型在发展过程中只被人们用于了关系建模(教科书撷取了精华展示,读者的理解程度不再能全面深刻),但它背后包含的内容其实和关系模型、层次模型是相同的,如果我们回顾历史还原其初衷,则能从历史当中看到的一些基本的东西。

到了1980年,数据库界出现基于代价的查询优化技术,它能够较好的选出一个近乎最优的执行计划。此后,数据库又演变出了基于火山模型的执行器,推动数据库的技术进一步发展。从这副图中可以看出,数据库技术发展基本上是从没有事务到有事务概念这条主线上推进的,到了1993年的时候有了AP和TP的分叉,这归功于科德博士,他除了提出关系模型,又提出了OLAP的概念——在线分析事务处理,以前的主线就变成了OLTP和OLAP两条分支。

随着时光的继续推移,2014年,有意思的事出现了,一个并不是学术研究机构而是对行业的研究机构——Gartner,推出一个概念:HTAP,期望在事务型的系统上增强分析的功能。这个概念这几年大火,似乎在补救事务型数据库的重事务处理弱分析能力的缺陷(概念分家,指导思想发生变化,看来还是有坏处的)。人们总是有一个美好意愿,在一个系统内搞定所有的事情。这同人类的需求和不断变化的认知存在关系。

但在这之前,2012年谷歌的Spanner系统诞生了,它标志着人们从不要SQL到拥抱SQL拥抱数据库的事务处理技术,演变成了New SQL系统。

前述这些技术,是数据库的经典技术,无论单机数据库还是分布式数据库,都基于这些基础性的技术。虽然TDSQL是一个分布式数据库,但里面90%甚至更多的基础核心功能来自于单机数据库系统,所以技术的演进其实是踏着前面的基础而不断演化的,分布式数据库的技术离不开前面我们谈到的关系模型、事务处理等基础技术。因此我认为做分布式数据库离不开单机数据库系统,认识分布式数据库要先从单机数据库系统入手,单机数据库系统实际上就有了分布式数据库的五脏六腑,它已经比较全面。只是分布式数据库在基础技术之上,因系统架构的变化,有了一些新挑战。

下面,我们以MySQL的数据库系统架构为例,来分享单机数据库系统包含了哪些模块和组件。

左上角的SQL是一个入口,它执行完的结果在这个箱子里转了一圈后将结果返回用户,进入到数据库系统里。左边的是MySQL Server,右边是它的存储引擎,实际上整个数据库可以分为三层:左边的Server,右边的存储引擎,存储引擎下面和操作系统紧密结合的是和外部文件相关的一部分内容。Server在接收用户的SQL语句并解析,就像编译器,对于SQL语句做解析得到一棵语法树,这棵语法树经过查询优化器的转换变成逻辑查询计划,再变成物理查询计划,过程中会做很多优化,就像子查询优化,表达式怎么去重、化简等工作。再往后它就要交给执行器去执行,执行器实际上和存储系统是紧密绑定的,存储系统的两大部分,一部分是执行器,各种SQL语句的执行,DDL、DML、DQL等,它的执行过程当中又受到横向的事务处理与它正交的组合,在事务处理系统的控制之下,各种SQL语句高并发地执行,并经过各种模块。

模块从底层往上看,数据库系统最底层的是一个文件,因为它要存在操作系统上,而操作系统上是以文件为单位来组织数据的,所以大家可以看到最底层的是一些物理文件,物理文件有它的格式,格式上就有数据库自己定义的各种数据格式。数据可以分为两部分,一部分是用户数据,一部分是数据库系统自身要维护的日志数据,数据可以读入写出有物理的IO产生,其要和存储引擎,也就是执行器加存储系统打交道。数据被读入后进入内存,不同的数据库有其自己特定的数据格式,这需要access解析格式,初始面对的是一个一个物理页面,把它们先加载到缓存区里,然后做格式的转化,物理页面被解析成一个一个的记录和列,便于上层对它进行计算。当这些解析完成后,比如有两个客户端连进来,那就有读写同样数据的可能,因此有并发存在,就可能会产生数据异常,事务处理系统这时候就要发生作用——避免数据异常、保证数据的一致性,经过计算之后再把结果通过SQL Server向上返回。作为一个分布式数据库系统而言,它离不开这个执行过程,也离不开这里面所包含的基础模块和组件。

数据库系统是发展和逐渐演进的。实际上早期做单机数据库的大家都熟悉主从架构,MySQL的主从架构是基于逻辑和物理混合的,但更多是偏向逻辑地做主从架构的数据传输。而后纯粹的单机数据库系统推进了一步,成为近似于分布的,物理节点已经变成多个,但是一主多备,多备只能去做读,还不是纯粹的分布式数据库系统,所以数据库系统实际上架构的发展分成两代,第一代是纯的单机系统,第二代是分布式系统,介于第一代和第二代之间就有这么一个过渡性的阶段,我把它称之为1.5代,但是它还归属于单机数据库系统,所以有了这样一个主从架构。典型的每一个数据库都做了基于物理日志的,像Oracle、PG流复制等,但MySQL基于逻辑日志这样的格式去做主从结构的。

时光推移到七八年前,亚马逊的Aurora系统诞生,它本质上还是主从架构、一主多备式的,进步的地方在于做成了一个云上的存算分离的系统。所以1.5时代的产品,典型的代表是类似于早期的主从+Aurora这种架构,这是一个过渡时代。再往后我们会进入到真正的分布式数据库时代,它典型的标志是什么?是多写,在每一个节点上都平等地对待,可以在每一个节点上写,这里面的技术就又有多种,有的是伪的分布式,其把事务的所有写操作集中在单一的节点上去做,真的分布式是利用分布式并发访问控制算法,在每一个节点上去做数据一致性的保障。

3. 小结

数据库基本架构的演进就是经历了这么一个过程,总结一下,反过来从技术角度来看究竟是什么因素在推动分布式数据库系统的演进。其实数据库系统有一些内在的、本质性的需求在推动它,我们以前说数据库系统里面有“三高一易”,高可靠、高可用、高性能、易用性等等,这些基础因素在推动着分布式技术不断地向前发展,到后来演化成分布式数据库系统的时候,对于水平扩展的要求提上日程,所以我的第一个总结是针对扩展,不仅是垂直扩展,而且要水平扩展,所以对于扩展性下的多读多写场景,使得分布式数据库的结构变成纯粹的每一个节点都是对等的结构。在分布系统里要讲究可用性,包括数据层面的可用如共识协议下的数据多副本机制、也包括整个系统功能层面的可用。如果以较少的投入获得高的性能,那就可以对外支撑更多的业务,成本就会更低。所以对于数据库内在原生的要求从单机数据库系统到分布式数据库系统一直没有发生过变化。这是我分享的第一部分。

二、分布式事务与一致性

1. 数据异常

第二部分,我们来看看分布式数据库系统里面的技术层面会包含一些什么样的内容。事务型分布式数据库系统里面最核心的,一定是事务处理技术。数据库的操作经过抽象以后就有两种,一种是读操作,一种是写操作,当有了并发存在的时候,至少有两个事务读写同样数据项的时候,就可能产生数据异常。

左边的图在说当读写在两个事务的正交之下,就是2×2四种情况,四种情况里只有读和读不会产生数据异常,其他的组合都会产生数据异常,这是数据异常产生的原因。因为有并发读写相同的数据项,事务处理就是要解决这样的问题。事务处理有ACID四个特性,其中的C是一致性,I是隔离性,其实C和I是相同的内容,就像硬币的两个面,保证一致、保证隔离,隔离级别弱一点,一致性会差一点,会允许一些数据异常存在,也就是右边这部分表示的,一些特定的数据异常现象会发生。

这幅图总结了部分数据异常现象,但实际上数据异常不只是这么一点点,TDSQL在做的一项工作是:系统化地研究数据异常到底有多少种。目前为止人类都不能够解释清楚数据异常到底有多少。

SQL标准定义了四种数据异常、四种隔离级别,James Gray在里1995年的一篇论文定义了八种数据异常、八种隔离级别,在这种情况下,如果突然又发现第9个数据异常,按照SQL标准,它应该被放在这两个体系下的哪一个隔离级别之下?这样的问题在目前是不能回答的,而这也是TDSQL在做分布式数据库研发过程当中所遇到的、所要解决的问题,只有回答了这样的问题之后,一个系统才能真正做到强一致,所幸我们目前对这样的一个基础问题有了明确的答案,并且秉持腾讯开源精神,把这项研究结果开源到了3TS系统(Tencent Transaction Processing Testbed System)。

解决数据异常的一些技术就是并发访问控制算法,而并发访问控制算法又有很多,比如基于封锁的、基于时间戳的、基于乐观机制的等等。TDSQL开源的系统是做基础技术研究的,即腾讯事务处理实验床,我们的系统叫做3TS,取刚才我说的那几个词里面的第一个字母T,所以有三个T,就是3TS。

而解决分布式数据库系统里面和事务相关的技术,比较重要的还有一种数据异常——读半已提交。读半已提交这样的数据异常是基于物理分布的系统上产生的,在一个节点上某个数据项已经提交了,转账的另一个节点上的还没提交,这时来第二个事务去读这两个节点,一定能读到已提交的那个节点上的数据,但是读不到未提交节点上的数据,也就是在未提交节点上所读到的数据是旧的数据,旧的数据和已提交的新数据二者之间不能保证数据一致性,所以会产生称之为读半已提交的数据异常,这就是分布式数据库在事务处理层面即一致性方面要解决的问题。

2. 缺少一致性面临的挑战与业界解决方案

但分布式数据库系统面临的不只这些问题。因为数据库从一个集中式系统扩展变成了每一个都逻辑独立的子系统,但对外它的行为还像一个物理单一的数据库系统要表现的一样,这就面临着新的挑战。单机数据库系统上做事务处理要保证ACID,分布式系统里面也要保证ACID,但是分布式系统里面要有分布式一致性,如:线性一致、顺序一致、因果一致,还有读后写、写后读等等,而这两个碰到一起就会产生新的问题,这是分布式系统要解决的。

不只是上面提及的问题,我们面对的问题更为复杂。例如,如下这张图概况了各种分布式一致性的概念,很复杂,这里面大约有近60种分布式一致性,光把这幅图弄清楚、把每一种一致性弄清楚,已经不容易了,再和事务的ACID结合,难度就会更大。

业界对于分布式事务的一致性,是有研究的。如下图,我大概解释一下这幅图的内容:左上角事务一致性,左下角分布式一致性,右上角有个隔离级别下的事务一致性问题,这是数据库里要处理的事情,但偏偏就在该图这个红色方框,分布式一致性和事务处理里面结合的这些地方目前为止没有相关的理论和技术来支撑,而这些也正是TDSQL在做分布式数据库系统当中致力于解决的问题。对比业界谷歌的Spanner,Spanner做到了真的强一致,这是目前我看到的唯一的强一致系统,唯二是TDSQL。Spanner做到了线性一致加ACID数据一致性的融合,业界实际上早有这个概念叫做严格可串行化,它能在全局层面保证分布式系统下数据的一致性,这才是真的强一致(请注意,这里强调全局,即从任何一个节点看去读取数据,大家都能读到一样的结果,不可能不同节点获得不同的观察结果)。

但是如果对Spanner做一个测试或者理论推导,会发现Spanner系统的事务处理性能非常差。Spanner能用到什么地方?就是用到非实时性广告系统数据的处理上面,但是大家听说过Spanner用到过金融系统里面吗?没有,此种背景下,就对TDSQL构成新挑战了,因为TDSQL要用到金融系统业务里面,我们既要保证正确性,又要保证性能。

而做分布式数据库还面临着做高并发执行器需要的技术MPP。

从一开始我们就提到了数据库基于硬件系统搭建,受限于硬件,作为分布式数据库,还面临什么问题?我们在研究它和新硬件有什么关系,刚才盖老师谈到了Oracle21c,21c做了持久化内存和数据库的结合,但它是单机的结合,而TDSQL要做和分布式系统的结合。比如早期和SSD这样的硬件结合,现在和持久化内存、和RDMA结合,都是我们在做的事情。

所有这些事情都有一个外在的需求驱动,就是数据量的变化。数据量的变化有几个层面,第一个很重要,但大家可能并没有完全感受到,就是元数据。对于一个分布式数据库系统来讲,元数据会剧增,也会对数据库提出一些新的挑战,不仅如此,数据库系统里面还有什么?我们知道大家都在谈AI for DB,这时AI系统一定需要大量的数据,这大量的数据就要有一个存储,有些系统是把AI所需数据存储在数据库之外,而我们在考虑,能否存储在数据库之内?如果能又以什么形式存储?这都是作为分布式技术要研究、考虑的基础问题。

三、基于HTAP的TDSQL强一致性技术实践

所以分布式数据库包含了比较多的内容:事务处理数据量的存储层面、计算层面等方面的问题,基于这些需求,我们展开了基础研究,做了TDSQL的HTAC系统,里面包含多种多样内容。这是我们系统的基础架构图,它看起来像一个单机系统,但是里面会有很多小的细节,可以看出其是一个分布式系统。

在这个系统里会包含多种多样的技术,其中核心的就是我刚才谈到的和事务处理相关的——怎么保证强一致。

而根据我们的研究,发现数据异常有无数个,无穷尽的东西,怎么去认知?这又形成新的挑战。TDSQL在做的一项工作事就是对数据异常归类,把数据异常分成有限的若干种,对它进行认知,基于这样的认知就可以定义什么叫隔离级别、什么叫一致性,怎么去影响、看待现有所有的并发访问控制算法,怎么和分布式一致性去结合,这都是TDSQL在研的一些基础技术,也是刚才谈到的一致性技术里面的基础内容。

接下来分享下我们做出的工作。左上角是学术界的认识,左下角是业界的现有产品对于强一致的支持程度,右下角是我们得出来的结果,我们把左上角那棵树变成了右下角的一张网,意思是把树上很多看似没有关联关系的节点交织在一起联系起来,这里面就涉及到强一致性相关的技术内容。

基于刚才的技术,我们研发出了多级一致性技术,即多种级别的可串行化技术,使得在分布式系统下,可串行化又可以分为多种级别。我们在谷歌云上买了Spanner服务,对比了Spanner,在GreenPlum上实现了多级一致性技术,又在MIT开源的一个系统上对比了多种并发访问控制算法,实验结果表明,TDSQL的性能都更好(该技术在2020年的DTCC上做过公开分享)。

最后总结,分布式数据库的挑战、问题在哪里?我以一个目录结构列出了这些内容。该目录结构分为两部分,左面部分是数据处理技术其自身对数据库的内在驱动需求,右面部分是基于数据库所处的外部环境对于数据库的驱动因素。大家可以观察目录所列的这些基本因素,以了解分布式数据库的相关技术点。数据库内在的需求其实有分布式和存储架构相关的,数据分布、存储管理、多副本、存算分离、多读多写、查询优化、MPP。这个思路其实和我刚才所分享的脉络是一脉相承的,又和高可用、和事务处理相关,这些都是分布式数据库的内在需求,驱动着数据库技术继续不断地前进。

从外面的来看,新硬件、智能数据库、云计算,这些是计算对于数据库系统的要求;HTAP,还有下一代所谓的New SQL,数据库也在不断地演进,此过程中还会产生一些新的技术和内容。所以做分布式数据库,大部分就是基于单机数据库系统,再做一些和分布式相关的事。分布式相关的事情大概是我前面提到的那些主流技术,这张目录结构把没有包括的基本核心内容都包含了。

其中,特别说明一点,是去中心化。做分布式数据库一定要考虑去中心化,也就是各个节点之间是对等的,考虑一个并发访问控制算法的时候,这个算法是不是去中心化的?它们之间的关系是不是对等的?都是要考虑的。

最后,如果大家对核心的基础技术感兴趣,可以关注我们3TS的系统,它的研究目标主要包括:比如分布式事务处理怎么去做,它和性能扩展性、安全性、一致性等等这些的关系是什么,怎么评价这个分布式数据库系统,数据异常有多少(我们回答了数据异常有无数个,但可以归类为有限种),并发访问控制算法怎么改进等技术。


期待和各位朋友深度交流。谢谢大家。

讲师简介

李海翔

腾讯云数据库专家工程师

腾讯云数据库专家工程师,负责腾讯TDSQL研发工作。中国人民大学信息学院工程硕士企业导师,CCF数据库专委会委员,DTCC(中国数据库技术大会)专家委员会委员。出版有《数据库查询优化器的艺术:原理解析与SQL性能优化》、《数据库事务处理的艺术:事务管理和并发访问控制》、《大数据管理》。申请与授权专利50+,VLDB等顶会论文若干篇。参与包括国家863重大专项、核高基、工信部、科技部等多项目。获北京市科技进步一等奖。

点击观看峰会的精彩总结视频????

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1171

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: “我们又错过了一艘船”?数据库的征程是星辰大海!
下一篇: 对数据库要求最苛刻的金融行业,这套架构凭什么异军突起?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值