“我们又错过了一艘船”?数据库的征程是星辰大海!

导语 | 关系型数据库体系已经走过了50年的历程,这期间数据库已经成为数字化时代的核心组件。近年来,国产数据库更是百花齐放,走上历史舞台。在历史发展的每个阶段,数据库技术都经历了哪些关键性的演进,在未来,数据库技术又将走向何方?本文由云和恩墨CEO、腾讯云TVP 盖国强在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术,到海量数据分析技术」 的《万象更新——数据库技术的发展与未来》演讲分享整理而成,为大家详尽介绍数据库技术的关键演进阶段、领先的技术探索方向,阐述国内数据库发展的最新动向。

点击可观看精彩演讲视频

一、数据库行业的三大趋势

我带来的主题是“万象更新”,今天,用这四个字来衡量中国的数据库领域是恰到好处的,市场上大量国产数据库不断涌现,不同的国产数据库在不同的场景里找到了更广阔的应用空间,这是数据库时代的中国时刻。

为了阐释这些观点,首先分享我对行业的一些判断。

1. 走进新数据库时代

首先我认为数据库的技术发展经过了三个时代:从商业数据库时代到开源时代,再演进到今天——我称之为新数据库时代。注意,很多人把今天这个时代称作“云数据库时代”,但是我更愿意用一个“新”字,因为国外和国内的数据库市场呈现出不同的发展格局。

商业数据库时代主要是以Oracle为代表,衍生了一系列商业数据库软件公司,这个时代,很多国产数据库公司在非常早期就开始了探索。

       

第二个时代是以MySQL为代表的开源数据库时代,开源成就了互联网,今天大家使用了很多腾讯的服务、产品,为什么能够得到快速的、廉价的甚至是免费的互联网服务?就是因为互联网的底座是由免费和开源的精神承载,开源技术成就了互联网。

第三,今天进入了新数据库时代。开源数据库技术依托云产生了价值,过去开源技术很难被评估产生了多少商业销售和商业价值,但今天在云上它们可以被贩售,它的价值就可以被量度。昨天Gartner发出的报告提到微软数据库已经超越了Oracle,成为了全球市场的第一,中国市场上腾讯云、阿里云和华为云是三大数据库的领先者,这说明什么?这说明在新的时代里云成为了数据库最重要的一个阵地。

但是中国的数据库领域还呈现出了新的特质——百花齐放的数据库生态。因为国产数据库的自主创新和迭代起步晚,仍要重走一遍国外的技术路,这是中国数据库呈现出的不同格局。TDSQL是从2012年就开始的,今天有一系列的国产数据库在市场上崭露头角。

2. 数据库成为云上的终极之战

第二个大的趋势是什么呢?是数据库最终成为了云上的终极之战。

因为云最基本的特质是以IaaS为基础,当完成了IaaS这一层的建设,紧接着是PaaS层,PaaS这一层就必须解决数据库的问题,谁能够率先打通PaaS层,谁就能够赢得竞争优势。

举个AWS的例子,AWS在2019年宣布将7500个Oracle数据库都彻底替换,为什么它是一个非常重要的事件?因为在每年甲骨文的全球大会上,Oracle都会嘲笑一次亚马逊:你们在云上卖开源的数据库、卖你们自己的云数据库,但其实你却要从我这儿购置大量的Oracle License。所以亚马逊就发出承诺,要把它们全部替掉,在2019年完成了。在这个替换的过程中最终呈现出来的本质是什么?我引用了亚马逊在替换完成之后他们的首席布道官的一段话,他说我们传统的DBA大部分工作时间消耗在数据库的扩容、存储的扩容以及License许可的谈判上,而传统DBA所做的这些工作今天都可以通过云自助来完成,这是本质上的变化,这个本质的变化是互联网的技术、云的技术使得传统工作可以自动化完成,我认为这本质上是变革的核心。

3. toB市场是数据库成败关键

在中国市场略有不同,我认为在中国市场将来会是一个公有云和混合云长期共存的时代,而且私有云仍然会占有广阔的市场。在这个发展格局之下会呈现出一种什么样的数据库格局?

我把它概括为,将云的体验最终要转移到数据上,既然不是所有的数据库、数据都能上到公有云,那么我们就需要将公有云那些最佳的用户体验、自动自治的特性转移到私有的数据环境部署上,这在分析报告里被称为叫TPC,是说仅仅有了IaaS和基础设施,不能成为一个真正的私有云,还需要具有互联网的用户体验、真正云的弹性伸缩等核心能力。所以我认为在数据库领域,尤其在中国市场上下一步的格局就是云的体验云下化,最终云上和云下会趋于一致,云会成为未来唯一的基础设施提供形态,只不过还有公有、私有的两种说法而已,本质内核趋同。

       

二、数据库技术的学术界观点

刚才谈的是我们在工业界生产实践中看到的几大趋势:从商业到开源到云时代,从云上到云下,云上体验的云下化。我们再来看看学术界在探讨什么,在思考什么。

近五十年间图灵奖所授予的5个数据库领域的大神,第一个是巴赫曼,他是网状数据库的发起者。第二个是科德,他是我们今天所在探讨的关系型数据库的缔造者,通过他1970年发表的一篇论文,催生了整个关系型数据库波澜壮阔的大格局,他在1981年获得了图灵奖。第三位是格雷,他是事务理论的深入探究者,他在工业实现上是包括微软等数据库产品的灵魂人物。第四位是迈克尔·斯通布雷克教授,他在2014年获得了图灵奖,也发起了很多数据库项目的创业公司。和大家重点分享一下在2021年刚刚获得了图灵奖的乌尔曼,他的主要成就是在教学领域,他写过非常著名的龙书,是很多数据科学家的启蒙导师。

大家可以稍微思考一下这样的演进过程发生了一些什么变化?从最早的理论奠基人到事务的探索者;再到斯通布雷克在工业界的产品化的尝试——从关系型行存到列存、到大数据,他探索了很多领域;再回归到今天我们说乌尔曼,他是从学术界、从学校的教育开始,去重新思考这些数据库理论是不是仍然有探索、创新、革新的可能性。我刚才和李海翔老师探讨,他说最近他在思考的就是这样一些事情,试图从事务模型上再做出新的思索创新。所以我把它看成是关系型数据库理论发展到山穷水复疑无路,但大家开始回头来看在这些基础理论上是不是还有柳暗花明的机会,这是我的观点。

乌尔曼教授在他最近的论文里提出了这样一个观点,叫“数据科学之战”。所以大家已经看到了我提到了两个战争,一场是说数据库是云上的终极之战,这是大家公认的;第二场是数据科学之战。在很长一段时间内数据库领域有一种悲观的声音,大家说数据库管理系统正在变得无关紧要,做数据库的人经常在谈的一句话是“我们是不是又错过了一艘船”,这艘船是数据科学。数据科学的蓬勃发展、火热的现状让做数据库的人觉得是不是我们又错过了一班最好的邮轮。但是乌尔曼教授提出,数据库以及因为数据库研究所产生的技术仍然是数据科学最本质的内核,这个没有变,数据库系统的核心一直是如何尽最大的可能去处理最大的数据量,并且应该去研究一切数据。我认为他把数据库的本质又重新阐述出来了,我们研究数据库的人、研究数据技术的人想做的是什么呢?就是存储一切数据,研究一切数据,最后在这些数据里产生洞察。如果人工智能能够在数据科学里发挥真正的创新作用,那这个世界可以变得更美好,但是它的底座一定是一些原生的数据。

三、Oracle 数据库的核心演进和创新

1. 宏观演进

既然学术界有这样一些看法,认为存储一切数据、研究一切数据仍然是数据管理系统的本质,那我想跟大家回顾一下在今天数据库领域里仍处于王者地位的Oracle是怎样走完这条路的。

我稍微列举了一下从Oracle8到今天走过的关键历程。在Oracle8这个版本上,大家看到Oracle已经推出了互联网版本8i,Oracle看互联网看得晚吗?不是,它从1998年开始就把产品定义为i,为互联网而生,1998年是什么时候?很多90后那时可能还在幼儿园,但那时的互联网已经在探讨数据库了。Oracle针对并行处理做研发、数据库原生的XML支持,这正好是我入行的时候,所以我最早就研究了这个技术在数据库里的实现。到了Oracle9i做了什么?它做了集群,并且集群真正走向成熟了,就是共享存储的分布式集群,Oracle开发自己的Linux发行版,开始做数据库的自动化技术。到了2004年Oracle10g的时候,做了Oracle自动化存储管理技术,这是一个非常成功的产品,它直接导致了市场上做存储软件的一些公司消失了,所以你可以想象它的影响力,这是非常重要的技术事件。

再到了2008年,进入Oracle11这个版本,它开始开发一体机产品,开始做数据库端的读写分离等技术,但是注意在这里我重点标出了一个时间点:2006年,AWS这时推出了S3技术,我认为Oracle数据库在发展的历程中只错过了一件事情,就是云。当AWS在2006年推出S3的时候,Oracle创始人在2008年是这样回复的,他说我认为云是用新瓶装了老酒,没有新的技术创新,是大家炒作的一个概念。可是我们现在回头去看,他的判断出错了,也正是因为这一步的判断出错,大家看到了现在数据库领域的领先者都是在云上成功的这些厂商,比如微软的云成功了,所以微软变成了数据库的第一,Oracle下降到了第二位。所以我们说洞察未来非常难,但是非常重要,它事关生死,这也是我们今天在这里讨论数据库未来的原因。

我们快速向下推进,Oracle在2017年推出的12c版本里开始做分布式,并不是像大家理解的Oracle没有分布式。在2018年的时候18c把它的集群也做成了分片式的架构,也支持了IOT。到了2019年在19c中它支持了智能化的索引——我认为智能化索引是一个创新,真正已经用到生产实践中了。再到20c——现在Oracle每年会发布一个版本,以年度进行命名,但是注意,因为疫情的原因其实20c没有发布,会合并到今年发布21c——持久化内存被应用到数据库里了,这说明什么?说明Oracle数据库仍然是一个具备创新力的产品,正在不断地把领先的技术用到数据库的内核中去,提供新的生产力,这里包括人工智能的索引,这些都代表了今天的前沿。包括它的多模、软硬结合——所以Oracle所走的这些技术路线在今天数据库领域看起来多数都是对的,它只错过了云这一件事情。

2. 微观演进

我刚才讲的其实是几个宏观上的概念,在微观上我找了一些小的要点跟大家分析一下。

数据库今天着眼于性能向前演进最重要的是什么?是把原来的串行点打散变成并行点,其实就是巨大的性能提升,不管是Oracle还是TDSQL,还是其他国产数据库,今天最主要的创新、性能提升是在做这样的事情。我举几个简单的例子:比如从Oracle9i的时候,开始把共享内存池进行分片拆分,拆成了七份;通过ASM把存储进行分布式地打散;把进程进行主从拆分。比如从12c,把日志写进程变成了主从,在几十年的历程中Oracle的日志写进程只有一个,单进程写日志,但是从12c开始变成了主从,这是一个艰难的改变,我们知道绝大多数数据库的性能瓶颈会产生在日志的同步落盘上,大家都在做优化。19c的实时统计信息,再加上到今天的19c智能化索引——其实这个智能化索引的思路比较简单,它就是把人的思维模拟出来,通过人的专家系统进行思考创建一个什么样的索引,去进行尝试确认,性能提升保留,性能下降则删除——但是真正落到工业实现实属不易。在20c里,提出了自动的参数调节以及自治的主备切换等等,把这些能力都融入数据库中,这是Oracle走过的40多年的技术变革之路,它仍然在这条路上向前奔驰。

四、以腾讯TDSQL为例,国产数据库的演进之路

我们再来看国产数据库如何走技术演进之路。我前面提到了关系型数据库技术从1970年科德博士的一篇论文开始,已经走过了50年的历程,这50年在我们做数据库的人眼里,很多时候觉得关系型数据库已经快到尽头了,它未来的路在哪里?我认为关系型数据库未来的路应该在中国,为什么在中国呢?是因为中国有最庞大的数据基础设施、最集中式的数据应用系统,所以这是我的判断。

如果我们在中国看,至少很多业务系统是省级集中的,而一个比较大的省份就可能有上亿的人口,这样集中式的数据基础设施在国外是不可想象的。关系型数据库理论走到今天为什么可以有突破?我认为就一定是在应用中找到突破,所以其实我也在看腾讯TDSQL的发展演进进化,从让TDSQL逐步地能用和走向成熟,这是完成了第一步迭代。第二步迭代,它必须在外部走到最广阔的用户群体、用户场景去使用,最值得大家关注的案例就是微众银行。微众银行今天做到的是单日交易峰值有6亿笔,最高TPS可以达到10万笔,这是一个什么概念?6亿笔的交易大家可以想像,这是多广大的一个用户群体能够创造出来的交易,这样频繁的、高频的交易一定会促使数据库不断地去完善、进步。如果大家用过Oracle的话会知道Oracle数据库在生产系统中能承载的交易峰值和并发的交易笔数,如果你能够见到一个超过每秒1万笔交易的Oracle数据库,已经是一个巨大的挑战,但是今天在互联网的模式下,在分布式的架构下,海量的应用、海量的高并发可以被支持,所以这是我认为在中国的场景下可以带来的催化剂,这些催化剂会促使数据库找到新的向上的空间。

展开来说,一旦一个开源数据库要应用到金融核心上,必须解决的核心问题是什么?第一个是数据安全问题,如何让数据保证一致性是绝对可信赖的,TDSQL进行了数据强一致的改造,主从节点默认是强同步的,这是一个技术创新。第二,当我们使用了分布式架构,也就意味着需要管理的数据节点会迅速膨胀,原来单一的数据库存储,现在在这种架构下可能会有成百上千的数据节点,这样成百上千的数据节点不能够再依赖人去做数据维护,因为做不到了,所以这里面有一组数据,有1万个服务节点在微众银行运行,怎么办?它一定要依赖于高度自动化的监控和故障处理手段,最好是不需要人介入,我认为这也是数据技术发展的重要未来。有了这些之后,我刚才提到整个TDSQL是基于分布式构建的,读写分离是它的基本要义,这样一个系统在支持这样的场景下逐渐找到了未来的发展之路。

这是一个两年前的案例,TDSQL在张家港农商行的客户场景下,把过去的金融交易核心彻底替代。微众银行是一家互联网银行,它的先天优势是没有历史包袱,但是对于一个传统银行,它的数据架构、数据应用是非常复杂的,不仅有交易、存取款、账户,还要有对账,这样复杂的业务场景如何在一个新的数据库架构上落地,其实很困难。这个案例腾讯和最终客户应该是通过两年多的时间才推到线上,现在看来结果是非常好的,一主三备模式,秒级的故障切换,我一直在关注。

但这个案例里给我另外一个非常重要的信息是TDSQL所提供的赤兔和扁鹊系统成为了自动化运维的一个根基,为什么我认为这非常重要?未来的数据库一定不是一个单一的数据库内核系统,而应该是一个数据库生态体系,包含了自动化运维、自治的主备切换、自治的高可用等特性,这些特性也是Oracle今天在做的,我认为在未来会是非常具备竞争力的核心特性。

五、数据库技术发展的未来方向

总结一下,刚才是所观察到的行业应用的变化、数据库技术从理论到实践的变化、Oracle的变化包括TDSQL的发展,现在看数据库的演进未来应该是什么样?首先我说数据库的更迭替代一定不是重走一次长征路,不能用国产数据库把商业数据库替换了,但是不好用,这样用户是没办法接受的,所以它一定不应该是功能和体验的降级,而应该是升级,但如何才能升级?我认为这五大方向是我们应该思考的:

第一是分布式,分布式能解决的是弹性伸缩、故障自愈,这两者同样重要,更重要的是当出现故障的时候不需要人紧急介入,它可以自愈。

第二是智能化,将人工智能技术应用到数据库里,比如去解决DBA过去所面临的核心挑战。DBA过去做优化,很大一部分工作是帮数据库去优化索引,所以Oracle在这一步上优先做的是智能索引,变成自动化,常规的基础工作完成了,索引变成智能的,执行计划是可控的,那么数据库就不再需要特别多的人力介入。

第三是多模化,这一点是有争议的。我前面提到了亚马逊把7500个Oracle数据库替换成了自己的云数据库,可以想象会用多少个云数据库去替换原来的7500个Oracle?很可能是75000个甚至是75万个,为什么?因为Oracle是一个多模数据库,里面可以存储大对象、IOT等各种类型的数据,尽管这种混合存储并不一定都能够达到最佳,但是对于用户呈现出的界面是最简单的。我认为数据库的发展一定也是分分合合的历程,走向分,最终也会走向合,单一的界面输出对于用户是最佳的,如果分散,那就要实现高度自动化。

第四是软硬一体,数据库技术一定不是独立发展的,它一定可以依赖硬件技术的进步取得卓越的性能提升,所以为什么很多数据库今天都在打造一体机?通过高速的网络以及高速NVME存储提升整体的性能,所以软硬协同发展不可缺少,将来最核心的是数据库技术应该下压到CPU处理器一级去做优化,我认为这是可以做到的,而且在中国未来一定也可以做到。

第五是云化融合,云会成为未来唯一的形态。虽然公有云和私有云仍然是两个世界,但是会趋同,技术栈、用户体验都会趋同,而且云上体验云下化是数据库技术发展当下一个最重要的趋势。

所以这五个观点融合在一起,代表了我对未来数据库发展的一些判断。重复一下,如果国产数据库希望让用户获得更好的体验而非降级,只有一个路径去弥补,就是自动化,通过自动化的生态和工具去解决这方面的问题,内核可能还比不上国际一流水准,但是自动化可以帮助用户不去面对底层复杂的基础设施。

最后点一下题,叫DBA的冰与火之歌。曾经很多DBA朋友一度陷入迷茫,尤其是在Oracle阵营的DBA们,他说在国产数据库的浪潮之下Oracle的DBA们还能生存吗?很多人经常问我会被历史淘汰吗?我说不会,首先我们认为数据一定会变成未来数字企业的核心资产,它会越来越重要,这是大家公认的一个前提。第二整个数据库的运行还是相对复杂的,它涉及到了主机、网络、存储,是一个全栈的技能需求,具有一定的技术壁垒,所以DBA们不要害怕失业。第三从原来的数据库管理,你积累的所有经验在今天可以找到更广阔的就业空间,如果我们充分理解Oracle或者MySQL技术,你甚至可以变成一个国产数据库的产品设计师、产品管理师、内核开发者,如果你能把对国外数据库的先进技术变成产品设计和实现驱动,你就变成了我们国产数据库的核心驱动力,所以国产时代我们的路不是变窄了,是变宽了,职业道路更加宽广明亮。DBA这个群体是非常乐于探索、分享、总结的一群人,只要我们具备了这样的能力,将我们原有的学习转移到新的技术路线上来一点都不复杂。

最后我还有一个思考,新的时代,我们做数据库的要记住这两句话:一主一备双引擎,商用开源两相宜。只学一个数据库一定不够,商业和开源都要接触、学习,并且互相校正。有一个主修、一个辅修,可以选择两个科目。在这个国产的时代,从短期看我们往往是高估了难度,从长期看我们总是低估了机遇,春江水暖鸭先知,如果你认识到了这个行业的变革,尽早转型,尽早投身到国产数据库的浪潮中去,那我们就是抓住机遇的第一批人。只有躬身入局,才能够领先一步。

讲师简介

盖国强

云和恩墨CEO、腾讯云TVP

云和恩墨创始人,ACDU 主席。中国地区最著名的Oracle技术推广者之一,他的专著《深入解析Oracle》、《循序渐进Oracle》等书籍受到Oracle技术爱好者的广泛好评。2009年,盖国强先生创建了云和恩墨,致力于为中国用户提供专业的数据服务、产品和解决方案,云和恩墨的 dbPaaS产品和专家服务,已经服务了国内外500多加企业级客户。2019年,他发起创立墨天轮技术社区和ACDU(All China DBA Union),致力于持续的数据知识和应用的传播和推广。

点击观看峰会的精彩总结视频????

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: Redis 进阶笔记
下一篇: 从TDSQL,看分布式数据库的技术之美
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值