突破关系型数据库桎梏:云原生数据库中间件核心剖析

NewSQL的三种分类中,新架构和云数据库涉及了太多与数据库相关的底层实现,为了保证本文的范围不至太过发散,我们重点介绍透明化分片数据库中间件的核心功能与实现原理,另外两种类型的NewSQL在核心功能上类似,但实现原理会有所差别。

一、数据分片

传统的将数据集中存储至单一数据节点的解决方案,在性能和可用性两方面已经难于满足互联网的海量数据场景。由于关系型数据库大多采用B+树类型的索引,在数据量超过阈值的情况下,索引深度的增加也将使得磁盘访问的IO次数增加,进而导致查询性能的大幅下降;同时高并发访问请求也使得集中式数据库成为系统的最大瓶颈。

在传统关系型数据库无法满足互联网场景需要的情况下,将数据存储至原生支持分布式的NoSQL的尝试越来越多。但NoSQL对SQL的不兼容性以及生态圈的不完善,使得它们在与关系型数据库的博弈中始终无法完成致命一击,关系型数据库的地位依然不可撼动。

数据分片,指按照某个维度将存放在单一数据库中的数据分散地存放至多个数据库或表中,以达到提升性能瓶颈及可用性的效果。数据分片的有效手段是对关系型数据库进行分库或分表。分库和分表均可以有效避免因为数据量超过可承受阈值而产生的查询瓶颈。

除此之外,分库还能够用于有效分散对数据库单点的访问量;而分表则能够提供尽量将分布式事务转化为本地事务的可能。使用多主多从的分片方式,可以有效避免数据单点,从而提升数据架构的可用性。

1、垂直分片

垂直分片又称为纵向拆分,它的核心理念是专库专用。在拆分之前,一个数据库由多个数据表构成,每个表对应着不同的业务。而拆分之后,则按照业务将表进行归类,分布到不同的数据库中,从而将压力分担到不同的数据库之上,如图:

2、水平分片

水平分片又称为横向拆分。相对于垂直分片,水平分片不是将数据根据业务逻辑分类,而是按照某个字段的某种规则将数据分散到多个库或表中,每个分片仅包含其中的一部分数据。

例如,根据ID的最后一位以10取余,尾数是0的放入0库(表),尾数是1的放入1库(表)。如图:

为了解决关系型数据库面对海量数据时因数据量过大而导致的性能问题,将数据进行分片是行之有效的解决方案。

将集中于单一节点的数据拆分并分别存储到多个数据库或表,称为分库分表。分库可以有效分散由高并发所带来的对数据库访问的压力。分表虽然无法缓解数据库压力,但仅跨分表的更新操作,依然能使用数据库原生的ACID事务;而一旦涉及到跨库的更新操作,分布式事务的问题就会变得无比复杂。

通过分库和分表拆分数据使得各个表的数据量保持在阈值以下。垂直分片往往需要对架构和设计进行调整,通常来讲,是来不及应对互联网快速变化的业务需求的,而且它也无法真正解决单点瓶颈。而水平分片从理论上突破了单机数据量处理的瓶颈,并且扩展相对自由,是分库分表的标准解决方案。

分库和读写分离疏导流量是应对高访问量的常见手段。分表虽然可以解决海量数据导致的性能问题,但无法解决过多请求访问同一数据库导致的响应变慢问题。所以水平分片通常采取分库的方式,一并解决数据量和访问量巨大的问题。读写分离是另一个疏导流量的办法,但读写数据间的延迟是架构设计时需要考虑的问题。

虽然分库可以解决上述问题,但分布式架构在获得了收益的同时,也带来了新的问题。面对如此散乱的分库分表之后的数据,应用开发和运维人员对数据库的操作变得异常繁重就是其中的重要挑战之一。他们需要知道什么样的数据需要从哪个具体的数据库的分表中去获取。

新架构的NewSQL与数据分片中间件在这个功能的处理方式上是不同的:

  • 新架构的NewSQL会重新设计数据库存储引擎,将同一表中的数据存储在分布式文件系统中。

  • 数据分片中间件则是尽量透明化分库分表所带来的影响,让使用方尽量像使用一个数据库一样使用水平分片之后的数据库。

跨库事务是分布式数据库要面对的棘手事情。合理采用分表,可以在降低单表数据量的情况下,尽量使用本地事务,善于使用同库不同表可有效避免分布式事务带来的麻烦。在不能避免跨库事务的场景,有些业务仍需保持事务的一致性。而基于XA的分布式事务由于性能低下,无法被互联网公司所采纳,大多采用最终一致性的柔性事务代替分布式事务。

3、读写分离

面对日益增加的系统访问量,数据库的吞吐量面临着巨大瓶颈。对于同一时间有大量并发读操作和较少写操作类型的应用系统来说,将单一的数据库拆分为主库和从库,主库负责处理事务性的增删改操作,从库负责处理查询操作,能够有效的避免由数据更新导致的行锁,使得整个系统的查询性能得到极大改善。

通过一主多从的配置方式,可以将查询请求均匀分散到多个数据副本,能够进一步提升系统的处理能力。

使用多主多从的方式,不但能够提升系统的吞吐量,还能够提升系统的可用性,可以达到在任何一个数据库宕机,甚至磁盘物理损坏的情况下仍然不影响系统的正常运行。

读写分离本质上是数据分片的一种。与将数据根据分片键打散至各个数据节点的水平分片不同,读写分离则是根据SQL语义的分析,将读和写请求分别路由至主库与从库。读写分离的数据节点中的数据是一致的,而水平分片每个数据节点的数据内容却并不相同。将水平分片和读写分离联合使用,能够更加有效的提升系统性能,但同时也让系统维护更复杂。

虽然读写分离可以提升系统的吞吐量和可用性,但同时也带来了数据不一致的问题,这包括多个主库之间的数据一致性及主库与从库之间的数据一致性问题。并且,读写分离也带来了与数据分片同样的问题,它也会使得应用开发和运维人员对数据库的操作和运维变得更加复杂。

透明化读写分离所带来的影响,让使用方尽量像使用一个数据库一样使用主从数据库,是读写分离的主要功能。

4、核心流程

数据分片核心是由SQL解析、SQL路由、SQL改写、SQL执行及结果归并的流程组成。为了保持原有的应用程序实现低接入成本,则需兼容对数据库的访问,因此需要进行数据库协议的适配。

协议适配

NewSQL对传统关系型数据库的兼容性,除了SQL之外,兼容数据库的协议可以降低使用方的接入成本。开源的关系型数据库均能通过实现它的协议标准,将自己的产品装扮成原生的关系型数据库。

由于MySQL和PostgreSQL流行度较高,很多NewSQL会实现它们的传输协议,让使用MySQL和PostgreSQL的用户能够无需修改业务代码就自动接入NewSQL产品。

MySQL协议

MySQL是当前最为流行的开源数据库。要了解它的协议,可以通过MySQL的基本数据类型、协议包结构、连接阶段和命令阶段这4方面入手。

基本数据类型

MySQL协议包中所有的内容均由MySQL所定义的基本数据类型组成,具体数据类型参见下表:

MySQL基本数据类型

在需要将二进制数据转换为MySQL可理解的数据时,MySQL协议包将根据数据类型预先定义的位数读取,并转换为相应的数字或字符串;反之亦然,MySQL会将每个字段按照规范中规定的长度写入协议包。

协议包结构

MySQL协议由一个或多个MySQL协议包(MySQL Packet)组成。无论类型如何,它均由消息长度(Payload Length)、序列主键(Sequence ID)和消息体(Payload)这3部分组成:

  • 消息长度为int<3>类型。它表示随后的消息体所占用的字节总数。需要注意的是,消息长度并不包含序列主键的占位在内。

  • 序列主键为int<1>类型。它表示一次请求后返回的多个MySQL协议包中,每个协议包的序号。占位为1字节的序列主键最大值为0xff,即十进制的255,但这并非表示每次请求最多只能包含255个MySQL协议包,超过255的序列主键将再次从0开始计数。例如一次查询可能返回几十万的记录,那么MySQL协议包只需保证其序列主键连续,将大于255的序列主键重置为0,重新开始计数即可。

  • 消息体的长度为消息长度所声明的字节数。它是MySQL协议包中真正的业务数据,根据不同的协议包类型,消息体的内容也不同。

连接阶段

连接阶段用于创建MySQL的客户端与服务端的通信管道。该阶段主要执行交换并匹配MySQL客户端与服务端的版本功能描述(Capability Negotiation)、创建SSL通信管道及验证授权这3个任务。下图以MySQL服务端为视角绘制了连接创建流程图:

MySQL连接阶段流程图

该图并未包含MySQL服务端与客户端的交互。实际上,MySQL的连接创建是由客户端发起的。

MySQL服务端在接收到客户端的连接请求后,先进行服务端和客户端版本间所具有的功能信息的交换和匹配(Capability Negotiation),然后根据两端的协商结果生成不同格式的初始化握手协议包,并向客户端写入改协议包。协议包中包括由MySQL服务端分配的连接主键、服务端当前版本功能描述(Capabilities)以及为验证授权生成的密文。

MySQL客户端在接收到服务端发送的握手协议包后,将发送握手协议响应包。该协议包中主要包含的信息是用于数据库访问的用户名及加密后的密码密文。

MySQL服务端接收到握手协议响应包之后,即进行授权校验,并将校验结果返回至客户端。

命令阶段

连接阶段成功之后,则进入命令执行的交互阶段。MySQL一共有32个命令协议包,具体类型参见下图:

MySQL命令包

MySQL的命令协议包分为4个大类,分别是:文本协议、二进制协议、存储过程及数据复制协议。

协议包消息体中的首位用于标识命令类型。协议包根据名称即可望文生义,在这里无需一一解释它们的具体用途,下文会解析几个重点的MySQL命令协议包:

  • COM_QUERY

COM_QUERY是MySQL用于以明文格式查询的重要命令,它对应JDBC中的java.sql.Statement。COM_QUERY命令本身较为简单,它由标识符和SQL组成:

1              [03] COM_QUERY

string[EOF]    the query the server shall execute

COM_QUERY的响应协议包则较为复杂,见下图:

MySQL查询命令流程图

COM_QUERY根据其场景有可能返回4种类型,它们是:查询结果、更新结果、文件执行结果及错误结果。

当执行过程中出现如网络断开、SQL语法不正确等错误时,MySQL协议要求将协议包首位设置为0xff,并将错误信息封装至ErrPacket协议包返回。

通过文件执行COM_QUERY的情况并不常见,此处不再过多说明。

对于更新请求,MySQL协议要求将协议包首位设置为0x00,并返回OkPacket协议包。OkPacket协议包需要包含本次更新操作所影响的行记录数及最后插入的主键值信息。

查询请求最为复杂,它需要将读取int<lenenc>的方式获得结果集字段的数目创建为独立的FIELD_COUNT协议包返回。然后再依次将返回字段的每一列详细信息分别生成独立的COLUMN_DEFINITION协议包,查询字段的元数据信息最终以一个EofPacket结束。之后便可以开始逐行生成数据协议包Text Protocol Resultset Row,它本身并不关注数据的具体类型,会统一将其转换为string<lenenc>格式。数据协议包最终依然以一个EofPacket结束。

对应于JDBC中java.sql.PreparedStatement的操作,则是由MySQL协议包中的二进制协议组成,它们由COM_STMT_PREPARE、COM_STMT_EXECUTE、COM_STMT_ CLOSE、COM_STMT_RESET和COM_ STMT_SEND_LONG_DATA这5个协议包组成。其中最为重要的是COM_STMT_PREPARE和COM_STMT_ EXECUTE,它们分别对应JDBC中的connection.prepareStatement()方法以及connection.execute()&connection.executeQuery()&connection.executeUpdate()方法。

  • COM_STMT_PREPARE

COM_STMT_PREPARE协议包与COM_QUERY协议包类似,同样是由命令标识符和SQL组成:

1              [16] COM_STMT_PREPARE

string[EOF]    the query to prepare

COM_STMT_PREPARE协议包的返回值并非查询结果,而是由statement_id、列数目和参数数目等信息组成的响应协议包。statement_id是由MySQL分配给完成预编译之后的SQL的唯一标识,通过statement_id即可从MySQL中获取相应的SQL。

由COM_STMT_PREPARE命令注册过的SQL,只需将statement_id传给COM_STMT_EXECUTE命令即可,无需将SQL本身再次传入,节省了无谓的网络带宽消耗。

而且MySQL可以根据COM_STMT_PREPARE传入的SQL预编译为抽象语法树以供复用,进而提升SQL的执行效率。采用COM_QUERY的方式执行SQL,则需要将每条SQL重新编译。这也是PreparedStatement比Statement效率更佳的原因所在。

  • COM_STMT_EXECUTE

COM_STMT_EXECUTE协议包主要由statement-id和与SQL的配对的参数组成。它使用了一个名为NULL-bitmap的数据结构,用于标识参数中的空值。

COM_STMT_EXECUTE命令的响应协议包与COM_QUERY命令的响应协议包类似,都是采用字段元数据和查询结果集的格式返回,中间依然使用EofPacket间隔。

有所不同的是,COM_STMT_EXECUTE命令的响应协议包使用Binary Protocol Resultset Row来代替Text Protocol Resultset Row,它不会无视数据的类型统一转换为字符串,而是根据返回数据的类型,写入相应的MySQL基本数据类型,进一步节省网络传输的带宽。

其他协议

除了MySQL协议,PostgreSQL协议和SQLServer协议也是完全开源的,可以通过同样的方式实现。而另一个常用的数据库Oracle协议并不开源,无法通过这种方式实现。

SQL解析

相对于其他编程语言,SQL是比较简单的。不过,它依然是一门完善的编程语言,因此解析SQL语法与解析其他编程语言(如:Java语言、C语言、Go语言等)并无本质区别。

解析过程分为词法解析和语法解析。先通过词法解析将SQL拆分为一个个不可再分的单词。再使用语法解析器将SQL转换为抽象语法树。最后通过访问抽象语法树,提炼出解析上下文。

解析上下文包括表、选择项、排序项、分组项、聚合函数、分页信息、查询条件。如果是分片中间件类型的NewSQL还需要记录可能修改的占位符标记。

将SQL:select username, ismale from userinfo where age > 20 and level > 5 and 1 = 1解析为抽象语法树:

抽象语法树

生成抽象语法树的第三方工具有很多,ANTLR是不错的选择。它可以通过开发者定义的规则生成抽象语法树的Java代码并提供访问者接口。相比于代码生成,手写抽象语法树在执行效率方面会更加高效,但是工作量也比较大。对性能要求高的场景中,可以考虑定制化抽象语法树。

请求路由

根据解析上下文匹配数据分片策略,并生成路由路径。对于携带分片键的SQL路由,根据分片键的不同可以划分为单片路由(分片操作符是等号)、多片路由(分片操作符是IN)和范围路由(分片操作符是BETWEEN)。不携带分片键的SQL则采用广播路由。

分片策略通常可由数据库内置或由用户方配置。数据库内置的方案较为简单,内置的分片策略大致可分为尾数取模、哈希、范围、标签、时间等;由用户方配置的分片策略则更加灵活,可以根据使用方需求定制复合分片策略。

SQL改写

新架构的NewSQL无需SQL改写,这部分主要是针对分片中间件类型的NewSQL。它用于将SQL改写为在真实数据库中可以正确执行的语句。包括将逻辑表名称替换为真实表名称,将分页信息的起始取值和结束取值改写,增加为排序、分组和自增主键使用的补列,将AVG改写为SUM/COUNT等。

结果归并

将多个执行结果集归并并统一对应用端输出。结果归并包括流式归并和内存归并:

  • 流式归并用于简单查询、排序查询、分组查询及排序和分组但排序项和分组项完全一致的场景,流式归并结果集的遍历方式是通过每一次调用next方法取出,无需占用额外的内存。

  • 内存归并则需要将结果集中所有数据加载至内存处理,如果结果集数据过多,会占用大量内存。

二、分布式事务

前文提到过,数据库事务是需要满足ACID(原子性、一致性、隔离性、持久性)这四个特性的:

  • 原子性(Atomicity)指事务作为整体来执行,要么全部执行,要么全不执行。

  • 一致性(Consistency)指事务应确保数据从一个一致的状态转变为另一个一致的状态。

  • 隔离性(Isolation)指多个事务并发执行时,一个事务的执行不应影响其他事务的执行。

  • 持久性(Durability)指已提交的事务修改数据会被持久保存。

在单一数据节点中,事务仅限于对单一数据库资源的访问控制,称之为本地事务。但在基于SOA的分布式应用环境下,越来越多的应用要求对多个数据库资源、多个服务的访问都能纳入到同一个事务当中,分布式事务应运而生。

关系型数据库虽然对本地事务提供了完美的ACID原生支持。但在分布式的场景下,它却成为系统性能的桎梏。如何让数据库在分布式场景下满足ACID的特性或找寻相应的替代方案,是分布式事务的重点工作。

1、XA协议

最早的分布式事务模型是由X/Open国际联盟提出的X/Open Distributed Transaction Processing(DTP)模型,简称XA协议。

DTP模型中通过一个全局事务管理器与多个资源管理器进行交互。全局事务管理器负责管理全局事务状态和参与事务的资源,资源管理器则负责具体的资源操作,DTP模型与应用程序的关系见下图:

DTP模型

XA协议使用两阶段提交来保证分布式事务原子性。它将提交过程分为准备阶段和提交阶段。

  • 在准备阶段时,全局事务管理器向每个资源管理器发送准备消息,用于确认本地事务操作的成功与否;

  • 在提交阶段时,若全局事务管理器收到了所有资源管理器回复的成功消息,则向每个资源管理器发送提交消息,否则发送回滚消息。资源管理器根据接收到的消息对本地事务进行提交或回滚操作。

下图展示了XA协议的事务流程:

XA事务流程

二阶段提交是XA协议的标准实现。它将分布式事务的提交拆分为两阶段:prepare和commit/rollback。

开启XA全局事务后,所有子事务会按照本地默认的隔离级别锁定资源,并记录undo和redo日志,然后由TM发起prepare投票,询问所有的子事务是否可以进行提交:当所有子事务反馈的结果为“yes”时,TM再发起commit;若其中任何一个子事务反馈的结果为“no”,TM则发起rollback;如果在prepare阶段的反馈结果为yes,而commit的过程中出现宕机等异常时,则在节点服务重启后,可根据XA recover再次进行commit补偿,以保证数据的一致性。

基于XA协议实现的分布式事务对业务侵入很小,它最大优势就是对使用方透明,用户可以像使用本地事务一样使用基于XA协议的分布式事务。XA协议能够严格保障事务ACID特性。

但严格保障事务ACID特性是一把双刃剑。

事务执行在过程中需要将所需资源全部锁定,它更加适用于执行时间确定的短事务,对于长事务来说,整个事务进行期间对数据的独占,将导致对热点数据依赖的业务系统并发性能衰退明显。因此,在高并发的性能至上场景中,基于XA协议的分布式事务并不是最佳选择。

2、柔性事务

如果将实现了ACID事务要素的事务称为刚性事务的话,那么基于BASE事务要素的事务则称为柔性事务。BASE是基本可用(Basically Available)、柔性状态(Soft state)和最终一致性(Eventually consistent)这三个要素的缩写:

  • 基本可用保证分布式事务参与方不一定同时在线;

  • 柔性状态允许系统状态更新有一定的延时,这个延时对客户来说不一定能够察觉;

  • 最终一致性通常是通过消息可达的方式保证系统的最终一致性。

在ACID事务中对隔离性的要求很高,在事务执行过程中,必须将所有的资源锁定。柔性事务的理念则是通过业务逻辑将互斥锁操作从资源层面上移至业务层面。通过放宽对强一致性要求,来换取系统吞吐量的提升。

由于在分布式系统中,可能会出现超时重试的情况,因此柔性事务中的操作必须是幂等的,需要通过幂等来避免多次请求所带来的问题。实现柔性事务的方案主要有最大努力送达、Saga和TCC。

最大努力送达

是最简单的一种柔性事务,它适合对于数据库的操作最终一定能够成功的场景。由NewSQL自动记录执行失败的SQL,并反复尝试,直至执行成功。使用最大努力送达型的柔性事务是没有回滚功能的。

这种类型的柔性事务实现最为简单,但是对场景的要求十分苛刻。这种策略的优点是无锁定资源时间,性能损耗小。缺点是尝试多次提交失败后,无法回滚,它仅适用于事务最终一定能够成功的业务场景。因此它是通过事务回滚功能上的妥协,来换取性能的提升。

Saga

Saga源于1987年由Hector Garcaa-Molrna和Kenneth Salem发表的论文。

论文参考链接:

www.cs.cornell.edu/andru/cs711/2002fa/reading/sagas.pdf

Saga事务更适合使用长事务的场景。它由多个本地事务所组成,每个本地事务有相应的执行模块和补偿模块,任何一个本地事务出错时,可以通过调用相关的补充方法达到事务的最终一致性。

Saga模型将一个分布式事务拆分为多个本地事务,每个本地事务都有相应的执行模块(Transaction)和补偿模块(Compensation)。当Saga事务中的任一本地事务执行失败时,可以通过调用其相关补偿方法恢复之前的事务,以达到事务最终的一致性。

当每个Saga子事务T1,T2,…,Tn都有对应的补偿定义C1,C2,…,Cn-1,那么Saga系统可以保证:

  • 子事务序列T1,T2,…,Tn得以完成 。这是事务的最佳情况,即无需回滚的情况。

  • 或者序列T1,T2,…,Tx, Cx,…,C2,C1,(其中x小于n)得以完成。它能够保证当回滚发生时,补偿操作按照正向操作相反的顺序依次执行。

Saga模型同时支持正向恢复以及逆向恢复。正向恢复是指重试当前失败的事务,它的实现前提是每个子事务都能够最终执行成功;向后恢复则是前文提及的,在任一子事务失败时,补偿所有已完成的事务。

显然,正向恢复没有必要提供补偿事务,如果在业务中的子事务最终总会成功,那么向前恢复则能够降低Saga模型的使用复杂度。另外,如果补偿事务难以实现,则正向恢复也是不错的选择。

虽然在理论上来讲,补偿事务永不失败。然而,在分布式的世界中,服务器可能会宕机、网络可能会失败,甚至数据中心也可能会停电。因此,需要提供故障恢复后回退的机制,比如人工干预。

Saga模型没有XA协议中的准备阶段,因此事务没有实现隔离性。如果两个Saga事务同时操作同一资源则会产生更新丢失,脏数据读取等问题。这就需要使用Saga事务的应用程序需要在应用层面加入资源锁定的逻辑。

TCC

TCC(Try-Confirm-Cancel)分布式事务模型通过对业务逻辑的分解来实现分布式事务。顾名思义,TCC事务模型需要业务系统提供以下三段业务逻辑:

  • Try。完成业务检查,预留业务所需资源。Try操作是整个TCC的精髓所在,可灵活选择业务资源锁的粒度。

  • Confirm。执行业务逻辑,直接使用Try阶段预留的业务资源,无需再次做业务检查。

  • Cancel。释放Try阶段预留的业务资源。

TCC模型仅提供两阶段原子提交协议,保证分布式事务原子性。事务的隔离交给业务逻辑来实现。TCC模型的隔离性思想就是通过业务的改造,从数据库资源层面加锁上移至业务层面加锁,从而释放底层数据库锁资源,放宽分布式事务锁协议,提高系统的并发性。

虽然在柔性事务中,TCC事务模型的功能最强,但需要应用方负责提供实现Try、Confirm和Cancel操作的三个接口,供事务管理器调用。因此业务方改造的成本较高。

以A账户向B账户汇款100元为例,下图展示了TCC对业务的改造:

汇款服务和收款服务分别需要实现,Try-Confirm-Cancel接口,并在业务初始化阶段将其注入到TCC事务管理器中。

汇款服务

Try

  • 检查A账户有效性,即查看A账户的状态是否为“转帐中”或者“冻结”;

  • 检查A账户余额是否充足;

  • 从A账户中扣减100元,并将状态置为“转账中”;

  • 预留扣减资源,将从A往B账户转账100元这个事件存入消息或者日志中。

Confirm

  • 不做任何操作。

Cancel

  • A账户增加100元;

  • 从日志或者消息中,释放扣减资源。

收款服务

Try

  • 检查B账户账户是否有效。

Confirm

  • 读取日志或者消息,B账户增加100元;

  • 从日志或者消息中,释放扣减资源。

Cancel

  • 不做任何操作。

由此可以看出,TCC模型对业务的侵入较强,改造的难度较大。

消息驱动

消息一致性方案是通过消息中间件保证上下游应用数据操作的一致性。基本思路是将本地操作和发送消息放在一个本地事务中,下游应用向消息系统订阅该消息,收到消息后执行相应操作。本质上是依靠消息的重试机制,达到最终一致性。下图是消息驱动的事务模型:

消息驱动的缺点是:耦合度高,需要在业务系统中引入消息中间件,导致系统复杂度增加。

总的来说,基于ACID的强一致性事务和基于BASE的最终一致性事务都不是银弹,只有在最适合的场景中才能发挥它们的最大长处。详细对比一下它们之前的区别,以帮助开发者进行技术选型。由于消息驱动与业务系统的耦合度较高,因此不列入对比表格:

一味的追求强一致性未必是最合理的解决方案。对于分布式系统来说,建议使用“外柔内刚”的设计方案。外柔指的是在跨数据分片的情况下使用柔性事务,保证数据最终一致即可,并且换取最佳性能;内刚则是指在同一数据分片内使用本地事务,以达到ACID的效果。

三、数据库治理

1、基础治理

前文讲述的服务治理,在数据库的基础治理部分大都是通用的。主要包括配置中心、注册中心、限流、熔断、失效转移、调用链路追踪等:

  • 配置中心用于配置集中化以及动态配置更新及通知下发;

  • 注册中心用于服务发现,这里的服务是指数据库中间层实例本身,通过它可以实现状态监测及自动通知,进而使得数据库中间件具备高可用和自我治愈能力;

  • 限流用于流量的过载保护,分为数据库中间件本身的流量过载保护和对数据库的流量过载保护;

  • 熔断也是流量过载的保护措施之一,它的不同之处在于熔断整个客户端对数据库的访问,以保护数据库能够为其他流量正常的系统继续提供服务,可以通过前文讲的熔断器模式实现自动熔断机制;

  • 失效转移用于多数据副本的情况,在数据完全一致的多数据节点中,当某一节点不可用后,可通过失效转移的机制让数据库中间件访问至另外有效的数据节点操作数据;

  • 调用链路追踪则是将对数据库访问的调用链路、性能、拓扑关系等指标以可视化的方式展现出来。

2、弹性伸缩

数据库治理与服务治理不同的关键点在于,数据库是有状态的,每个数据节点都有自己持久化的数据,因此很难像服务化一样做到弹性伸缩。

当系统的访问量和数据量超过之前评估的预期时,往往涉及到对数据库的重新分片。虽然使用日期分片等策略时,可以在无需迁移遗留数据的情况下直接扩容,但在大部分场景中,数据库中的遗留数据往往无法直接映射到新的分片策略中。分片策略的修改则需要进行数据的迁移。

在传统的系统中,停止服务进行数据迁移,迁移结束之后再重启服务是行之有效的解决方案。但这种方案使得业务方的数据迁移成本非常高,需要业务方工程师精准的评估数据量。

在互联网场景中,系统可用性要求极高,而且业务爆发性增长的可能性较传统行业也更加常见。在云原生的服务架构模型中,弹性伸缩是常见的需求,并且可以比较轻松的实现。因此与服务对等的数据弹性伸缩功能,是云原生数据库的重要能力。

除了系统预分片之外,弹性伸缩的另一个实现方案是在线数据迁移。在线数据迁移经常被比喻为“在飞行过程中给飞机换引擎”,它最大的挑战是如何保证迁移过程使服务不受影响。在线数据迁移可以在修改了数据库的分片策略之后(比如将根据主键%4分为4个库的分片方式改为根据主键%16的16个库的分片方式),通过一系列的系统化操作,保证数据正确的迁移到新的数据节点的同时,让依赖数据库的服务完全无需感知。它可以分为以下4个步骤:

  • 同步线上双写。即同时将数据写入分片策略修改前的原数据节点及分片策略修改后的新数据节点。可以通过一致性算法来保证双写的一致性,如前文介绍过的Paxos或Raft算法;

  • 历史数据迁移。以离线的方式,将需要迁移到新数据节点部分的历史存量数据从原有数据节点迁移过去。可以通过SQL的方式,也可以通过binlog等二进制方式进行处理;

  • 数据源切换。将读写请求切换至新的数据源,并停止对原数据节点的双写;

  • 清理冗余数据。在旧数据节点中,清理已迁移至新数据节点的相关数据。

在线数据迁移不仅可以做数据扩容,也可以通过同样的方式在线进行DDL操作。由于数据库原生的DDL操作是不支持事务的,而且在对包含大量数据表做DDL时会导致长时间锁表,因此,通过在线数据迁移的方式,是能够支持在线DDL操作的。在线DDL操作与数据迁移步骤是一致的,只需要在迁移之前新建一个DDL修改后的空表,然后根据上述4步骤进行即可。

企业IT预算不高,但又有业务硬需求,怎么办?即日起至3月31日,京东云“开年嗨购季”云主机、云数据库、云存储、云硬盘、云安全等多类爆款产品低至1.4折起!还有京鱼座C1智能音箱、京鱼座I8智能音箱、iPhone 12 64G手机等豪礼相送!点击【阅读原文】,查看活动详情。

相关推荐

GPT-6凌晨上线智能UI:智能UI时代的技术架构重构与应对之道

从命令行到图形界面,计算机行业用了三十年证明了同一件事:人类需要视觉的、空间的、可重复的交互表面,纯文字从来只是过渡形态。智能界面的出现,意味着AI行业第一次大规模承认了这个规律——对话是创造的接口,界面是使用的归宿。生成的界面如何稳定下来?个人的数据与身份如何安全地沉淀?Agent的行动能力如何可信地放大?谁能把这三个问题答好,谁就站在了Personal Agent图形界面时刻的浪潮之巅。

京东科技开发者 218

AI 会写代码之后,交付为什么还没变快?

AI 写代码,只是这场变革的起点,而不是终点。真正决定一个组织能否吃到 AI 红利的,不是"能不能用 AI 写出代码",而是敢不敢用 AI 重新设计交付流程、重新划分角色分工、重新组织团队结构。研发视角能把工具和个人推到极致,却会在组织的边界前止步;只有站上组织视角,把AI × 工具一路推进到AI × 组织,那些被 AI 照出来的摩擦,才会真正被抹平。国际技术部 Multi AI Native 想做的,正是这件事——让 Agent 成为你可靠的数字战友,让每一次迭代交付都快一个量级;

京东科技开发者 309

OxygenData-Vibe搭建:用 AI Coding重新定义数据看板搭建

长期以来,数据看板开发主要有两种方式:一种是使用标准化 BI 工具,交付快、成本低,但图表样式、交互体验和功能扩展都受限于 BI 本身的能力;另一种是自研定制开发,能够充分满足复杂和个性化需求,但需要投入大量研发资源,交付周期也更长。比如一个通过 BI 只需要 1 天就能搭建出来的看板,如果采用自研方式,可能需要投入 30 PD 的研发人力。既然 BI 交付这么快,为什么不把所有看板需求都交给 BI?原因在于,业务某些场景需要的不只是把数据展示出来。

京东科技开发者 373

当我谈数据库高可用时我谈些什么

大家都经常听到说数据库的双1,那双1指的是什么呢?参数=1(最安全)≠1(更快但可能丢)每次提交都把 redo 刷盘0/2:攒着刷,崩溃丢最近 1 秒每次提交都把 binlog 刷盘0/N:攒着刷,崩溃丢最近若干条"双 1"(都设为 1)= 单机不丢已提交事务的前提。生产核心库必须双 1;代价是每次提交两次 fsync。小结:单机层用 WAL 提速、用 2PC 保证 redo/binlog 一致、用崩溃恢复裁决半成品事务、用双 1 兜底持久性。

京东科技开发者 317

ScoAI:面向供应链的运筹原生决策智能

ScoAI 关注的并非 AI 能否进入供应链,而是 AI 参与供应链决策之后,哪些内容适合通过数据学习,哪些关系必须显式计算,以及哪些结果需要依据执行记录进行验证。其基本分工是:供应链业务定义问题、资源与行动后果,运筹学表达目标、约束和协同关系,AI 提供可复用的估计与判断。真正用于改进后续决策的,不仅是模型生成的初始结果,还包括实际采取的行动及其产生的业务反馈。

京东科技开发者 405

拆解海博 AI-Native 落地保障:海博团队 AI 知识库能力建设

绕了一大圈,回头看,我们其实一直在解开头那三个结:AI 读不懂系统、影响面靠人脑记、测试预期没处查。做到这里,本质上是把"AI 用不好"这个问题,从"是不是该换个更强的模型"重新定义成了"怎么把上下文经营好"。顺着这个思路,我们攒下了这么几样东西:•。

京东科技开发者 560

从零构建一个生产级记忆型 AI Agent —— AgentScope 项目全景技术与学习指南

domain 层端口接口(domain)职责适配器实现(infra)对话流水账读写经验记忆检索/落库请求级幂等四态会话元数据 CRUD会话级 Skill 选择态Skill 元数据HITL 权限网关(domain 内含逻辑,见第四篇)StreamSink技术中立的流式下沉(client 层桥接)以幂等端口为例,头部注释明确写道:实现 domain 端口,持有实体不出 infra 边界,对外只暴露嵌套视图GateResult。

京东科技开发者 612

数据涅槃:Agentic 重塑搜推数据生产体系

当前大模型已经能够理解需求、生成代码和解释错误,但数据生产的难点并不只是“写出一段 SQL”。一个需求还要经过数据源确认、口径澄清、加工编排、资源规划、任务提交、调度运行、结果交付和故障处置。任何一步缺少都可能让“看起来正确”的任务变成生产事故。

京东科技开发者 377

81.8 秒的视频,我们改了 15 个版本:一次纯 Codex 驱动的 AI-native 视频实践

81.8 秒、15 个版本,这些数字真正想说明什么?视频制作正在从一组专业软件里的复杂操作,变成一场围绕目标、参考和反馈展开的持续对话。AI 已经可以接住从脚本到交付的大量工作。你可以把精力留给更重要的部分:理解观众、选择故事、判断好坏。过去停在 PPT 和脑海里的想法,现在有机会被快速做成一支能看、能改、也愿意转发的视频。如果明天就要介绍你手头的项目,你最想先把哪一步交给 AI?

京东科技开发者 466

Codex 驱动的移动端AI全栈开发:从 Relay 原型图到可交付链路

AI 编程工具降低了跨端开发门槛,但“让 AI 写页面”并不等于“完成移动端交付”。PC 运营端页面通常以功能闭环为中心,设计约束较弱,研发可以基于组件库快速搭建;移动端 C 端页面直接面对用户,Relay 原型图和 UI 设计稿不仅是视觉参考,更是交互、信息层级、状态反馈和业务信任感的综合契约。

京东科技开发者 592

Claude Code vs Codex 记忆体系深度对比

Claude Code —— 分层自动记忆系统四层分层架构(CLAUDE.md / Auto Memory / Session Memory / AutoDream)构成自优化闭环,系统主动捕获、分类、去冗并跨会话接力经验。走的是自动化优先路线——让机器替人记忆、替人整理,以少量可控性的不确定换取强大的经验积累能力。Codex —— 声明式契约系统两层扁平架构(AGENTS.md 静态声明层 + 会话上下文层),记忆完全由人显式订立、显式修改,系统只读契约、绝不擅自变更。走的是可控性优先。

京东科技开发者 627

上游给空、下游拿到 -1,我把故障一直追到了 commons-beanutils 的构造函数

这篇手记是一份事后复盘,写在我们已经把修复推上线、把测试用例跑绿、把约束文档沉淀进团队库之后。非研发同事,可以直接从第八章开始看,前七章都是讲排障和代码分析。故障本身不复杂,修复也不复杂,但这次排查真正让我想写下来的,不是技术本身——而是从问题提报到解决全程AI的作用:问题定位:业务方反馈了一个异常单号说「下发失败」,一线运维同事直接在日志系统捞到相关的系统日志,用IDE打开下游代码库,把异常信息给到JoyCode——AI 直接指向了问题是serialType值非法,系统只接受0和1,而当前上游给的是-1。

京东科技开发者 719

SKill测评:谁才是真正的Skill之王?

巧合的是,阿里近期开源了一款名为 Skill-Up 的测评工具——它专门面向 Agent Skill 开发者,支持在 Claude Code、Codex、Qoder CLI 等真实 Agent Engine 环境中验证 Skill 的功能正确性,并可将失败用例转化为精准的修复指引,同时支持本地与 CI 环境的持续回归。2026年,Skill 的热度不减,已成为 AI 辅助编程领域的标配。在日常研发中,无论是沉淀个人经验,还是将团队的优秀范本标准化,将知识“蒸馏”为 Skill 已是大家的常规操作。

京东科技开发者 639

让AI真正参与工作!JoyDesk已上线京东云

JoyDesk提供覆盖AI资产管理、权限控制、安全策略、审批审计、运营监控等企业级治理能力,支持按组织、角色和项目进行精细化权限管理,并支持私有化部署,确保企业数据边界清晰、AI行为全程可追溯、安全策略灵活可配置,满足金融、政企等行业对数据安全和合规治理的要求,让AI真正成为企业可信赖的生产力。JoyDesk支持MCP协议、标准API、技能等多种开放接入方式,可快速连接企业现有业务系统,将业务能力封装为AI可调用的技能和专家,让AI能够理解业务流程、调用业务系统、完成业务任务,而无需改变企业原有IT架构。

京东科技开发者 672

【全栈实践】第一个 AI Agent 项目:从零搭建 AI 音频创作助手【最终版】

这个项目展示了AI Agent 在垂直内容创作领域端到端自动化:从内容理解到播客输出,全流程 AI 驱动多模态融合:文字、图片、音频、视频统一处理专业级音频质量:音色设计 + 智能混音,输出广播级品质低门槛使用:可视化配置 + 自然语言交互,无需技术背景。

京东科技开发者 563

【全栈实践】第一个 AI Agent 项目:从零搭建 AI 音频创作助手(高级篇)

这是一个 AI 驱动的播客创作助手,专注于从文字/视频/音频内容识别到播客制作的全流程。你可以用自然语言与它对话,也可以上传视频和音频,它会理解意图、调用相应的语音合成工具,把他们变成真实的播客音频。

京东科技开发者 728

【全栈实践】第一个 AI Agent 项目:从零搭建 AI 音频创作助手(进阶篇)

这是一个AI 驱动的音频内容创作助手。你可以用自然语言与它对话,它会理解意图、调用相应的语音合成工具,把文字变成真实的播客音频,并保存在本地。关于项目的详细介绍见第一篇文章:第一个 AI Agent 项目:从零搭建 AI 音频创作助手(入门篇)这篇文章更多介绍进阶篇添加的功能。

京东科技开发者 552

【全栈实践】第一个 AI Agent 项目:从零搭建 AI 音频创作助手(入门篇)

这个项目让我第一次把前端、后端、AI Agent 三块内容独立串联起来。技术选型上每一块都是当下主流的方案,实际跑通整条链路之后对"全栈"有了更具体的感受。框架版本要锁定:LangChain 这类快速迭代的框架,版本差异带来的问题远比你想象的多先跑通链路,再追求完美:新手阶段能把用户输入 → AI 处理 → 结果展示这条链跑通,比深入某个技术点更有价值多看官方文档:相比博客和教程,官方文档更新及时,特别是 LangGraph 这种新框架后续计划继续迭代,欢迎交流!

京东科技开发者 610

ICLR 2026 | 面向序列决策的贝叶斯集成方法

在这篇工作中,我们关注的是。

京东科技开发者 296

ICML 2026|NaviAgent:面向 Oxygen 智能体的可扩展工具编排

大型语言模型(LLM)越来越多地作为函数调用代理,调用外部工具来处理超出其静态知识范围的任务。然而,它们通常一次只调用一个工具,缺乏对任务结构的全局视图。由于工具之间往往相互依赖,这会导致错误累积和可扩展性差,尤其是在扩展到数百或数千个工具时。为了解决这些局限性,我们提出了NaviAgent,一种显式的双层架构,它通过基于图的工具关系建模将任务规划与工具执行解耦。在规划层,基于 LLM 的代理决定是直接响应、澄清意图,还是检索并执行一个独立于工具间复杂性的工具链。

京东科技开发者 389

实测 9 款 AI 架构图工具:从 Mermaid 美化到 GPT-Image2,一份选型清单

支持 5 类图(架构图、工作流图、时序图、数据流图、生命周期/状态机图),主题 4 种(Classic、Signal Flow、Blueprint、Editorial)+ 3 种色彩模式(Dark / Light / System Auto),输出格式含 HTML、PNG、SVG、WebM、Share Card PNG、JSON IR。它把提示词图库、图像生成案例、参考图编辑流程和命令行工具整合在一起,让 AI Agent 能直接调用 GPT Image 2 模型完成文生图、图生图、参考图编辑等任务。

京东科技开发者 906

别再守着 Claude Code 了——学会指挥它自主干活

回到开头那句:别再一句一句地喂它、然后守着屏幕。真正的用法是——把一件事想清楚、划好边界、给它一个能自我验证的目标,然后交出去。你会发现,省下来的时间不是一点半点。把重复的判断和执行还给机器,把真正需要你的判断留给自己。

京东科技开发者 587

CVPR 2026|Oxygen XR 团队在原生鱼眼高斯泼溅技术上带来新突破

京东零售技术团队联合清华大学提出DirectFisheye-GS框架,创新性地将鱼眼相机模型原生嵌入3D高斯泼溅管线,通过跨视角联合优化策略直接处理鱼眼图像,避免了传统去畸变预处理导致的信息损失。该方案在多个公开数据集上达到SOTA性能,有效解决了单视角优化引起的几何畸变和视角不一致问题,同时保持与现有3DGS工具链的兼容性。技术已应用于电商3D重建和4D体积视频等场景,显著提升了沉浸式体验。相关论文被CVPR 2026接收,为宽视场场景重建提供了高效解决方案。

京东科技开发者 355

拆解海博 AI-Native 落地保障:Harness、双 Loop、知识库与技能自主迭代实践

海博研发RoadMap 的落地,彻底终结了 AI 编程“对话式玄学”的旧模式,真正落地了AI Native 研发工程化。它证明 AI 规模化赋能研发的核心,不在于堆砌大模型能力,而在于用工程思维重构 AI 的工作范式:用结构化流程替代随机对话,用固化规则约束模型行为,用持续沉淀实现能力复利,用分层架构支撑规模化落地。

京东科技开发者 638

让 AI 快速「读懂」你的代码仓:Joy-Code-Graph 云端图谱服务的三次进化

代码知识图谱不是要取代 AI 的智能,而是要补齐它对代码全局关系的认知盲区。当 AI 能一眼看清「谁调用了谁、改动会波及哪里」,它写出的代码才真正靠谱;当这份认知安全地留在自己手里、随时被 Joygen 调用、并且永久沉淀在代码仓里——AI 编程的体验,才算真正上了一个台阶。这,就是我们做 Joy-Code-Graph 云端服务的初衷。能力共享,数据自主;一次建图,长期受用。

京东科技开发者 752

【Coding生态】从代码托管到 AI 能力底座:与Coding一起共建 AI 研发生态

前两种框架能够很好地支撑对话式能力和预设流程式能力。它们适合基于提示词或预设工作流完成研发问答、知识查询、流程编排等任务。但在更复杂的研发场景中,仅仅“回答问题”还不够。当用户业务逻辑复杂时,一旦场景进入真实落地阶段,例如下载代码、修改文件、执行命令、安装依赖、运行测试、读取完整代码文件,或者与自有系统联动、将结果渲染到 Coding 页面、推送到京 ME,AI 应用需要的不只是知识能力,还需要真实的代码库操作能力和独立可执行环境。

京东科技开发者 768

GPT-5.6、ChatGPT Work 与 Codex 更新食用指南

三档模型当前都提供 1,050,000 tokens 上下文、922,000 tokens 最大输入和 128,000 tokens 最大输出,接受文本与图像输入、输出文本,并支持 web search、file search、Computer Use、MCP、Tool Search、Skills、Apply Patch 等工具。Work 可以读取你提供的文件,通过插件连接 Slack、Google Drive、SharePoint、邮箱、日历、CRM 或项目系统,调用获批工具,并在执行中展示进度。

京东科技开发者 870

把业务流程沉淀成高质量 Skill 的实践路径

使用Record & Replay创建的Skill,尽管创建流程简单,但它的本质实际是让 AI 去操作页面,这不但有可能影响我们对电脑的操作,还有可能无法稳定复现。创建Skill时,可以使用 Codex 的 Record & Replay 插件,把一次手工操作录下来,再让 AI 生成可复用流程。刚开始切换时,很容易遇到接口报错,可以让Codex排查原因进行优化,直到可以稳定执行;补充相应业务背景,说明这件事为什么要做,谁会用,输入从哪来,输出给谁看。电脑休眠、关机、软件没开时,本地任务可能无法执行。

京东科技开发者 836

政企前台AI-Agent的架构实践:打造可复用的 AI 服务平台-【灯塔计划】

不止是爆火的龙虾,还是各种Skills,MCP、Agent,脱离的具体的场景谈方案,最后只会是一场空。这一套可复用的 AI 服务平台,截止目前,通过前后端对接规范文档,多项能力已快速接入到各个场域的不同端平台,大幅降低研发成本, 并且各业务线新场景的接入从原来的 “开发驱动” 转为 “配置驱动”,接入周期从天维度缩短至小时级。

京东科技开发者 864

京东 Oxygen xLLM 大模型推理引擎正式捐赠开放原子开源基金会,共建国产 AI Infra 生态

下一阶段 AI 基础设施的核心命题,不是简单的算力堆叠,而是让工程本身变得智能——让调度系统能自主感知负载特征并动态优化,让推理引擎能根据模型结构和硬件特性自动生成最优执行方案,让整个 AI 工程链路具备自感知、自决策、自优化的能力。未来,Oxygen xLLM 的项目官网、社区沟通渠道及微信社区将陆续向开发者开放,诚邀芯片厂商、模型厂商、云厂商、企业用户及个人开发者共同参与,让国产大模型推理引擎在开放生态中加速成长。硬件层,原生支持 GPU / NPU / MLU 多类 AI 芯片,深度适配国产芯片。

京东科技开发者 1006
上一篇: “上云”到底有多贵?
下一篇: 今天,我们用爱把“李焕英”带回了 2021......
京东云开发者
京东云开发者 企业官方账号 企业官方账号
博客等级 码龄8年 1万+粉丝 2140原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值