数据实时同步中的一种特殊场景说明及处理方法

数据实时同步简要介绍:

数据同步或数据集成一般选用两类技术或工具,即:

1、ETL(Extract-Transform-Load)工具,它是将数据从源系统加载到数据仓库的过程。用来描述将数据从来源端经过萃取(extract)、转置(transform)、加载(load)至目的端的过程。

2、CDC工具,全称Change Data Capture,变更数据捕捉,从数据库内部捕捉变更数据,将变更数据推送到推送到目的库中。CDC机制速度极快,数据精准,且与应用程序耦合少,可抽象脱离业务系统。

实时同步场景中因对数据的实时性要求较高,所以一般选用CDC工具。

特殊场景说明:

普通场景下,使用CDC工具解析源库日志信息,实时同步源库数据到目的地,如下图所示:

但在一些特定业务场景中,为尽量减轻主数据库业务压力,一般设置一个备数据库,定期将主数据库中超过一定期限的数据迁移到备数据库中。备份时先将主数据库中超过一定期限未更新的数据复制到备数据库中,再将主库中已复制的数据删除。如下图所示:

类似以上既有主库也有备库的情况,若要做数据的实时同步,则主库和备库都需要将

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值