TIDB- Mysql到TIDB的数据校验

一、背景

由DM工具同步MySQL数据到TiDB,有时候会出现数据不一致的情况,这时候我们就需要一种检验工具来进行这种检验,官方提供了这样一种检验工具

二、工具下载与使用

1.下载

wget https://download.pingcap.org/tidb-enterprise-tools-nightly-linux-amd64.tar.gz

2.解压

tar zxvf tidb-enterprise-tools-nightly-linux-amd64.tar.gz

3.进入到对应的目录

cd tidb-enterprise-tools-nightly-linux-amd64/bin

4.编辑配置文件

# Diff Configuration.

######################### Global config #########################

# 日志级别,可以设置为 info、debug
log-level = "info"

# sync-diff-inspector 根据主键/唯一键/索引将数据划分为多个 chunk,
# 对每一个 chunk 的数据进行对比。使用 chunk-size 设置 chunk 的大小
chunk-size = 1000

# 检查数据的线程数量
check-thread-count = 4

# 抽样检查的比例,如果设置为 100 则检查全部数据
sample-percent = 100

# 通过计算 chunk 的 checksum 来对比数据,如果不开启则逐行对比数据
use-checksum = true

# 如果设置为 true 则只会通过计算 checksum 来校验数据,如果上下游的 checksum 不一致也不会查出数据再进行校验
only-use-checksum = false

# 是否使用上次校验的 checkpoint,如果开启,则只校验上次未校验以及校验失败的 chunk
use-checkpoint = true

# 不对比数据
ignore-data-check = false

# 不对比表结构
ignore-struct-check = false

# 保存用于修复数据的 sql 的文件名称
fix-sql-file = "fix.sql"

######################### Tables config #########################

# 如果需要对比大量的不同库名或者表名的表的数据,或者用于校验上游多个分表与下游总表的数据,可以通过 table-rule 来设置映射关系
# 可以只配置 schema 或者 table 的映射关系,也可以都配置
#[[table-rules]]
    # schema-patte
TIDB 集群架构是这样的 [tidb@zy-nph-skg-fat-dba-dbworker10 ~]$ tiup cluster display test Cluster type: tidb Cluster name: test Cluster version: v7.5.6 Deploy user: tidb SSH type: builtin Dashboard URL: http://172.31.28.214:2379/dashboard Grafana URL: http://172.31.28.214:3000 ID Role Host Ports OS/Arch Status Data Dir Deploy Dir -- ---- ---- ----- ------- ------ -------- ---------- 172.31.28.215:8300 cdc 172.31.28.215 8300 linux/x86_64 Up /tidb-data/cdc-8300 /tidb-deploy/cdc-8300 172.31.28.216:8300 cdc 172.31.28.216 8300 linux/x86_64 Up /tidb-data/cdc-8300 /tidb-deploy/cdc-8300 172.31.28.214:3000 grafana 172.31.28.214 3000 linux/x86_64 Up - /tidb-deploy/grafana-3000 172.31.28.214:2379 pd 172.31.28.214 2379/2380 linux/x86_64 Up|L|UI /tidb-data/pd-2379 /tidb-deploy/pd-2379 172.31.28.214:9090 prometheus 172.31.28.214 9090/12020 linux/x86_64 Up /tidb-data/prometheus-9090 /tidb-deploy/prometheus-9090 172.31.28.214:4000 tidb 172.31.28.214 4000/10080 linux/x86_64 Up - /tidb-deploy/tidb-4000 172.31.28.214:20160 tikv 172.31.28.214 20160/20180 linux/x86_64 Up /tidb-data/tikv-20160 /tidb-deploy/tikv-20160 172.31.28.215:20161 tikv 172.31.28.215 20161/20181 linux/x86_64 Up /data/deploy/install/data/tikv-20160 /data/deploy/install/deploy/tikv-20160 172.31.28.216:20161 tikv 172.31.28.216 20161/20181 linux/x86_64 Up /data/deploy/install/data/tikv-20160 /data/deploy/install/deploy/tikv-20160 Total nodes: 9 [tidb@zy-nph-skg-fat-dba-dbworker10 ~]$ 写出具体实际的操作方法
最新发布
08-31
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值