误删除数据恢复

本文介绍了一种利用MySQL binlog进行误删数据恢复的方法。通过定位binlog位置并使用binlog2sql工具生成回滚SQL,成功恢复了误删的数据。文章详细记录了整个恢复流程及遇到的问题。
误删除数据恢复:
说明:(只说一下大概过程,具体可参考https://github.com/danfengcao/binlog2sql  官网说明)
有两张表被误删除了,t_a  3万多数据
锁定删除数据时binlog的文件名
将binlog解析成能够看懂的内容查找删除数据的开始的binlog position和结束的binlog position
mysqlbinlog  mysql-bin.000819   --base64-output=DECODE-ROWS -v   --start-datetime="2017-08-10 16:04:26" --stop-datetime="2017-08-10 16:04:30"  >/tmp/819.sql

解决过程:
根据找到的pos点,生成反转的sql 文件:-h 是误删除数据的库的ip   -d  所属数据库  -t 所属表
python binlog2sql.py --flashback -h1.1.1.1.  -P3306 -ubinlog  -p'123456' -doms  -tt_a --start-file='mysql-bin.000819' --start-position=13736449 --stop-position=47327695  >/tmp/roll.sql
将解析好的sql导入到测试库 看看数据是否正确:
source  roll.sql


当数据正确的时候:导入到误删除数据的库中。
binlog2sql使用:
安装:
shell> git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
shell> pip install -r requirements.txt
git与pip的安装问题请自行搜索解决。
使用


MySQL server必须设置以下参数:
[mysqld]
server_id = 1
log_bin = /var/log/mysql/mysql-bin.log
max_binlog_size = 1G
binlog_format = row
binlog_row_image = full
user需要的最小权限集合:


select, super/replication client, replication slave


建议授权
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 
权限说明


select:需要读取server端information_schema.COLUMNS表,获取表结构的元信息,拼接成可视化的sql语句
super/replication client:两个权限都可以,需要执行'SHOW MASTER STATUS', 获取server端的binlog列表
replication slave:通过BINLOG_DUMP协议获取binlog内容的权限
基本用法


解析出标准SQL


shell> python binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -t test3 test4 --start-file='mysql-bin.000002'


输出:
INSERT INTO `test`.`test3`(`addtime`, `data`, `id`) VALUES ('2016-12-10 13:03:38', 'english', 4); #start 570 end 736
UPDATE `test`.`test3` SET `addtime`='2016-12-10 12:00:00', `data`='中文', `id`=3 WHERE `addtime`='2016-12-10 13:03:22' AND `data`='中文' AND `id`=3 LIMIT 1; #start 763 end 954
DELETE FROM `test`.`test3` WHERE `addtime`='2016-12-10 13:03:38' AND `data`='english' AND `id`=4 LIMIT 1; #start 981 end 1147
解析出回滚SQL


shell> python binlog2sql.py --flashback -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttest3 --start-file='mysql-bin.000002' --start-position=763 --stop-position=1147


输出:
INSERT INTO `test`.`test3`(`addtime`, `data`, `id`) VALUES ('2016-12-10 13:03:38', 'english', 4); #start 981 end 1147
UPDATE `test`.`test3` SET `addtime`='2016-12-10 13:03:22', `data`='中文', `id`=3 WHERE `addtime`='2016-12-10 12:00:00' AND `data`='中文' AND `id`=3 LIMIT 1; #start 763 end 954
选项


mysql连接配置


-h host; -P port; -u user; -p password


解析模式


--stop-never 持续同步binlog。可选。不加则同步至执行命令时最新的binlog位置。


-K, --no-primary-key 对INSERT语句去除主键。可选。


-B, --flashback 生成回滚语句,可解析大文件,不受内存限制,每打印一千行加一句SLEEP SELECT(1)。可选。与stop-never或no-primary-key不能同时添加。


解析范围控制


--start-file 起始解析文件。必须。


--start-position/--start-pos start-file的起始解析位置。可选。默认为start-file的起始位置。


--stop-file/--end-file 末尾解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。


--stop-position/--end-pos stop-file的末尾解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。


--start-datetime 从哪个时间点的binlog开始解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。


--stop-datetime 到哪个时间点的binlog停止解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。


对象过滤


-d, --databases 只输出目标db的sql。可选。默认为空。


-t, --tables 只输出目标tables的sql。可选。默认为空。


应用案例


误删整张表数据,需要紧急回滚


闪回详细介绍可参见example目录下《闪回原理与实战》example/mysql-flashback-priciple-and-practice.md


test库tbl表原有数据
mysql> select * from tbl;
+----+--------+---------------------+
| id | name   | addtime             |
+----+--------+---------------------+
|  1 | 小赵   | 2016-12-10 00:04:33 |
|  2 | 小钱   | 2016-12-10 00:04:48 |
|  3 | 小孙   | 2016-12-13 20:25:00 |
|  4 | 小李   | 2016-12-12 00:00:00 |
+----+--------+---------------------+
4 rows in set (0.00 sec)


mysql> delete from tbl;
Query OK, 4 rows affected (0.00 sec)


20:28时,tbl表误操作被清空
mysql> select * from tbl;
Empty set (0.00 sec)
恢复数据步骤:


登录mysql,查看目前的binlog文件


mysql> show master status;
+------------------+-----------+
| Log_name         | File_size |
+------------------+-----------+
| mysql-bin.000051 |       967 |
| mysql-bin.000052 |       965 |
+------------------+-----------+
最新的binlog文件是mysql-bin.000052,我们再定位误操作SQL的binlog位置。误操作人只能知道大致的误操作时间,我们根据大致时间过滤数据。


shell> python binlog2sql/binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttbl --start-file='mysql-bin.000052' --start-datetime='2016-12-13 20:25:00' --stop-datetime='2016-12-13 20:30:00'
输出:
INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-13 20:26:00', 4, '小李'); #start 317 end 487 time 2016-12-13 20:26:26
UPDATE `test`.`tbl` SET `addtime`='2016-12-12 00:00:00', `id`=4, `name`='小李' WHERE `addtime`='2016-12-13 20:26:00' AND `id`=4 AND `name`='小李' LIMIT 1; #start 514 end 701 time 2016-12-13 20:27:07
DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-10 00:04:33' AND `id`=1 AND `name`='小赵' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05
DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-10 00:04:48' AND `id`=2 AND `name`='小钱' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05
DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-13 20:25:00' AND `id`=3 AND `name`='小孙' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05
DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-12 00:00:00' AND `id`=4 AND `name`='小李' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05
我们得到了误操作sql的准确位置在728-938之间,再根据位置进一步过滤,使用flashback模式生成回滚sql,检查回滚sql是否正确(注:真实环境下,此步经常会进一步筛选出需要的sql。结合grep、编辑器等)

shell> python binlog2sql/binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttbl --start-file='mysql-bin.000052' --start-position=3346 --stop-position=3556 -B > rollback.sql | cat
输出:
INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-12 00:00:00', 4, '小李'); #start 728 end 938 time 2016-12-13 20:28:05
INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-13 20:25:00', 3, '小孙'); #start 728 end 938 time 2016-12-13 20:28:05
INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-10 00:04:48', 2, '小钱'); #start 728 end 938 time 2016-12-13 20:28:05
INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-10 00:04:33', 1, '小赵'); #start 728 end 938 time 2016-12-13 20:28:05
确认回滚sql正确,执行回滚语句。登录mysql确认,数据回滚成功。


shell> mysql -h127.0.0.1 -P3306 -uadmin -p'admin' < rollback.sql


mysql> select * from tbl;
+----+--------+---------------------+
| id | name   | addtime             |
+----+--------+---------------------+
|  1 | 小赵   | 2016-12-10 00:04:33 |
|  2 | 小钱   | 2016-12-10 00:04:48 |
|  3 | 小孙   | 2016-12-13 20:25:00 |
|  4 | 小李   | 2016-12-12 00:00:00 |
+----+--------+---------------------+
限制(对比mysqlbinlog)


mysql server必须开启,离线模式下不能解析
参数 binlog_row_image 必须为FULL,暂不支持MINIMAL
解析速度不如mysqlbinlog
优点(对比mysqlbinlog)
纯Python开发,安装与使用都很简单
自带flashback、no-primary-key解析模式,无需再装补丁
flashback模式下,更适合闪回实战
解析为标准SQL,方便理解、调试
代码容易改造,可以支持更多个性化解析


问题:
在安装的时候出现了一些问题:
(Run "ez_setup.py -U setuptools" to reinstall or upgrade.)
[root@ces3 binlog2sql]# python binlog2sql.py 
Traceback (most recent call last):
  File "binlog2sql.py", line 5, in
    import pymysql
ImportError: No module named pymysq
# python setup.py  install
Traceback (most recent call last):
  File “setup.py”, line 6, in
    from setuptools import setup, find_packages
ImportError: No module named setuptools看来还和一个setuptools的库有关,我们继续安装。
# wget https://bootstrap.pypa.io/ez_setup.py –no-check-certificate然后使用 python ez_setup.py install 即可编译成功setuptools
再次尝试python setup.py install即可完成pip的安装。
对于插件PyMySQL可以使用如下的方式来安装:
git clone https://github.com/PyMySQL/PyMySQL对于插件mysql replication可以使用如下的方式:
git clone https://github.com/noplay/python-mysql-replication就这样前期的工作就做好了。








来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/30162734/viewspace-2143413/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/30162734/viewspace-2143413/

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值