Redis-Migrate-Tool 使用详解2

Redis工具redis-migrate-tool redis-rdb-tools 软件简介 Redis 集群迁移工具,基于redis复制,快速,稳定。 特点: 快速。 多线程。 基于redis复制。 实时迁移。 迁移过程中,源集群不影响对外提供服务。 异构迁移。 支持Twemproxy集群,redis cluster集群,rdb文件 和 aof文件。 过滤功能。 当目标集群是Twemproxy,数据会跳过Twemproxy直接导入到后端的redis。 迁移状态显示。 完善的数据抽样校验。 迁移工具的来源可以是:单独的redis实例,twemproxy集群,redis cluster,rd 阅读详情

在线迁移
redis-migrate-tool启动后模拟成redis slave,请求master的全量数据和增量数据。redis-migrate-tool 收到数据之后解析成redis协议格式的oplog(写操作),然后发送给目标集群。
有两种请求方式:
1、source_safe: true,对于同一ip上的redis,逐个的请求全量数据(RDB);
2、source_safe: false,并行请求同步全量数据。source_safe: false时,需要注意多个源redis所在的同一主机是否有足够的内存 和 RDB 并发落盘时的 IOPS 性能

RMT配置文件
RMT的配置主要由三部分组成,数据源[source],目标集群[target],通用配置部分[common]。
RMT对源集群的类型并不敏感,对每个redis节点伪装成一个slave。因而 twemproxy和cluster集群,可以使用 single 和 cluster 类型。建议配置成对应的 twemproxy 或者 cluster类型。有两方面作用:
1)RMT在数据迁移时,可以根据 twemproxy(hash)或者cluster(slots)数据分布规则,过滤掉原本不属于该节点的数据;
2)当源集群类型是cluster时,只用配置一个节点,简化配置。
目标集群,因为不同数据分布规则需要执行不同的写入逻辑,因而配置非常严谨。特别是tw集群,迁移到目标集群的server配置需要和twemproxy中保持一致,包括hash算法、数据分布算法、节点的ip和port、权重、节点的名字。
完整配置请参考github(https://github.com/vipshop/redis-migrate-tool#configuration)。

迁移后业务切换
如果是异构集群的迁移,更改redis驱动/客户端和修改代码,重新发布是必然的事情。如果是同构集群,做配置发布就可以。如果没有做重启发布,等待源集群没有连接之后,可以关闭REDIS-MIGRATE-TOOL进程(kill)。或者重启应用,强制断开长连接。

注意事项:
1、REDIS-MIGRATE-TOOL迁移数据到twemproxy,需要保持rmt.conf 中 [target] hash、distribution、servers 三个参数和目标集群的twemproxy配置严格一致。
2、迁移中和业务切换之前,请反复观察”-o redis-migrate-tool.log”日志信息,确认是否有异常。
3、业务切换之前,请充分检查,特别是数据的一致性。
4、REDIS-MIGRATE-TOOL 建议部署在单独空闲机器上,同目的集群在同一个网段(跨机房迁移数据,可以提高迁移速度)。千万不要部署在源集群所在的机器,防止资源不足,比如内存,带宽,IOPS。
5、注意RDB传输是否超时;
6、redis client buf中的slave项,设置足够大的buffer size和超时时间。
7.运行此工具前,请确认redis源机器是否有足够的内存允许至少生成一个RDB文件。如果redis源机器有足够的内存允许所有的redis同时生成RDB文件,可以在配置文件rmt.conf中的添加配置项source_safe: false
8.以下命令不支持传播到目标redis组,因为keys使用这些命令可能会跨越不同的目标redis节点:
RENAME,RENAMENX,RPOPLPUSH,BRPOPLPUSH,FLUSHALL,FLUSHDB,BITOP,MOVE,GEORADIUS,GEORADIUSBYMEMBER,EVAL,EVALSHA,SCRIPT,PFMERGE

redis-migrate-tool 支持 3.0以上 (5.0) 已大规模用于生产环境,亲测有效! 下载redis-migrate-tool软件包(注意是tanruixing88的) git clone https://github.com/tanruixing88/redis-migrate-tool.git 准备安装 # mv redis-migrate-tool-master redis-migrate-tool # cd redis-migra... 阅读详情

相关推荐

易灵思Ti60F100 FPGA的HyperRAM实战:从硬件连接到Native接口时序调试

本文详细介绍了易灵思Ti60F100 FPGA内置HyperRAM控制器的实战应用。文章从硬件设计要点(如400MHz+信号完整性、等长匹配)切入,重点解析了如何通过Interface Designer配置高效的Native接口,并分享了其时序详解与调试技巧,为开发者提供了一份从硬件连接到软件调试的深度指南。

weixin_29168153的博客 453

redis-migrate-tool介绍、使用、详解

目录 摘要: RMT特性: 建议: 1、RMT安装 2、RMT配置文件 2.1、redis到cluster 2.2、cluster集群到cluster集群迁移 2.3、cluster到twemproxy的迁移 2.4、从AOF 和 RDB中恢复数据 3、RMT迁移 4、观察迁移状态 5 RMT检验源集群和目标集群的差异 6 如何完成业务切换? 注意事项: 分为三...

阿拉斯加大闸蟹的博客 5926

uniapp实战:mui-player插件如何完美适配m3u8/flv直播流(附完整代码)

本文详细介绍了如何在Uniapp中使用mui-player插件完美适配m3u8和flv直播流,提供从基础配置到高级优化的全流程解决方案。通过动态加载策略、响应式布局和内存管理,实现跨平台稳定播放,适用于企业级直播应用开发。

weixin_29001655的博客 234

redis数据同步

redis(主从),分布式

wang_wxd的博客 4098

Ubuntu系统下搭建QtCreator开发环境详细过程(Qt简介;Linux下安装QtCreator;Ubuntu安装后闪退蓝屏的解决方法)

Qt 是一个跨平台的 C++开发库。主要用来开发图形用户界面 (Graphical User Interface,简称 GUI) 程序。Qt 支持的操作系统有很多,例如通用操作系统 Windows、Linux、Unix、智能手机系统Android、ios、WinPhone, 嵌入式系统 QNX、VxWorks 等。

分享学习成长历程,Winter is coming! 8532

深入瑞芯微SDK:手把手解析Uboot、Kernel到Rootfs的镜像生成与烧录

本文深入解析瑞芯微SDK中从Uboot、Kernel到Rootfs的镜像生成与烧录全流程,揭示编译背后的技术细节。通过详细分析SDK架构、镜像生成流水线、分区表定制、Rootfs构建及烧录科学,帮助开发者从会编译进阶到懂原理,掌握系统级开发的关键技术。

weixin_29193359的博客 269

初学乍练 Redis:使用 Redis-Migrate-Tool 做 Redis 在线数据迁移

使用 redis-migrate-tool 做 Redis 在线数据迁移

wzy0623的专栏 6075

保姆级教程:用Unity为麒麟系统打包Linux应用(含路径权限全攻略)

本文提供了一份详细的Unity跨平台开发指南,重点介绍如何在麒麟系统上打包和部署Linux应用。从开发环境配置、路径权限处理到性能优化和常见问题解决,全面解析了Unity项目在国产操作系统上的适配流程,帮助开发者高效完成跨平台应用开发。

weixin_28692867的博客 503

Redis入门完整教程:CacheCloud运维功能

13.6 运维功能 CacheCloud作为Redis的运维工具,包含了Redis日常运维的常用功能, 本节将对如下功能进行介绍: 1)应用运维:Redis节点的上下线、手动故障转移、配置管理、扩容 等。 2)接入已存在的Redis:将已经存在的Redis接入到CacheCloud。 3)Redis配置管理:对Redis配置进行模板化管理。 4)迁移工具:实现Redis Standalone、Redis Sentinel、Redis Cluster、 AOF、RDB之间数据迁移。 5)监控报警:机器、应用、

Lee达森的博客 2415

基于Simulink的四足机器人关节力矩优化仿真建模示例

高自由度:每个腿至少有3个自由度(DOF),增加了控制的复杂性。非线性动力学:涉及多体系统的相互作用,包括接触力、摩擦力等。能量消耗:减少不必要的能量消耗是提升续航能力和效率的关键。可以是最小化能量消耗或最大化稳定性等。matlab深色版本% 示例代码通过本指南,我们介绍了如何基于Simulink搭建一个四足机器人的关节力矩优化模型,并进行了仿真以验证其基本功能。

amy_mhd的博客 171

提示工程从初级到高级:如何评估提示词的鲁棒性?架构师分享测试方法

鲁棒性(Robustness)原本是工程领域的概念,指系统在“非理想条件”下保持性能稳定的能力。输入鲁棒性:面对不规范、有噪音、格式变异的用户输入,提示能否引导模型输出正确结果?模型鲁棒性:同一提示在不同大模型(或同一模型的不同版本)下,输出是否一致?场景鲁棒性:在边界场景(极端case、歧义case、多任务混合)下,提示能否保持逻辑一致性?提示词V1:请将以下用户评论分类为「正面」「中性」或「负面」:{comment}。要求:输出唯一类别,不要额外说明。

小程序开发 495

Redis集群实用运维工具redis-tool

redis-tool基于原生的redis-cli客户端工具来进行Redis集群的监控、配置、问题分析等运维管理,能够极大降低Redis cluster集群的运维成本。同时作为脚本化工具,下载即可用,即使对于Redis初学者,也能够快速掌握集群的运行状况,完成集群配置管理、性能问题排查,具备Redis集群的基本运维能力

m0_49412212的博客 3554

自适应控制 (Adaptive Control) 算法详解及案例分析

自适应控制是一种能够在线调整控制器参数以适应系统动态变化的控制方法。其核心思想是通过实时估计系统参数或调整控制器参数,使系统在不确定性或动态变化的环境中仍能保持稳定性和性能。

闲人编程的博客 4081

redis-migrate-tool使用详解

目录 前言 安装redis-migrate-tool redis-migrate-tool 命令详解 1. 运行迁移 2. 抽样检查 3. 测试插入一些数据 rmt.conf配置文件 监听redis-migrate-tool 总结 前言 redis-migrate-tool 是维品会开源的一款redis数据迁移工具,基于redis复制,快速,稳定,github地址为:https:/...

所谓向日葵族 2832

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Redis在线数据迁移工具redis-migrate-tool详解,轻松实现redis集群之间的数据同步

Server:version: redis-migrate-tool版本号os:操作系统名称multiplexing_api: 多路复用APIgcc_version: gcc版本process_id: redis-migrate-tool的进程idtcp_port: redis-migrate-tool监听的tcp端口uptime_in_seconds: redis-migrate-tool运行的时长。单位秒。

Wcybaonier 4880

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

redis数据迁移工具redis-migrate-tool安装使用

Redis-Migrate-Tool 使用详解 Redis 集群迁移工具,基于redis复制,快速,稳定。 github链接:https://github.com/vipshop/redis-migrate-tool 特点: 快速。 多线程。 基于redis复制。 实时迁移。 迁移过程中,源集群不影响对外提供服务。 异构迁移。 支持Twemproxy集群,redis cluster集群,rdb文...

huchao_lingo的博客 1955

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

Redis数据迁移工具redis-migrate-tool使用教程

Redis数据迁移工具redis-migrate-tool使用教程 1. 项目介绍 redis-migrate-tool(简称RMT)是一款专为Redis设计的集群数据迁移工具,适用于在不同版本或不同环境之间的数据同步。它提供了高效、安全的数据迁移方案,使得在不同Redis集群之间进行数据迁移变得更加简单和可靠。 主要特性 快速:多线程设计,基于Redis复制机制,迁移速度快。 实时迁移:迁移过...

gitblog_00433的博客 1572

Redis迁移工具(.redis-migrate-tool) 教程

**Redis-Migrate-Tool** 是由唯品会开发的一款高效且稳定的Redis数据迁移工具。它支持在线迁移,可以在不停服的情况下,将数据从一个Redis实例迁移到另一个,包括但不限于主从切换、版本升级、集群转换等场景。该工具具有以下特点: - 在线迁移:在业务无感知的情况下完成数据迁移。 - 安全可靠:提供断点续传和数据一致性校验功能。 - 灵活配置:支持多种迁移策略和参数定制。 #...

gitblog_00835的博客 1123

终极Redis迁移指南:如何使用redis-migrate-tool实现零停机数据迁移

redis-migrate-tool是一款便捷实用的Redis数据迁移工具,能够帮助用户在Redis集群之间高效迁移数据。无论是新手还是有经验的开发者,都能通过本指南快速掌握其使用方法,轻松应对各种Redis数据迁移场景。 ## 核心功能亮点 ✨ redis-migrate-tool作为一款专业的Redis数据迁移工具,具备多项强大功能: - **多模式迁移**:支持不同Redis集群架构间

gitblog_01164的博客 796

如何快速实现Redis数据迁移:redis-migrate-tool完整指南

redis-migrate-tool是一款便捷高效的Redis数据迁移工具,能够帮助用户在不同Redis集群之间轻松迁移数据。无论是新手还是有经验的开发者,都能通过本文快速掌握这款工具的使用方法。 ## 核心功能介绍 redis-migrate-tool作为一款专业的Redis数据迁移工具,具备以下核心特性: - **多线程迁移**:默认使用与CPU核心数相同的线程数,可通过配置文件中的`t

gitblog_00217的博客 899

如何使用redis-migrate-tool实现Redis数据高效迁移?完整指南

**redis-migrate-tool**是一款功能强大的Redis数据迁移工具,专为在Redis集群间迁移数据而设计。它支持多种部署架构,包括单机、Twemproxy和Redis Cluster,能够实现高效、安全的在线数据迁移,同时确保源Redis服务正常对外提供服务。 ## ✨ 核心功能亮点 redis-migrate-tool凭借以下特性成为Redis数据迁移的理想选择: - **

gitblog_00336的博客 451

redis-migrate-tool

一.简介 redis-migrate-tool是在redis之间迁移数据的一个方便且有用的工具。他会已服务方式不断同步两边的数据。等到合适时间,中断redis读写,对比双方数据,再替换redis地址即可。 特征 快速。 多线程。 基于redis复制。 实时迁移。 在迁移数据的过程中,源redis也可以为用户提供服务。 异构迁移。 Twemproxy和Redis群集支持。 当...

weixin_34268753的博客 148

redis-migrate-tool镜像制作使用

一、使用流程: 1.下载镜像文件: 链接:https://pan.baidu.com/s/1jmog6gFgOH67_U5C3txiTg 提取码:5bc3 2.将文件上传虚拟机上,通过docker加载镜像 docker load -i redis-migrate-tool.tar docker images查看是否存在redis-migrate-tool的镜像 3.启动镜像: docker run -d -it [imageId] 进入容器:docker exec -it...

weixin_39523456的博客 282
上一篇: Redis-Migrate-Tool 使用详解
下一篇: 推荐系统入门
架构师的清醒
博客等级 码龄14年 291粉丝 397原创
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值