Greenplum——Master自动fail-over高可用方案

分布式数据库的高可用实现,Greenplum是如何做到的 什么是高可用 ... 阅读详情

1 keepalived+虚拟ip方案

1 master配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived

global_defs {
router_id gpm01
}

vrrp_script chk_gp {
script"/home/gpadmin/bin/check_gp.sh"
master
interval 5
}

vrrp_instance VI_1
{
state MASTER
interface eth3
virtual_router_id 51
priority 150
advert_int 1
authentication
{
auth_type PASS
auth_pass 1111
}

virtual_ipaddress
{
10.254.21.100
}

track_script

{
chk_gp
}
}



vim /home/gpadmin/bin/check_gp.sh

#!/bin/sh
CHECK_PROCESS=ps aux|grep postgres|grep silent|wc -l
if [ $CHECK_PROCESS -eq
0 ]; then
echo “GP is stopped”
sleep 2
CHECK_PROCESS=ps aux|grep postgres|grep silent|wc -l
if [ $CHECK_PROCESS -eq
0 ]; then
service keepalived
stop
fi
fi

2 standby master 配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived

global_defs {
router_id gpm02
}

vrrp_instance VI_1
{
state MASTER
interface eth3
virtual_router_id 51
priority 50
advert_int 1
authentication
{
auth_type PASS
auth_pass 1111
}
virtual_ipaddress
{
10.254.21.100
}

notify /home/gpadmin/bin/keep.sh /状态切换时调用的脚本/
}


vim /home/gpadmin/bin/keep.sh

#!/bin/bash
TYPE=$1
NAME=$2
STATE=$3

case $STATE in
“MASTER”) /bin/bash /home/gpadmin/bin/runner.sh >>/home/gpadmin/LOGS/keep.data;;
“BACKUP”) echo "Executing as BACKUP date" >> /home/gpadmin/LOGS/keep.data;;
“FAULT”) echo "Executing as FAULT date" >> /home/gpadmin/LOGS/keep.data exit 0;;
*) echo "Unknown state <<<<<<<<<<<<<<<<<<< date" >> /home/gpadmin/LOGS/keep.data exit 1;;
esac

vim /home/gpadmin/bin/runner.sh

/bin/su - gpadmin -c “bash /home/gpadmin/bin/activateGPstandby.sh”

vim /home/gpadmin/bin/activateGPstandby.sh
 

source /usr/local/greenplum-db/greenplum_path.sh
export export MASTER_DATA_DIRECTORY=/data1/master/gpseg-1
export PGPORT=5432
echo "Activating MASTER on smdw date" >> /home/gpadmin/status
gpactivatestandby -a -d /data1/master/gpseg-1

3 配置完成后

在主备节点上启动keepalived服务:service keepalived start;

4 访问GP集群使用虚拟ip即可

注意:所添加的文件记得授予权限

chmod  777  *.sh

 参考博客:

keepalived,虚拟ip(vip)实践。_Danger_Life的博客-优快云博客_keepalived vipkeepalivedkeepalived,虚拟ip(vip)实践。keepalived介绍版本流程图搭建基础设置主机名selinux关闭防火墙(所有机器)hosts映射keepalived设置vip准备rpm包配置报错处理'keepalived_script' for script execution does not exist.sh exited due to signal 15Unsafe permissions found配置详解可参考keepalived,虚拟ip(vip)实践。keepalihttps://blog.youkuaiyun.com/weixin_44385419/article/details/111543115keepalived实现greenplum的自动切换高可用_Danger_Life的博客-优快云博客keepalived实现greenplum的自动切换高可用机器已经搭建了gp的高可用192.168.60.221 master节点192.168.60.222 master-standby节点192.168.60.223 segement节点segement节点数量根据需求变化机器已经搭建了keepalivedhttps://blog.youkuaiyun.com/weixin_44385419/article/details/111543115192.168.60.221 keepalivedhttps://blog.youkuaiyun.com/weixin_44385419/article/details/111550334?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522165268663516780357265128%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=165268663516780357265128&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~first_rank_ecpm_v1~rank_v31_ecpm-1-111550334-null-null.142%5Ev9%5Epc_search_result_cache,157%5Ev4%5Econtrol&utm_term=Keepalived+greenplum+master&spm=1018.2226.3001.4187

Greenplum Mater自动切换方案_windtalkerwy的博客-优快云博客使用Keepalived集群软件实现Master节点的自动切换一、方案描述Keepalived的作用是检测服务器的状态,当GPDB的master服务器出现重启或者无法访问的情况下,或者GPDB主进程已经不再运行的情况下,会自动触发GPDBmaster-standby的自动切换动作。并且自动将虚拟IP地址接管至standbymater通过这种方式可以保证GPDB mater服务的高可用。...https://blog.youkuaiyun.com/windtalkerwy/article/details/95190001?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522165275604316782184616142%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=165275604316782184616142&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduend~default-1-95190001-null-null.142%5Ev10%5Epc_search_result_control_group,157%5Ev4%5Econtrol&utm_term=Keepalived+greenplum+master&spm=1018.2226.3001.4187

2 双集群-双ETL方案

参考官方文档:Greenplum数据库最佳实践 - 高可用性 - 《Greenplum数据库 v6.0 中文文档》 - 书栈网 · BookStack高可用性磁盘存储最佳实践Master镜像最佳实践Segment镜像最佳实践双集群最佳实践备份和恢复最佳实践检测故障的master和segment实例最佳实践附加信息Segment镜像配置Group MirroringSpread MirroringBlock Mirroring实现Block Mirroring GreenPlum是基于数据库分布式架构的开源大数据平台;采用无共享(no sharehttps://www.bookstack.cn/read/greenplum-admin_guide-6.0-zh/47bfcbeb07195f4b.md#6tsq38

参考博客:

10. Greenplum高可用架构_Murkey学习之旅的博客-优快云博客_greenplum高可用架构10. Greenplum高可用架构与数据持久化论述Greenplum数据库系统的高可用可以通过提供容错硬件平台实现,可以通过启用Greenplum数据库高可用特性实现,也可以通过执行定期监控和运维作业来确保整个系统所有组件保持健康来实现。硬件平台的最终故障,可能因为常见的持久运行故障或非预期的运行环境。异常断电会导致组件临时不可用。系统可以通过为可能故障的节点配置冗余备份节点来保...https://blog.youkuaiyun.com/murkey/article/details/105884695?ops_request_misc=&request_id=&biz_id=102&utm_term=GreenPlum%2520%25E5%258F%258C%25E9%259B%2586%25E7%25BE%25A4%2520%25E5%258F%258CETL&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduweb~default-2-105884695.142%5Ev10%5Econtrol,157%5Ev4%5Econtrol&spm=1018.2226.3001.4187

3 双集群-备份/恢复方案

备份/恢复方案,如果在并发情况下,容易造成锁表,只能在闲时运行,但是在闲时又满足不了需求,所以不推荐这个方案

MHA master_ip_failover脚本文件,自用亲测,无坑 本脚本,不是网上的复制版本。 网上复制的那堆脚本,根本做不到自动化 飘移VIP地址。 原因如下: #!/usr/bin/env perl # Copyright (C) 2011 DeNA Co.,Ltd. # # This program is free software; you can redistribute it and/or modify # it under the terms of the GNU General Public License as published by # t 阅读详情

相关推荐

Greenplum备份、安全与高可用

Greenplum高可用 Greenplum高可用的实现主要由以下四个部分组成: 管理节点 ——需要手动激活备节点(GP7中据说可以实现自动failover) 数据节点 交换机 ——建议双万兆网卡,采用模式4绑定,交换机使用链路聚合LACP的方式 服务器 ——硬件冗余、raid5、hotspare Greenplum自身在高可用方面的实现主要是2各方面,管理节点和数据节点。在管理节点方面,Standby和Master的实时更新是通过WAL(预写式日志,一种流复制技术)。可以通过“gpstate -f”

weixin_42788640的博客 1402

Greenplum高可用-从失效协调者恢复

注:本文翻译自如果主协调器失败,则无法访问Greenplum数据库系统,并且WAL复制停止。使用gpactivatstandby激活备用协调器。激活备用协调器后,Greenplum Database在最后一次成功提交事务时重建协调器主机状态。这些步骤假定为系统配置了备用协调器主机。

数据源的港湾 365

【信息科学与工程学】【数据科学】 第四十四篇 数据湖 系列一 数据湖的机制及特性6

Polaris 集群配置polaris:server:catalog:caching:maxEntries: 100000000 # 1亿条元数据缓存storage:sharding:shardCount: 1024 # 1024 个逻辑分片backend:自定义元数据分片(解决热点问题)// 基于一致性哈希的自定义分片// 虚拟节点i++) {// 动态扩容:添加新 backend 时,只有少量 key 需要迁移// 添加虚拟节点i++) {

weixin_49199313的博客 29

关于Greenplum数据库的高可用(HA)

目录   1.Greenplum数据库中的冗余和故障转移 1.1关于Segment的mirror 1.2Segment故障转移和恢复 1.3关于Master的mirror 2.Greenplum数据库的高可用性 2.1 mirror segment概述 2.2master mirroring概述 1.Greenplum数据库中的冗余和故障转移 可以通过部署mirror组件避免单...

jmx_bigdata的博客 3617

RealSense D455的标定并运行VINS-FUSION

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar

qq_40186909的博客 2万+

Mac用户必看:PD虚拟机网络初始化失败的3分钟修复指南(附详细截图)

本文针对Mac用户在Parallels Desktop(PD虚拟机)启动时遇到的“网络初始化失败”问题,提供了快速诊断与修复指南。核心原因是macOS系统更新后权限未正确授予。文章通过详细的三步修复法(关闭进程、修改配置文件、重新授权重启),帮助用户在3分钟内恢复虚拟机网络连接,并附有排查清单与预防建议。

weixin_29231027的博客 538

Greenplum数据库扩容实务(下)-实施收尾

GP扩容的实施其实就是一条命令,最耗费时间的是实施之后的数据重分布,也就是把数据从已有节点平衡到新的seg host上,这篇将描述实施、收尾过程,并给出些常见问题。 ...

专注数据库、大数据领域干货分享,用严谨的数据技术广交天下朋友。 173

ESXi 6.7升级17700523补丁全流程:从下载到验证的保姆级教程

本文提供ESXi 6.7升级17700523补丁的完整流程指南,涵盖从下载、上传到验证的详细步骤。通过SSH命令和vSphere Client操作,确保系统管理员能够安全高效地完成补丁升级,提升虚拟化环境的安全性和稳定性。

linux6sysadmin的博客 839

GreenPlum数据库故障恢复测试

本文介绍gpdb的master故障及恢复测试以及segment故障恢复测试。 环境介绍:Gpdb版本:5.5.0 二进制版本操作系统版本: centos linux 7.0Master segment: 192.168.1.225/24 hostname: mfsmasterStadnby segemnt: 192.168.1.227/24 hostname: server227Segm...

weixin_33785108的博客 150

海康安防平台接口调试指南:从签名生成到Vue项目集成

本文详细解析了海康安防平台接口认证规则,从签名生成到Vue项目集成的完整流程。通过核心机制解析、签名工具使用技巧及Vue项目中的优雅集成方案,帮助开发者高效完成接口调试,避免常见问题。特别适合需要将海康安防平台接口集成到Vue项目中的开发者参考。

weixin_42533120的博客 438

基于决策树的英雄联盟比赛胜负预测(含完整代码)

在代码中设置随机种子(例如 RANDOM_SEED = 2024)的主要目的是为了确保每次运行代码时,随机过程的结果是一致的。通过绘制不同参数组合下的准确率图,直观地展示了参数对模型性能的影响,帮助读者更好地理解和选择合适的参数。通过设置相同的随机种子(伪随机数),可以确保每次运行代码时,随机数生成器生成的随机数序列是相同的。如果在开发过程中遇到问题,设置固定的随机种子可以帮助你更容易地定位问题,因为每次运行代码时的数据和结果都是一样的。在科学研究和实验中,结果的可重复性是非常重要的。

oisflo的博客 1919

greenplum集群安装(包含greenplum集群高可用配置)

写在前面:本集群安装包含master启用高可用、单机多segment、segment 备份节点(mirror)启用。Greenplum数据库版本,建议选择5.x,目前6.x版本未进入正式版本,暂不建议进入生产环境。目前已测试版本为greenplum-5.16。 1. 软件下载 greenplum官方下载地址:https://network.pivotal.io/products/pivotal...

u011563666的博客 2152

实战指南:利用 LangGraph 的状态管理实现多轮对话的上下文隔离与持久化

本文详细介绍了如何利用LangGraph的状态管理机制,高效实现多轮对话中的上下文隔离与持久化。通过实战代码演示,从基础的消息历史管理到自定义状态扩展,再到使用SQLite进行生产级持久化,系统讲解了如何借助LangGraph的State和Checkpointer自动化处理对话记忆、用户隔离及数据存储,显著提升开发效率。

weixin_28396629的博客 488

MySQL高可用方案 MHA之二 master_ip_failover

异步主从复制架构master:10.150.20.90 ed3jrdba90slave:10.15.20.97 ed3jrdba9710.150.20.132 ed3jrdba132manager:10.150.20.95 ed3jrdba95#新增VIPvip:10.150.20.200 四台机器的系统情况:OS:CentOS7.3MySQL:5.7.21MHA:0.5...

weixin_33725515的博客 954

【具身算法】VLA算法-Diffusion Policy

《扩散策略:多模态机器人控制的新方法》摘要 本文提出了一种基于扩散模型的机器人控制策略(DiffusionPolicy),用于解决视觉运动控制中的多模态行为、高维动作空间和训练稳定性问题。该方法利用去噪扩散概率模型(DDPM)生成动作序列,通过迭代优化处理复杂动作分布,显著提升了性能。实验表明,在15项机器人操作任务中,扩散策略平均性能提升46.9%,有效解决了传统显式/隐式策略的局限性。其核心优势在于:1)优雅建模多模态动作分布;2)适应高维动作空间;3)训练过程稳定。未来工作将探索与强化学习的结合及计算

puzhinan7781的博客 1391

SAP Fiori 个性化数据持久化实战:从 Personalizer 到 Variant 的完整设计思路

摘要:SAPUI5的Personalization服务用于持久化用户界面交互偏好(如表格列顺序、筛选条件),而非业务数据。它提供两种模式:Direct Mode适合单一实体存储,Container Mode支持多实体和变体管理。开发时需注意数据存储位置差异(本地调试用local storage,生产环境由前端服务器处理),避免与业务数据或Bookmark服务混淆。典型应用场景包括表格布局保存和查询方案管理,需根据需求选择模式。该服务能有效提升Fiori应用的用户体验连续性。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 130

10. Greenplum高可用架构

10. Greenplum高可用架构与数据持久化论述 Greenplum数据库系统的高可用可以通过提供容错硬件平台实现,可以通过启用Greenplum数据库高可用特性实现,也可以通过执行定期监控和运维作业来确保整个系统所有组件保持健康来实现。 硬件平台的最终故障,可能因为常见的持久运行故障或非预期的运行环境。异常断电会导致组件临时不可用。系统可以通过为可能故障的节点配置冗余备份节点来保...

murkey的专栏 1115

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Greenplum高可用实现场景及运用讨论

本文旨在讨论Greenplum系统的高可用实现场景和使用方法。 一、Master和Standby的高可用 1.当前集群环境中已经为master节点创建了standby节点,状态正常,且记作master节点为node01,standby节点为node04。 2.系统运行中,standby节点失效,可以用直接关闭电源的方法模拟系统与standby失去联系。 此时原集群的master正常,服务访...

玉米猫的专栏 1052

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

mysql mha切换脚本_MHA故障切换脚本master_ip_failover结合VIP

MHA故障切换脚本master_ip_failover结合VIP:#!/usr/bin/envperlusestrict;usewarningsFATAL=>‘all‘;useGetopt::Long;my($command,$ssh_user,$orig_master_host,$orig_master_ip,$orig_master_...

weixin_35389904的博客 379

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

greenplum安装部署-CentOS7.9下Greenplum6.19集群搭建详细过程

CentOS7.9下的GreenPlum数据库集群安装

msh6453的博客 8458

Greenplum备份安全与高可用

Greenplum备份安全与高可用 目录 Greenplum备份安全与高可用 目录 1 Greenplum高可用 1.1 管理节点 1.2 数据节点 1.3 交换机 1.4 服务器 1.5 Master高可用 1.6 Segment高可用 1.7 系统表高可用 1.8 系统视图高可用 2 Greenplum安全 2.1 身份认证 2.1.1 pg_hba.conf配置连接类型 2.1.2 pg_hba...

知识的力量 1259

Redis主从复制(八)

主从就是读写分离 第一次全量同步 第二次开始增量同步 master必须开启持久化,否则master宕机重启以后会把从节点的数据清空 主从模式:一主一从、一主二从(常用)、树状模式(当有多个从节点时,这种模式会降低主节点的同步压力) 不建议一主多从 ...

b15735105314的博客 265

MySQL MHA之 master_ip_failover.sh脚本

master_ip_failover.sh脚本是用perl编写的,可以在mha-managery

yiyuf的专栏 3844

master_ip_failover以及 master_ip_online_change

1.master_ip_failover #!/usr/bin/env perl use strict; use warnings FATAL =&gt; 'all'; use Getopt::Long; my ( $command, $ssh_user, $orig_master_host, $orig_master_ip, $orig_ma...

xys2333的博客 1138
上一篇: Mac M1 Golang的安装以及Goland的debug失败问题处理
下一篇: DataX二次开发——(1)新增HANA数据源
CarsonBigData
博客等级 码龄9年 8316粉丝 166原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值