背景: 4个数据节点有数据倾斜,rebalance后依旧如此,检查分片数量和分布情况也是均衡的。最后发现相同的分片在其中一个节点存储消耗的磁盘资源比其他节点要大很多,导致了这个节点磁盘消耗较快。于是决定更换节点的磁盘
操作计划如下:
1- 将有问题的节点踢出集群 (缩容)
2- 等待数据rebalance达到数据迁移的效果
3- 更换好磁盘后,将节点重新加入到集群 (扩容)
缩容- 数据迁移
1- 设置宕机恢复时间为1分钟后,关闭 问题节点22的kudu
--follower_unavailable_considered_failed_sec :参数的意思是tserver宕机多久后,没有恢复正常,则将该tserver上的数据迁移到其他节点上。
## 范例
sudo -u kudu
kudu tserver set_flag $(hostname) follower_unavailable_considered_failed_sec 60 --force
## 例如:
sudo -u kudu
kudu tserver set_flag calculate22.xxx.xxx:7050 follower_unavailable_considered_failed_sec 60 --force
2- 到kudu webUI上确认节点已经移出kudu集群。
CDH, Ambari安装的话可以直接在 CDH和Ambari的kudu实例列表上确认。
也可以使用kudu的webUID查看kudu的集群情况 (master节点,默认port是8051)

本文介绍了解决Kudu集群中因磁盘资源消耗不均导致的数据倾斜问题的方法。通过详细步骤说明如何安全地从集群中移除问题节点、更换磁盘并重新加入集群的过程。
最低0.47元/天 解锁文章
1122

被折叠的 条评论
为什么被折叠?



