加入sentry后hive HMS的canary时间较长问题

最新推荐文章于 2025-09-19 01:28:47 发布

原创最新推荐文章于 2025-09-19 01:28:47 发布 · 1.6k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#hive #p2p #linq

大数据/HDFS/CDH/sqoop 专栏收录该内容

17 篇文章

订阅专栏

在CDH6.3中添加sentry后，发现通过beeline创建表的操作耗时增加到200秒，同时CM界面显示hive HMS的canary时间延长。原因是sentry信息同步缓慢导致消息积压。解决方法包括调整`sentry.notification.sync.timeout.ms`参数和更新sentry消息同步记录。若消息积压严重，可更新`SENTRY_HMS_NOTIFICATION_ID`表以快速同步到最新ID，然后重启sentry服务。

异常问题：

给CDH6.3添加完sentry之后，登录beeline,创建表的时候，操作需要 200s 多完成，但是不影响查询表的数据。每次建表CM界面显示hive HMS的canary时长增高到几分钟。

创建测试表花费200s

CM界面上hive的HMS Canary持续时间很长：

原因：

因为是上sentry的时候出现的情况，所有定位点应该是sentry做的妖；经过一番查找是由于sentry信息同步的消息过慢；HMS 会实时向 Sentry 同步 Notifications 请求，当需要大批同步消息需要处理，后台线程处理不过来，消息压滞就会出现这个异常。这个异常不影响集群正常使用，只是会导致create, drop 等操作慢，需要等待 200s，等待的目的也是为了追上最新的ID

解决：

1、适当调小 sentry.notification.sync.timeout.ms 参数

2、更新 sentry 消息同步记录
如果消息积压的太多，sentry 慢慢消费的时间太长的话，可能一直追不上 HMS 的最新 id，此时可以选择丢掉这些信息，具体操作在 sentry 元数据的 SENTRY_HMS_NOTIFICATION_ID 表中插入一条最大值（该最大值等于当前消息的 id 值，从 hive 元数据的 NOTIFICATION_SEQUENCE 表中获取），重启 sentry 服务。

use sentry;
insert into SENTRY_HMS_NOTIFICATION_ID values(184472866);
更新后 create 操作时间正常