背景描述
多实例情况下每个实例做了心跳检测,往redis中放值,代码如下:
``` @Scheduled(fixedDelayString = "${cost.loop.duration}", timeUnit = TimeUnit.SECONDS) public void onceReport() throws Exception { for (int i=0;i<5;i++) { try (ClosableLocker closableLocker = new ClosableLocker(LsbcConstant.INSTANCE_HEALTH_CHECK_CACHE_KEY)) { if (!closableLocker.isLocked()) { //加锁不上,可能其他实例正在报告其状态,等待100ms后再试,总计5次 Thread.currentThread().sleep(100); continue; } //判断实例时否死亡 Map<String,Long> instanceLastTimeMap = readInstanceHealthCheckMapExcludeDeathTime(loopDuration * 5 * 1000); //刷新当前实例的时间。 instanceLastTimeMap.put(EnvironmentCheckUtil.getInstanceId(),new Date().getTime()); //重新写入公共缓存 writeInstanceHealthCheckMap(instanceLastTimeMap); break; } }
按照以上代码会将每个实例的刷新时间放入Redis中的一个key中,字符串按格式:"instanceId1:time1;instanceId2:time2" 方式存储。转为MAP;
问题描述
在A服务中启用长任务的时候,B服务会查询到执行中的任务,判断服务是否中断,核心逻辑如下: 其中 isInterrupted方法打印出日志发现时B服务把A服务上的长任务中断,原因时map中没有A服务的刷新时间;
/** * 判断服务是否超过死亡时间 */ public static Map<String, Long> readInstanceHealthCheckMapExcludeDeathTime(long deathTime) throws Exception { Map<String,Long> result = new HashMap<>(); if (AppContext.cache().exists(LsbcConstant.INSTANCE_HEALTH_CHECK_CACHE_KEY)) { String instanceHealthCheckString = AppContext.cache().get(LsbcConstant.INSTANCE_HEALTH_CHECK_CACHE_KEY); //字符串按格式:"instanceId1:time1;instanceId2:time2" 方式存储。转为MAP String[] instanceHealthCheckArray = instanceHealthCheckString.split(";"); for (String instanceHealthCheck : instanceHealthCheckArray) { String[] instanceHealthCheckItem = instanceHealthCheck.split(":"); if (instanceHealthCheckItem.length == 2) { Long historyTime = Long.valueOf(instanceHealthCheckItem[1]); if (new Date().getTime() - historyTime > deathTime) { continue; } result.put(instanceHealthCheckItem[0],Long.valueOf(instanceHealthCheckItem[1])); } } } logger.info("readInstanceHealthCheckMapExcludeDeathTime :{}", JSON.toJSONString(result)); } ``` /** * 判断是否实际中断 * @param taskQueue * @param serviceId * @param instanceLastTimeMap * @return */ private boolean isInterrupted(ProcessTaskQueue taskQueue, String serviceId, Map<String, Long> instanceLastTimeMap) { if (!serviceId.equals(taskQueue.getExeSeviceId()) ){ //如果任务队列不是当期服务实例,则判断实例健康MAP中是否存在 if (!instanceLastTimeMap.containsKey(taskQueue.getExeSeviceId())){ logger.info("非任务服务实例发起的异常中断 taskQueueTaskId:{} serviceId:{} instanceLastTimeMap: {}",taskQueue.getTaskId(),serviceId,JSON.toJSONString(instanceLastTimeMap)); return true ; } }else { //如果等于当前服务实例。两种情况:A:正常执行中;B:服务实例重启过(其服务实例ID不发生变化,但首次启用为true) if (this.bFirstPolling){ logger.info("任务服务实例发起的异常中断 taskQueueTaskId:{} serviceId:{} bFirstPolling: {}",taskQueue.getTaskId(),serviceId,bFirstPolling); return true; } } return false; } ``` ```
问题定位
onceReport()方法中,假设B服务一直拿着锁,导致A服务拿不到从而进一步缓存中没有刷新到A服务的存活时间,进一步B实例认为A实例中断了;
问题解决
onceReport()方法中修改 修改为 hset(String key, String field, String value);
HSET 命令:如果你在多个实例中对 不同的 Key 执行 HSET 操作,Redis 会串行化这些写操作,确保每个 HSET 命令在执行时不会与其他命令交错。因此,对于 不同的 Key,并发写入不会导致数据竞争。
虽然 Redis 本身保证了单个命令的原子性,但在多实例环境下,如果多个实例操作的是 同一个 Key,则可能会出现并发问题。例如: 实例 A 执行 HSET key field1 value1 实例 B 执行 HSET key field2 value2 在这种情况下,Redis 会串行化这两个操作,确保每个操作在执行时是完整的。最终的结果取决于哪个命令最后执行,但不会出现数据交错的问题。