记录一次hive表锁表经历

本文讲述了作者在项目上线前,通过DolphinScheduler调度刷新Hive表时遇到的问题,包括SQL错误、工作流未完全停止导致的锁表问题,以及如何解决死锁的过程。

前些天亲身经历了一次hive表锁表经历,现在有空,记录一下。
照例先介绍下背景,此次涉及到 两张hive表 table_a ,table_b ,两张表都是外部表,table_b的生成依赖于table_a,调度执行用的是 dolphinscheduler。
此次经历发生在项目上线前hive表刷数据阶段,由于两张表新增了字段,需要全量刷新数据后同步给后端使用。
我当时的操作是这样的,

  1. 数据脚本上线后,在dolphinscheduler中启动工作流,相关任务开始依次执行。
  2. 执行过程中,table_a生成后,发现 table_a 的生成sql有问题(任务没有失败,测试数据样本量不够,缺少对某个字段特定值的特殊处理),此时工作流还在正常执行中。我发现sql有问题后,在dolphinscheduler停止工作流。
  3. 在观察到 dolphinscheduler工作流停止后,修改sql准备重新执行,然而,此时工作流实际并没有完全停止。dolphinscheduler停止工作流是等待当前执行中任务完成后才会停止,(并不会杀掉相关任务进程,更不会停止yarn进程,坑),状态在移动到标识上时才会显示为准备停止。然后我就中招了,以为它停止了,实际并没有,此时table_b正在执行中
    运行类型为停止,状态为准备停止
  4. 发现table_a数据不对,自然要清空数据后重新执行,由于是外部表,我所做的操作是 先 hdfs dfs -rm -r 掉分区对应目录,然后在hive中,执行 alter table table_a drop partition() (不规范的操作,不要学我,直接 insert overwrite table_a就行)。
    第一步很顺利就执行成功了,但第二步没有反应(因为生成table_b用到table_a,此时table_a有锁)。但当时并没有想到锁表(以为工作流已经停了),只是单纯以为卡了或发生了其他问题,此时,hdfs中没有该分区的目录,在hive中,show partitions 时有该分区,select 时数据为null
  5. 在我的一通操作下自然而然产生了死锁, table_b执行中给table_a加了shared 锁,我直接删除hdfs文件,又导致 table_b 执行进行不下去(按理说到这一步时table_b应该会报错失败,然鹅并没有,一直在重试),而table_b的重试又一直给table_a加锁,导致drop parititon 失败无反应。等待半小时后,drop partition 依然失败,尝试删表重建,依然失败,想到了是不是锁表。show locks table_a,嗯,没错,锁表了,找到对应的进程,杀掉,然后重新 drop partition ,成功,问题解决。

不是什么大问题也不是什么难问题,但由于从没遇到过这种问题,思路没转过来,浪费了一个多小时,导致上线推迟。特此记录一下。

Life is fantastic!

### 如何在 Windows 系统中安装 PythonQt Designer 并配置环境 #### 安装 PyQt6 和 Qt Designer 为了在 Windows 上使用 Qt Designer,可以通过 `pip` 命令安装最新的 PyQt6 模块。PyQt6 是一个用于创建图形用户界面 (GUI) 应用程序的工具包,并附带了 Qt Designer 工具。 运行以下命令可以完成 PyQt6 及其相关组件的安装: ```bash pip install pyqt6-tools ``` 此命令会自动下载并安装必要的依赖项,其中包括 Qt Designer[^1]。 #### 配置路径以便访问 Qt Designer 安装完成后,通常可以在以下目录找到 Qt Designer 文件(具体位置取决于 Python 解释器的位置): - **对于标准安装**:`C:\Users\<用户名>\AppData\Local\Programs\Python\<版本号>\Lib\site-packages\pyqt6_tools` - 或者通过脚本启动:`python -m pyqt6_designer`. 如果希望直接从文件资源管理器或桌面快捷方式打开 Qt Designer,则需将其可执行文件所在路径添加到系统的环境变量 PATH 中。操作方法如下: 1. 打开控制面板 -> 系统和安全 -> 系统 -> 高级系统设置。 2. 单击“环境变量”,在“系统变量”部分找到名为 “Path”的条目并编辑它。 3. 添加上述提到的设计工具所在的完整路径至列表末尾。 这样处理之后,在任意 CMD 终端窗口输入 designer.exe 就能调用该应用程序。 #### 测试安装成功与否 验证是否正确设置了所有内容的一个简单办法就是尝试加载设计模式本身或者利用 PyQT 创建一个小项目来看看能否正常渲染 UI 元素。下面给出一段简单的例子展示如何载入由设计师保存下来的 .ui 文件并通过 python 运行起来: ```python from PyQt6 import uic import sys from PyQt6.QtWidgets import QApplication, QMainWindow class MyUI(QMainWindow): def __init__(self): super(MyUI,self).__init__() # 加载 ui 文件 uic.loadUi('your_ui_file.ui', self) if __name__ == '__main__': app = QApplication(sys.argv) window = MyUI() window.show() try: sys.exit(app.exec()) except SystemExit: pass ``` 以上代码片段假设存在一个叫做 'your_ui_file.ui' 的文件位于当前工作目录下,它是之前通过 Qt Designer 构建出来的界面布局定义文档。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值