hive on spark 修改application name

本文介绍如何在基于Spark引擎的Hive中自定义作业名称,通过设置spark.app.name参数来区分不同脚本执行的任务,提高任务管理效率。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

基于spark引擎的hive,在hive客户端中提交查询sql后,在yarn管理界面,或者8088界面,看到的作业名称都是"hive on spark",如下图所示,如果有多个脚本同时在运行时,就不好分辨。

如果是基于mapreduce引擎的,可以通过设置mapred.job.name参数来实现(笔者未验证)。

而基于spark引擎的,需要设置 spark.app.name。

hive (default)> set spark.app.name=a001;

 

需要注意的是,在同一个会话中,这个参数只能生效一次,

即第一次设置了 set spark.app.name=a001;执行了一个查询后,在同个会话中,再设置  set spark.app.name=a002;再执行一个查询语句。这时候,无论application id是否变化,a002都是不生效的。application name依然是a001。

但是如果开启会话后,连续执行两次设置set spark.app.name=a001;set spark.app.name=a002;再执行sql查询,会以后面一次设置为准,即application name是a002。

 

<think>我们正在使用Hiveon Spark,并且已经按照之前的步骤将Spark的依赖JAR包上传到了HDFS,并在hive-site.xml中配置了spark.yarn.jars指向HDFS路径。现在需要验证Hiveon Spark是否真的使用了HDFS上的JAR包,而不是从本地临时上传。验证方法可以从以下几个方面进行: 1. **查看YARN应用程序的日志**:在提交Hive onSpark任务后,通过YARN的日志查看Spark任务启动时的日志,特别是寻找是否有关于spark.yarn.jars的日志信息。2.**观察任务提交时的行为**:如果没有配置HDFS上的JAR路径,每次提交任务时,Spark都会将本地的JAR包上传到YARN的临时目录(如/tmp),这会导致任务提交时间较长。如果配置正确,则提交任务时不会上传这些JAR,因此提交速度会明显加快。 3. **检查HDFS上的JAR包访问时间**:如果HDFS上的JAR包被使用,那么这些文件的访问时间会更新。 具体操作步骤:###方法1:通过YARN日志验证1.提交一个Hive onSpark任务,例如:```sqlSEThive.execution.engine=spark;SELECT count(*) FROMyour_table; --替换为实际存在的表```2.获取该任务对应的YARN ApplicationID。可以通过YARN ResourceManager的Web UI查看,或者通过命令行:```bashyarnapplication -list -appStatesRUNNING```3.查看该Application的日志,特别是AM(Application Master)的日志。可以使用以下命令:```bashyarnlogs -applicationId<your_application_id>| grep"spark.yarn.jars"```或者直接查看完整的AM日志,搜索关键字`spark.yarn.jars`。如果配置正确,日志中应该会显示类似这样的信息:```INFOspark.SparkContext: AddedJARs: hdfs://namenode:8020/spark-jars/xxx.jar,...```或者```INFOspark.SparkContext: Usingmasteryarnwith properties...spark.yarn.jars=hdfs://namenode:8020/spark-jars/*``` ###方法2:观察任务提交速度-在配置之前,提交一个较大的任务(比如包含多个stage的任务)时,可能会在提交阶段花费较长时间(因为要上传大量JAR包)。-配置之后,同样的任务提交速度应该明显加快(因为跳过了上传JAR包的过程)。 ###方法3:检查HDFS文件访问时间1.在提交任务前,记录HDFS上SparkJAR目录下文件的访问时间(如果HDFS配置了访问时间跟踪):```bashhdfsdfs -ls /spark-jars``` 2.提交一个Hiveon Spark任务。3.任务完成后,再次检查HDFS上文件的访问时间。如果文件被使用,那么它们的访问时间应该更新为任务执行的时间(注意:HDFS默认不更新访问时间,需要配置`dfs.namenode.accesstime.precision`,但通常不开启。所以这个方法可能不适用,除非集群特别配置了访问时间更新)。 ###方法4:通过SparkWebUI验证(如果可访问)1.在任务运行时,访问Spark WebUI(通过YARN ApplicationMaster的TrackingURL进入)。 2.在Environment标签页中,查看`spark.yarn.jars`属性,确认其值是否为配置的HDFS路径。 ###方法5:检查YARN本地资源在YARN的NodeManager节点上,检查任务本地化资源目录(例如`yarn.nodemanager.local-dirs`配置的目录),通常位于`/tmp`或`/hadoop/yarn/local`。在任务运行期间,这些目录下会缓存从HDFS下载的JAR包(作为本地资源)。如果配置了`spark.yarn.jars`,那么应该能看到这些JAR包被下载到本地缓存。###常见问题排查- **路径错误**:确保`spark.yarn.jars`配置的路径正确,包括NameNode的地址和端口(如8020)以及路径是否存在。- **权限问题**:运行YARN任务的用户(通常是提交任务的用户)必须有权限读取HDFS上的`/spark-jars`目录。 -**配置未生效**:确保修改的`hive-site.xml`已经分发到所有Hive服务节点,并且重启了HiveServer2和MetaStore服务。 通过以上方法,特别是查看YARN日志,可以明确知道是否成功使用了HDFS上的JAR包。[^1]:Hive3.1.2支持的Spark是2.4.5,所以需要将下载的 Hive3.1.2的源码中的pom文件中的Spark版本改为3.0.0,然后再编译打包,得到支持 Spark3.0.0的Jar包[^2]:说明2:Hive任务最终由Spark来执行,Spark任务资源分配由Yarn来调度,该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径,这样集群中任何一个节点都能获取到hdfsdfs -put /opt/server/spark/jars/* /spark-jars/3.5.修改hive-site.xml文件[^3]:背景:Hive默认使用MapReduce作为执行引擎,即Hiveon mr。实际上,Hive还可以使用Tez和Spark作为其执行引擎,分别为Hive onTez和Hive onSpark。由于MapReduce中间计算均需要写入磁盘,而Spark是放在内存中,所以总体来讲Spark比MapReduce快很多。因此,Hive onSpark也会比Hive onmr快。为了对比Hive onSparkHiveon mr的速度,需要在已经安装了Hadoop集群的机器上安装Spark集群(Spark集群是建立在Hadoop集群之上的,也就是需要先装Hadoop集群,再装Spark集群,因为Spark用了Hadoop的HDFS、YARN等),然后把Hive的执行引擎设置为Spark。[^4]:hive onspark的架构和常见问题 -hive onspark使用的是 yarnclient模式还是yarn cluster模式?。hiveon spark的架构和常见问题- hiveon spark使用的是yarn client模式还是 yarncluster模式?1.回顾下spark的架构图和部署模式§§相关问题§§1.如何解决Hiveon Spark任务提交时出现的`ClassNotFoundException`错误?2.如何为Hiveon Spark动态更新HDFS中的Spark依赖版本?3.如何优化Hiveon Spark任务的YARN资源分配以提高性能? 4.Hive onSpark中,如何配置和管理Executor的内存和CPU资源?</think>### 如何验证 Hive on Spark 是否成功使用 HDFS 上的 JAR 包 以下是 5 种验证方法,按执行难度排序(从简单到复杂): #### 1. **检查 YARN 日志中的加载记录(推荐)** ```bash yarn logs -applicationId <your_app_id> | grep "spark.yarn.jars" ``` - **预期结果**: `INFO SparkContext: Added JARs: hdfs://namenode:8020/spark-jars/*.jar at ...`[^2] - **关键点**:日志中应显示从 HDFS 路径加载 JAR,而非本地路径(如 `/tmp`) #### 2. **观察任务提交速度** - **未使用 HDFS JAR 的表现**: 任务提交耗时 >30 秒(需上传数百 MB JAR 到 YARN) - **成功使用 HDFS JAR 的表现**: 提交时间 <5 秒(直接引用 HDFS 资源)[^2] #### 3. **检查 HDFS 访问记录** ```bash # 1. 记录 JAR 目录初始访问时间 hdfs dfs -ls /spark-jars > before.txt # 2. 提交测试任务 hive -e "SET hive.execution.engine=spark; SELECT count(*) FROM your_table;" # 3. 检查访问时间更新 hdfs dfs -ls /spark-jars > after.txt diff before.txt after.txt ``` - **验证点**:任务执行后 JAR 文件的访问时间(`atime`)应更新 #### 4. **Spark Web UI 验证** 1. 通过 YARN RM 进入 Spark Application UI 2. 查看 **Environment** 标签页: - `spark.yarn.jars` 的值应为 HDFS 路径 - `Jars` 列表应显示 `hdfs://` 开头的路径[^4] #### 5. **文件系统监控(高级)** 在 YARN NodeManager 节点执行: ```bash # 监控本地临时目录 watch "ls -l /tmp | grep spark" ``` - **正确情况**:任务运行时不会在 `/tmp` 生成大量 `spark-*.jar` 文件 - **错误情况**:出现类似 `spark-12345.jar.tmp` 的临时文件 --- ### 验证结果解读表 | 验证方法 | 成功标志 | 失败原因排查 | |---------|---------|-------------| | YARN 日志 | 显示 HDFS 路径加载 | 1. 配置未生效<br>2. 路径权限不足 | | 提交速度 | <5 秒快速提交 | 1. JAR 路径错误<br>2. 网络延迟 | | HDFS 访问时间 | JAR 文件 atime 更新 | 1. 路径未匹配<br>2. 缓存未刷新 | | Spark UI | Environment 显示 HDFS 路径 | 1. 配置未分发<br>2. 服务未重启 | | 本地临时文件 | 无新 JAR 文件生成 | 1. 配置被覆盖<br>2. Spark 版本不匹配 | --- ### 常见问题处理 若验证失败,检查以下配置: ```xml <!-- 确保路径包含 NameNode 地址和通配符 --> <property> <name>spark.yarn.jars</name> <value>hdfs://active-namenode:8020/spark-jars/*</value> </property> ``` - **权限修复命令**: ```bash hdfs dfs -chmod -R 755 /spark-jars hdfs dfs -chown yarn:yarn /spark-jars ``` > **关键提示**:在 HA 集群中必须使用逻辑命名空间(如 `hdfs://mycluster/spark-jars/*`),否则切换 NameNode 会导致路径失效[^2]。 通过以上方法,可 100% 确认 Hive on Spark 是否正确使用 HDFS JAR 包。通常在日志中看到 `Added JARs from HDFS` 即为成功[^2][^4]。 [^1]:Hive3.1.2 支持的 Spark 是 2.4.5,所以需要将下载的 Hive3.1.2 的源码中的 pom 文件中的 Spark 版本改为 3.0.0,然后再编译打包,得到支持 Spark 3.0.0 的 Jar 包 [^2]:说明2:Hive任务最终由Spark来执行,Spark任务资源分配由Yarn来调度,该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径,这样集群中任何一个节点都能获取到 hdfs dfs -put /opt/server/spark/jars/* /spark-jars/ 3.5. 修改hive-site.xml文件 [^3]:背景:Hive默认使用MapReduce作为执行引擎,即Hive on mr。实际上,Hive还可以使用Tez和Spark作为其执行引擎,分别为Hive on Tez和Hive on Spark。由于MapReduce中间计算均需要写入磁盘,而Spark是放在内存中,所以总体来讲Spark比MapReduce快很多。因此,Hive on Spark也会比Hive on mr快。为了对比Hive on SparkHive on mr的速度,需要在已经安装了Hadoop集群的机器上安装Spark集群(Spark集群是建立在Hadoop集群之上的,也就是需要先装Hadoop集群,再装Spark集群,因为Spark用了Hadoop的HDFS、YARN等),然后把Hive的执行引擎设置为Spark。 [^4]:hive on spark 的架构和常见问题 - hive on spark 使用的是 yarn client 模式还是 yarn cluster 模式?。hive on spark 的架构和常见问题 - hive on spark 使用的是 yarn client 模式还是 yarn cluster 模式? 1. 回顾下 spark 的架构图和部署模式
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

周小科

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值