[解决]Spark运行中java.net.UnknownHostException: nameservice1的异常

本文介绍了如何处理在执行Spark程序时遇到的`java.net.UnknownHostException: nameservice1`异常。该异常通常由于HDFS HA配置中的nameservice1未被正确识别。解决方案是检查CDH5.4中的`hdfs-site.xml`配置文件,特别是通过Zookeeper进行的 Namenode 选举设置。将`hdfs-site.xml`文件复制到$SPARK_HOME/conf目录,可以确保Spark能够正确访问HDFS路径。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

[Author]: kwu

解决Spark运行中java.net.UnknownHostException: nameservice1的异常,nameservice1是配置hdfs中用到的HA,在执行spark程序时出现 java.net.UnknownHostException: nameservice1异常,找到正确的路径。


分析在CDH5.4中配置文件/etc/hadoop/conf/hdfs-site.xml,此文件记录了hdfs的路径与主节点的配置


hdfs-site.xml 主要配置如下:

<property>
    <name>dfs.nameservices</name>
    <value>nameservice1</value>
  </property>
  <property>
    <name>dfs.client.failover.proxy.provider.nameservice1</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
  <property>
    <name>dfs.ha.automatic-failover.enabled.nameservice1</name>
    <value>true</value>
  </property>
  <property>
    <name>ha.zookeeper.quorum</name>
    <value>bdc40.hexu
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值