解决spark+hbase 报错 java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration

最新推荐文章于 2023-11-07 23:22:53 发布

原创

最新推荐文章于 2023-11-07 23:22:53 发布 · 3.2k 阅读

2 ·

CC 4.0 BY-SA版权

在尝试使用Spark2.2.1连接Hbase1.2.6时遇到异常：java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration。错误出现在作业提交过程中。解决这个问题的方法是在spark-env.sh配置文件中添加SPARK_CLASSPATH和SPARK_DIST_CLASSPATH环境变量，分别指向Hbase和Hadoop的库文件路径。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

spark2.2.1+hbase1.2.6+hadoop2.6.1+jdk1.8.1 提交spark作业时报错如下：

Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration

at fsm.FreqSubGraphMining.init(FreqSubGraphMining.java:285)
at fsm.Client.main(Client.java:15)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:775)