cdh集群输入spark-shell提示如下错误

最新推荐文章于 2022-07-28 17:31:04 发布

lvtula

最新推荐文章于 2022-07-28 17:31:04 发布

阅读量654

点赞数

CC 4.0 BY-SA版权

分类专栏： CDH 文章标签： spark2-shell

本文链接：https://blog.youkuaiyun.com/lvtula/article/details/88854004

CDH 专栏收录该内容

33 篇文章

订阅专栏

本文记录了一次使用Spark2-shell遇到的问题及解决方法。当尝试运行spark-shell时出现NoClassDefFoundError异常，原因是系统中安装了CDH并集成了Spark2，但启动命令使用了spark-shell而非spark2-shell。解决这一问题只需更改为spark2-shell即可。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

[hdfs@mini2 ~]$ spark-shell
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataInputStream
at org.apache.spark.deploy.SparkSubmitArguments$$anonfun$mergeDefaultSparkProperties$1.apply(SparkSubmitArguments.scala:123)
at org.apache.spark.deploy.SparkSubmitArguments$$anonfun$mergeDefaultSparkProperties$1.apply(SparkSubmitArguments.scala:123)
at scala.Option.getOrElse(Option.scala:120)
at org.apache.spark.deploy.SparkSubmitArguments.mergeDefaultSparkProperties(SparkSubmitArguments.scala:123)
at org.apache.spark.deploy.SparkSubmitArguments.<init>(SparkSubmitArguments.scala:109)
at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:114)
at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.fs.FSDataInputStream
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:335)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
... 7 more

原因：我的cdh集成的是spark2 应该输入spark2-shell