在使用idea进行spark开发时遇到如下报错
Exception in thread "main" java.lang.NoClassDefFoundError: scala/Product$class
at org.apache.spark.streaming.Duration.<init>(Duration.scala:22)
at org.apache.spark.streaming.Seconds$.apply(Duration.scala:90)
at streamingtest$.main(streamingtest.scala:9)
at streamingtest.main(streamingtest.scala)
Caused by: java.lang.ClassNotFoundException: scala.Product$class
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:335)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
... 4 more
经过检查后发现,是因为jar包的版本冲突了,大概率是在添加依赖的时候版本不一致,结果果然如此,我的spark-core和spark-streaming包的scala版本不一致,修改一致即可
修改完毕,重新下载依赖,顺利运行