
spark
文章平均质量分 75
hwcptbtptp
这个作者很懒,什么都没留下…
展开
-
spark学习指南
第一步 安装scala环境第二步 学习scala spark最权威的scala入门教程 https://github.com/databricks/scala-style-guide第三步 学习spark RDD https://spark.apache.org/docs/latest/rdd-programming-guide.html第四步 学习spark其他 https://s原创 2018-01-26 10:04:33 · 305 阅读 · 0 评论 -
在intellij idea利用sbt插件远程调试spark程序
最近在用spark,写的spark代码必须在集群中才能执行,在调试时候,每修改一次代码都要submit到spark集群上,在调试的时候非常不方便。经过几天的搜索,发现可以将jar包放在集群上,但是可以在本地单步运行spark程序,只需要很少的设置就可以实现。由于仅用作示例,我仅仅提供简单的scala代码,没有涉及到sparkcontext。但是步骤是一样的。1、新建scala object原创 2018-02-06 09:20:18 · 1645 阅读 · 0 评论 -
spark读取hbase报错:java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration
原文地址:http://mangocool.com/1437009997261.html用sbt打包Spark程序,并未将所有依赖都打入包中,把Spark应用放到集群中运行时,出现异常:?1234567891011121314151617181920Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoo...转载 2018-04-13 15:15:11 · 3659 阅读 · 0 评论