
spark
文章平均质量分 58
蔡锦澄
这个作者很懒,什么都没留下…
展开
-
华为FusionInsight sparkstreaming消费kafka kerberos异常解决
背景 使用FusionInsight Manager上的sparkstreaming消费kafka数据到hive 编写 修改FusionInsight client的spark2中的demo进行流程测试 修改maven中的依赖,将所有的dependency增加<scope>provided</scope>,使用maven打包 <build> <plugins> <plugin>原创 2020-12-02 15:22:34 · 984 阅读 · 2 评论 -
cdh开启kerberos,spark访问hbase,在yarn-cluster环境提交执行
环境准备 cdh集群,开启kerberos认证,需要通过spark访问hbase 本地idea开发 //是否需要kerberos认证 val IS_KERBEROS = PropertiesUtils.getBoolean("hbase.kerberos") //krb5.conf路径 val KRB5_CONF_PATH = PropertiesUtils.getString("java.security.krb5.conf") //hbase.keytab路径 val KEYTAB_PATH = P原创 2020-11-18 14:16:13 · 714 阅读 · 0 评论