
Hadoop
Hadoop生态
hblicy
这个作者很懒,什么都没留下…
展开
-
CDH安装kerberos后无法启动各组件的解决办法
起因:cm库被误删,导致cm打不开,将历史备份的cm库恢复后,cm管理界面能启动,但是各组件状态不正常(显示红色告警,都是停止状态,实际是启动状态)。解决:1、CMS启动报错,将/var/lib/cloudera-host-monitor,/var/lib/cloudera-service-monitor,/var/lib/cloudera-scm-eventserver删除,重启CMS成功。...原创 2019-12-16 21:24:16 · 1510 阅读 · 0 评论 -
CDH集群启用kerberos之后配置Kafka-manager
由于集群启用了kerberos,kafka-manager需做相应的配置才能使用。Kafka-manager安装详见其它文档。没有启用则不需要配置。1、修改application.confvim conf/application.conf2、修改consumer.propertiesvim conf/consumer.propertiessecurity.proto...原创 2019-04-10 15:41:28 · 872 阅读 · 0 评论 -
CDH5.10.2升级到CDH5.15.0常见的2个错误,Oozie和Hive Metastore
1、在CDH从5.10.2升级到5.15.0之后,oozie警告”Oozie Server 内部版本 (4.1.0-cdh5.15.0) 与 Oozie Server 共享库版本 (4.1.0-cdh5.10.2) 不匹配“此时需要重新安装一下oozie的共享库,完成即可2、Hive的Hive Metastore Server服务启动报错,NestedThrowablesStac...原创 2019-04-09 15:37:25 · 467 阅读 · 0 评论 -
元数据管理atlas导入hive和hbase元数据以及生成血缘
本文主要讲解导入hive和hbase元数据遇到的坑,以及hive生成列血缘遇到的问题和解决方式。Atlas版本0.8.4Hive版本1.2.1HBase版本1.3.11.安装和集成略 服务名称 子服务 HDP-001 HDP-002 HDP-003 HDP-004 HDP-005 HDP-006 HDP-原创 2020-06-21 20:29:09 · 5157 阅读 · 1 评论 -
phoinex版本升级回滚导致hbase regionserver启动故障,Failed open of region=XXX
现有hbase1.3集群集成了phoenix 4.14.1版本,在nifi的PutSql执行upsert into xxx select xxx from xxx时,等待很久之后返回报错,数据写不进,后用命令行sqlline.py执行也是如此:Error: ERROR 730 (LIM02): MutationState size is bigger than maximum allowed number of bytes (state=LIM02,code=730)尝试解决,按照网上的方法修改如.原创 2020-05-28 16:58:33 · 1645 阅读 · 0 评论 -
解决hive1.2.1不支持update更新操作
在pk环境下部署了一套原生hadoop环境,hive版本1.2.1,开发在用代码对hive表做update操作时报错:Caused by: org.apache.hadoop.hive.ql.parse.SemanticException: Attempt to do update or delete using transaction manager that does not suppor...原创 2020-04-30 16:29:26 · 3491 阅读 · 0 评论 -
spark程序跨集群操作的一点思路
现有2个集群如下:1、hdp,使用hive和yarn,有kerberos认证2、cdh,使用kafka和phoenix,无kerberos认证spark程序部署在hdp客户端机器。场景1:spark streaming程序yarn client模式读取cdh kafka数据写入hdp hive,经测试在hdp客户端主机跑local模式可行,跑yarn client模式报错,org....原创 2019-11-20 21:12:45 · 1150 阅读 · 0 评论 -
sparkstreaming使用keberos认证写hbase
最近在项目实施过程中,使用hdp和cdh集群时,hbase配置了kerberos认证之后,通过sparkstreaming程序连接操作hbase时,会出以如下错误:1、ERROR ipc.AbstractRpcClient: SASL authentication failed. The most likely cause is missing or invalid crede...原创 2019-05-10 11:53:23 · 1064 阅读 · 0 评论 -
kafka有台broker挂机之后长时间没重启,导致重启报错
2019-04-23 17:22:42,423 WARN kafka.controller.KafkaController: [Controller 782]: Partition [hjw_test8,6] failed to complete preferred replica leader election. Leader is 2012019-04-23 17:22:42,423 ERR...原创 2019-04-23 20:48:14 · 6102 阅读 · 0 评论