
hive
kevin_wf
总结分享java,大数据相关开发运维工作,欢迎交流,共同进步
展开
-
hive添加表字段失败
alter语句在hive metastore中执行,在hive metastore 搜索error日志,发现报栈溢出java.lang.StackOverflowError.... ,StackOverflow 这个问题一般是程序里可能是有死循环或递归调用所产生的,或递归太深,在SQLText类中的toSQL()方法报出的,这个方法本身就是个递归方法。alter.....add columns 后面加了几十个字段,将字段一个个添加解决。Unable to alter table. null 错误日志。原创 2022-09-24 11:00:34 · 924 阅读 · 0 评论 -
cdh集群使用ORC bug
cdh orc bug原创 2022-08-05 14:33:43 · 463 阅读 · 0 评论 -
cdh5 hive on tez
下载tez源码编译,0.8支持hadoop2.6+,0.9支持hadoop2.7+,cdh5.x使用hadoop2.6这里下载tez-0.8.5Apache Downloadstar -zxvf tez-0.8.5.tar.gz 安装编译环境2.1安装JDK1.82.2安装Maven3下载安装包:apache-maven-3.5.4-bin.tar.gztar -zxvf apache-maven-3.5.4-bin.tar.gz -C /usr/local/software/m...原创 2022-04-08 13:47:15 · 286 阅读 · 0 评论 -
hive锁表
在工作中偶尔用户会反馈数据量不到但执行sql一直没结果,这时候可以排查下表是否被锁。表锁相关操作命令如下showlocks表名--查看表锁,showlocks表名partition(...)--查看分区锁,unlocktable表名;--解锁表unlocktable表名partition(dt='2014-04-01');--解锁某个分区...原创 2020-12-02 20:36:13 · 938 阅读 · 0 评论 -
hive metastore server Failed to sync requested HMS notifications up to the event ID xxxxx
最近遇到hive执行create,drop table语句时出现延时其它语句正常,平时秒级现在都需要200s才完成。经过排查发现有个用户使用手机号做动态分区字段,导致一下有上百万分区写入,hive metastore server出现问题,线程数飙升至1k多,内存升高。将任务停止后线程数下降,内存下降恢复正常水平,但是create,drop table还是不正常耗时200s才执行完成。sen...原创 2019-12-20 09:00:18 · 1757 阅读 · 0 评论 -
hive 异常-NPE org.apache.hadoop.hive.ql.exec.vector.expressions.CuckooSe.rehash
hive执行 sql 语句 select * from table where c in (....) 出现异常,异常日志如下: java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Hive Runtime Error while processing row at...原创 2019-08-28 22:04:43 · 4164 阅读 · 0 评论