
hive
文章平均质量分 73
lsxy117
待人真诚,做事有上进心,头脑灵活,接受能力强。处事自信、认真、有主见,不怕辛苦。我憧憬做一个事业成功的人、能带快乐给身边人的人。
展开
-
Hive集成Mysql作为元数据时,提示错误:Specified key was too long; max key length is 767 bytes
在进行Hive集成Mysql作为元数据过程中,做完所有安装配置工作后,进入到hive模式,执行show databases;执行正常,接着执行show tables;时却报错。关键错误信息如下:com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key leng原创 2015-08-09 22:59:28 · 1839 阅读 · 0 评论 -
hive 空值的处理
hive的使用中不可避免的需要对null、‘’(空字符串)进行判断识别。但是hive有别于传统的数据库。下面一一说明:(1)不同数据类型对空值的存储规则int与string类型数据存储,null默认存储为 \N;string类型的数据如果为"",存储则是"";另外往int类型的字段插入数据“”时,结果还是\N。 (2)不同数据类型,空值的查询对于int可以使用is原创 2015-12-23 15:28:29 · 41889 阅读 · 0 评论 -
hive数据去重,并取指定的一条数据
hive数据去重,并根据需求取其中一条数据案例:name adx tran_id cost ts ck 5 125.168.10.0 33.00 1407234660ck 5 187.18.99.00 33.32翻译 2015-12-23 15:32:58 · 31472 阅读 · 0 评论 -
hive实现多行转成1行
--场景描述:将查询结果记录每行内容的列先按逗号(,)分割,然后再将多行内容用&符号存为一行内容例如:id name age8 liu 199 zhang 2010 li 25要求转化为:8,liu,19&9,zhang,20&10,li,25--实现脚本SELECT concat_ws('&', collect_set(原创 2016-03-24 15:55:47 · 4257 阅读 · 1 评论 -
hive json数据生成和处理
场景:查询结果封装成json格式实现:封装记录为json格式可以编写自定义函数,也可以直接使用concat函数直接拼接,下面直接使用concat函数拼接实现将数据行转化为json数据select concat('{\"id\":\"', t.id, '\",\"index_date\":\"', NV原创 2016-03-24 16:14:30 · 25032 阅读 · 3 评论 -
关系型数据库导出至Hive仓库脚本
业务场景:工作中经常需要将关系型数据库(Oracle、MySQL)中的表导入到hive中进行大数据运算,故编写快捷的脚本实现,脚本名为:RDBtoHive.sh。实际案例:将Oracle中表tbl_o_test 数据导入到hive 的表 tbl_h_test 中,这里表 tbl_h_test 的结构及字段顺序同表tbl_o_test 一致,注意字段类型可以不一致,但是字段顺序需一原创 2016-04-22 17:44:52 · 1668 阅读 · 0 评论