hive建外部表正常指向一个文件或者文件夹时很简单,然而需求是指向两个不同的文件夹起上级目录中还有其他文件不能直接指定上级目录,特此记录。
新建外部分区表
//新建外部分区表
create external table test(content string) partition by(date string);
将不同的文件/文件夹指向不同分区即可
//递归读取文件夹中的文件
set hive.mapred.supports.subdirectories=true;
set mapred.input.dir.recursive=true;
alter table test add partition(date= '2018-11-20') location '/dir1';
alter table test add partition(date= '2018-11-21') location '/dir2';
然后在表中就可以查看这两个文件夹下面的所有数据。
---------------------
作者:向阳飞行
来源:优快云
原文:https://blog.youkuaiyun.com/bigdataprimary/article/details/84316465
版权声明:本文为博主原创文章,转载请附上博文链接!
hive外部表指向多个文件/文件夹
最新推荐文章于 2024-04-10 22:05:54 发布
本文介绍如何在Hive中创建外部表并使用递归方式读取多个不同文件夹下的数据,通过设置特定参数及添加分区,实现对不同日期数据的有效管理。
309

被折叠的 条评论
为什么被折叠?



