系列文章回顾
【HIVE】(01)学会使用JOIN语句
【HIVE】(02)学会理解explain
【HIVE】(03)学会hive中的压缩和解压进行资源优化
【HIVE】(04)学会如何优化hive任务的mapper和reducer个数
Hive支持的存储数据格式主要有:textfile、sequencefile、orc、parquet。
有使用建议如下:
1)ORC和Parquet是Hive中推荐的存储格式,特别适合大规模数据存储和高性能查询。
2)TextFile和SequenceFile适用于特定场景下的数据存储和处理,但在大规模数据集和性能要求较高的情况下可能不够高效。
本文将介绍不同存储格式的特点。
一.2大类存储方式
有2大类存储方式:行存储、列存储。
1)行存储的特点
查询到满足条件的一行数据时,列存储则需要去每个聚集的字段找到对应的每个列的值,行存储只需要找到其中1个值,其余的值都在相邻地方,所以此时行存储查询的速度更快。
- textfile和seqluencefile的存储格式都是基于行存储的;