Hive支持的存储数据的格式主要有:textfile(行式存储) 、sequencefile(行式存储)、orc(列式存储)、parquet(列式存储)。
行式存储和列式存储
列式存储是指一列中的数据在存储介质中是连续存储的;行式存储是指一行中的数据在存储介质中是连续存储的。
textfile:默认的存储格式:普通的文本文件,数据不压缩,磁盘的开销比较大,分析开销大。
sequencefile:提供的一种二进制存储格式,可以切割,天生压缩。
rcfile:提供的是一种行列混合存储方式,该方式会把相近的行和列数据放在一块儿,存储比较耗时,查询效率高,也天生压缩。
orc:压缩快,快速列存取 ,效率比rcfile高,是rcfile的一种优化存储。
parquet:相对于orc,parquet压缩比较低,查询效率较低,不支持update、insert。但是parquet支持Impala查询引擎。