hive中的内部表、外部表、分区表

本文介绍了Hive中的内部表和外部表的区别,包括它们在元数据管理和数据存储方面的不同。同时,还详细讲解了如何创建和使用分区表,以及在加载数据时需要注意的事项。

内部表和外部表

hive的表分为内部表(管理表)和外部表(托管表),对于外部表,在创建的时候,需要加上EXTERNAL关键字,不使用EXTERNAL关键字创建的表为内部表:

create EXTERNAL table IF NOT EXISTS bhive.people
(
    id string COMMENT 'student id',         //字段描述
    name string ,
    sex string
)
COMMENT 'student table'     //表的描述
ROW FORMAT DELIMITED FIELDS TERMINATED BY ' '       //从文件中将数据导入数据表的时候,文件中的数据每行各个字段之间的分隔符
STORED AS TEXTFILE      //从文件中获取数据时,指定文件所属的类型(默认是文本文件,企业开发一般使用ORC和PARQUET)
LOCATION /user/hive/warehouse/bhive/people;     //指定数据表在hdfs文件系统中的存储的位置

现在假设hive表的元数据信息存储在mysql数据库中,不管是内部表和外部表,在表的创建的时候,将会在mysql数据库中存储hive表的元数据信息,在hdfs文件系统中存储真正的数据信息。
对于内部表来说,如果删除创建的hive表时,此时会将mysql数据库中的元数据信息删除的同时也会将hdfs文件系统中的真正的数据信息删除。
对于外部表来说,删除创建的hive、表的时候,只会删除mysql数据库中的元数据信息,不会删除hdfs文件系统中的真正的数据信息。

分区表

分区表就是在创建的时候使用PARTITIONED BY指定表的分区,所谓分区,就是在hdfs文件系统中的相应的目录下创建相应的分区目录。在查询时候通过where子句中条件指定相应的分区。

//创建分区表
create table IF NOT EXISTS bhive.people
(
    name string ,
    sex string
)
PARTITIONED BY (col_name data_type, ...... );

//加载数据
load data local inpath '/path' into table table_name partition (part_name = 'part_name');

//查询分区数据
select * from table_name where part_name = 'part_name';

注意:在加载数据的时候需要指定将数据加载到那个分区下,此时加载数据的时候会自动创建分区目录。
如果在加载数据之前在相应的目录下创建分区目录,如果将数据上传到相应的分区目录下,此时查询将会无法查询到数据。
原因是,自动创建的分区,在mysql数据库的元数据信息中将会添加分区的元数据信息,而手动创建的分区,分区的元数据信息将不会保存到mysql数据库中。此时通过以下操作可以解决:

(1)方式一:修复表

msck repair table table_name

(2)方式二:为指定的表添加分区

alert table dept_name add partition(part_name = 'part_name');
### 区别 内部表外部表Hive 中两种重要的表类型,它们在数据存储、生命周期、数据共享和迁移等方面存在显著差异。内部表适用于数据完全由 Hive 管理,数据生命周期短,不需要与其他系统共享数据的场景。外部表适用于数据需要与其他系统共享,数据生命周期长,需要长期保留的场景 [^2]。 Hive的数据分为表数据和元数据,表数据是 Hive 中表格具有的数据,而元数据是用来存储表的名字、表的列和分区及其属性等。无论内部表还是外部表Hive 都在 Hive Metastore 中管理表定义、字段类型等元数据信息。删除内部表时,除了会从 Metastore 中删除表元数据,还会从 HDFS 中删除其所有数据文件;删除外部表时,只会从 Metastore 中删除表的元数据,并保持 HDFS 位置中的实际数据不变 [^1][^4]。 当希望 Hive 完全控制数据的存储位置和生命周期,并且删除表时数据也应被删除,选择内部表;当数据独立于 Hive 存在或被共享,Hive 只是用来查询它,并且需要确保删除 Hive 表定义不会删除底层数据,选择外部表,这是保护重要数据和实现多引擎共享的推荐做法 [^3]。 ### 创建 - **内部表创建示例**: ```sql CREATE TABLE internal_table ( id INT, name STRING ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ','; ``` - **外部表创建示例**: ```sql CREATE EXTERNAL TABLE external_table ( id INT, name STRING ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' LOCATION '/path/to/external/data'; ``` ### 使用 内部表外部表在使用上,查询语句基本一致。例如查询内部表外部表: ```sql SELECT * FROM internal_table; SELECT * FROM external_table; ``` 内部表由于数据完全由 Hive 管理,在插入、更新等操作时,Hive 可以更直接地处理。而外部表更多用于读取已经存在的数据,并且可以与其他系统共享数据。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值