Hive DDL 数据定义

Hive DDL 数据定义

一、数据库

1.1 创建数据库

CREATE DATABASE [IF NOT EXISTS] database_name
[COMMENT database_comment]
[LOCATION hdfs_path]
[WITH DBPROPERTIES (property_name=property_value, ...)];

1. 创建一个数据库，数据库在HDFS上默认的储存路径是/user/hive/warehouse/*.db

   create database db_hive;
   

2. 要避免创建的数据库已经存在的错误，增加if not exists判断（标准写法）

   create database db_hive;
   # FAILED: Execution Error, return code 1 from 
   # org.apache.hadoop.hive.ql.exec.DDLTask. Database db_hive already exists
   
   create database if not exists db_hive;
   

3. 创建一个数据库，指定数据库在HDFS上存放的位置

   create database db_hibe2 location  '/db_hive2.db';
   

1.2 查询数据库

1. 显示数据库

   show databases;
   
   # 过滤
   show databases like 'db_hive*';
   

2. 查看数据库详情

   desc database db_hive;
   
   # 显示详细信息
   desc database extended db_hive;
   

3. 切换数据库

   use db_hive;
   

1.3 修改数据库

用户可以使用alter database命令为某个数据库的dbproperties 设置键值对属性值来描述这个数据库的属性信息。

alter database db_hive
set dbproperties('createtime'='20210826');

1.4 删除数据库

1. 删除空数据库

   drop database db_hive2;
   

2. 如果数据库不一定存在，最好采用if exists判断数据库是否存在

   drop database db_hive2;
   # FAILED: SemanticException [Error 10072]: Database does not exist: db_hive2
   
   drop database if exists db_hive;
   

3. 如果数据库不为空，可以采用cascade命令，强制删除

   drop database db_hive;
   # FAILED: Execution Error, return code 1 from 
   # org.apache.hadoop.hive.ql.exec.DDLTask. 
   # InvalidOperationException(message:Database db_hive is not empty. One or more tables exist.)
   
   drop database db_hive cascade;
   

二、表

2.1 创建表

CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], ...)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
[CLUSTERED BY (col_name, col_name, ...)
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]
[TBLPROPERTIES (property_name=property_value, ...)]
[AS select_statement]

字段解释说明

1. CREATE TABLE创建一个指定名字的表。如果相同名字的表已经存在，则抛出异常；可以使用IF NOT EXISTS来忽略异常。

2. EXTERNAL关键字可以让用户创建一个外部表，在建表的同时可以指定一个指向实际数据的路径，在删除表的时候，内部表的元数据和数据会被一起删除，而外部表只删除元数据，不删除数据。

3. COMMENT为表和列添加注释。

4. PARTITIONED BY创建分区表。

5. CLUSTERED BY 创建分桶表。

6. SORTED BY 不常用，对桶中的一个或对个列另外排序。

7. ROW FORMAT

   ROW FORMAT DELIMITED [FIELDS TERMINATED BY char] 
   [COLLECTION ITEMS TERMINATED BY char]
   [MAP KEYS TERMINATED BY char]
   [LINES TERMINATED BY char]
    | SERDE serde_name [WITH SERDEPROPERTIES (property_name=property_value, property_name=property_value, ...)]
   

   用户在建表的时候可以自定义SerDe或者使用自带的SerDe。如果没有指定ROW FORMAT或者ROW FORMAT DELIMITED，将会使用自带的SerDe。在建表的时候，用户需要为表指定列，用户指定表的列的同时也会指定自定义的SerDe，Hive通过SerDe确定表的具体的列的数据。

   例如：

   create table test1(
   name string,
   friends array<string>,
   children map<string, int>,
   address struct<street:string, city:string>
   )
   row format delimited fields terminated by ','
   collection items terminated by '_'
   map keys terminated by ':'
   lines terminated by '\n';
   

   SerDe是Serialize/Deserilize的简称，hive使用SerDe进行序列化/反序列化。

8. STORED AS 指定储存文件类型

   常用的储存文件类型：SEQUECEFILE(sequeceFile 二进制文件)、TEXTFILE(textFile 文本)、RCFILE(rcFile 列式储存格式文件)

   如果文件数据是纯文本，可以使用stored as textfile ；如果数据需要压缩，使用stored as sequecefile。

9. LOCATION 指定表在HDFS上的储存位置。

10. AS 后跟查询语句，根据查询结果创建表。

11. LIKE 允许用户复制现有的表结构，但是不复制数据。

2.2 管理表

1. 定义

   默认创建的表都是管理表，也称为内部表。因为内部表，Hive会或多或少的控制着数据的生命周期。Hive默认情况下会将这些表的数据储存在配置项hive.metastore.warehouse.dir(例如：/user/hive/warehouse)所定义的目录的子目录下。

   当删除一个管理表时，Hive也会删除这个表中的数据。管理表不适合和其他工具共享数据。

2. 例子

   1. 原始数据

      1001 ss1
      1002 ss2
      1003 ss3
      1004 ss4
      1005 ss5
      1006 ss6
      1007 ss7
      1008 ss8
      1009 ss9
      1010 ss10
      1011 ss11
      1012 ss12
      1013 ss13
      1014 ss14
      1015 ss15
      1016 ss16
      

   2. 创建普通表

      create table if not exists student(
      id int, name string
      )
      row format delimited fields terminated by '\t'
      stored as textfile
      location '/user/hive/warehouse/student';
      

   3. 根据查询结果创建表，查询的结果会添加到新创建的表中

      create table if not exists student2 as select id, name from student;
      

   4. 根据已经存在的表结构创建表

      create table if not exists student3 like student;
      

   5. 查询表的类型

      desc formatted student2;
      # Table Type: MANAGED_TABLE
      

2.3 外部表

1. 定义

   因为外部表中的数据是外部的，所以Hive并非认为其完全拥有这份数据。所以，删除表不会删除数据，不过描述表的元数据信息会被删除。

2. 管理表和外部表的使用场景

   每天将收集到的网站日志定期流入HDFS文本文件。在外部表（原始日志表）的基础上做大量的统计分析，用到的中间表、结果表使用内部表储存，数据通过select+insert进入内部表。

3. 例子

2.4 管理表和外部表的互相转换

1. 查询表的类型

   desc formatted student;
   # Table Type: MANAGED_TABLE
   

2. 修改内部表student为外部表

   alter table student set tblproperties('EXTERNAL'='TRUE');
   

   注意：('EXTERNAL'='TRUE')和('EXTERNAL'='FALSE')是固定写法，区分大小写。

3. 查询表的类型

   desc formatted student;
   # Table Type: EXTERNAL_TABLE
   

4. 修改内部表student为内部表

   alter table student tblproperties('EXTERNAL'='FALSE');
   

5. 查询表的类型

   desc formatted student;
   # Table Type: MANAGED_TABLE
   

2.5 修改表

1. 重命名表

   alter table table_name rename to new_table_name;
   

2. 增加/修改/替换列信息

   # 更新列
   ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name 
   column_type [COMMENT col_comment] [FIRST|AFTER column_name]
   
   # 增加和替换列
   ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT 
   col_comment], ...)
   

   注意：ADD是代表新增一个字段，字段位置在所有列后面（partition列前），REPLACE则是表示替代表中所有字段。

3. 例子

   # 重命名 
   alter table student rename to student2;
   
   # 添加列
   alter table student add columns(stud string);
   
   # 更新列
   alter table student change column stud stu string;
   
   # 替换列
   alter table student replace columns(id int, name string, loc string);
   

2.6 删除表

drop table student;