Hive-DML数据操作

数据导入

向表中装载数据(Load)

1.语法

load data [local] inpath '/opt/module/datas/student.txt' [overwrite] into table student [partition (partcol1=val1,…)];

(1)load data:表示加载数据

(2)local:表示从本地加载数据到hive表;否则从HDFS加载数据到hive表

(3)inpath:表示加载数据的路径

(4)overwrite:表示覆盖表中已有数据,否则表示追加

(5)into table:表示加载到哪张表

(6)student:表示具体的表

(7)partition:表示上传到指定分区

2.案例

加载本地文件到hive中

创建一张表

create table student(
id string, name string
)
row format delimited fields terminated by '\t';

加载本地文件到hive

load data local inpath '/opt/module/datas/student.txt' into table default.student;

加载HDFS文件到hive中

上传文件到HDFS

dfs -put /opt/module/datas/student.txt /user/liun/hive;

加载HDFS上数据

load data inpath '/user/liun/hive/student.txt' into table default.student;

加载数据覆盖表中已有的数据,overwrite

load data inpath '/user/liun/hive/student.txt' overwrite into table default.student;

通过查询语句向表中插入数据(Insert)

1.创建一张分区表

create table student(
id int, name string
) partitioned by (month string) row format delimited fields terminated by '\t';

2.基本插入数据

insert into table  student partition(month='201909') values(1,'liu');

3.基本模式插入(根据单张表查询结果)

insert overwrite table student partition(month='201908')
select id, name from student where month='201909';

4.多插入模式(根据多张表查询结果)

from student
              insert overwrite table student partition(month='201907')
              select id, name where month='201909'
              insert overwrite table student partition(month='201906')
              select id, name where month='201909';

注:insert into追加,insert overwrite覆盖

查询语句中创建表并加载数据(As Select)

create table if not exists student2 as select id, name from student;

注意创建表后面不能指定列字段名

创建表时通过Location指定加载数据路径

1.创建表,并指定在hdfs上的位置

create table if not exists student5(
              id int, name string
              )
              row format delimited fields terminated by '\t'
              location '/user/hive/warehouse/student4';

2.上传数据到hdfs上

dfs -put /opt/module/datas/student.txt /user/hive/warehouse/student4;

3.查询数据

select * from student4;

Import数据到指定Hive表中

注意:先用export导出后,再将数据导入。因为export导出数据带有元数据信息。表中不能有数据。

import table student2 partition(month='201909') from '/user/hive/warehouse/export/student';

数据导出

 Insert导出

1.将查询的结果导出到本地

insert overwrite local directory '/opt/module/datas/export/student'
select * from student;

2.将查询的结果格式化导出到本地

insert overwrite local directory '/opt/module/datas/export/student1'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
select * from student;

3.将查询的结果导出到HDFS上(没有local)

insert overwrite directory '/user/liun/student2'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' 
select * from student;

Hadoop命令导出到本地

dfs -get /user/hive/warehouse/student/ /opt/module/datas/export/student.txt;

Hive Shell 命令导出

基本语法:(hive -f/-e 执行语句或者脚本 > file)

bin/hive -e 'select * from default.student;' > /opt/module/datas/export/student2.txt;

 Export导出到HDFS上

export table default.student to '/user/hive/warehouse/export/student';

清除表中数据(Truncate)

注意:Truncate只能删除管理表,不能删除外部表中数据

truncate table student;

 

 

 

### HiveDML 操作教程 Hive 数据操作语言(DML)提供了多种操作方法,用于加载数据、插入数据、查询数据以及更新和删除数据。以下是关于 HiveDML 操作的详细说明。 #### 1. 加载数据到 Hive 表 `LOAD DATA` 是将数据从本地文件系统或 HDFS 加载到 Hive 表中的命令。支持覆盖或追加模式。 ```sql LOAD DATA [LOCAL] INPATH 'filepath' [OVERWRITE] INTO TABLE tablename [PARTITION (partcol1=val1, partcol2=val2 ...)]; ``` - `LOCAL`:指定数据来自本地文件系统[^1]。 - `INPATH`:指定数据路径。 - `OVERWRITE`:覆盖表中已有数据。 - `INTO TABLE`:指定目标表。 - `PARTITION`:指定分区信息。 #### 2. 插入数据到 Hive 表 `INSERT` 命令用于将查询结果插入到 Hive 表中。支持覆盖和追加两种模式。 ```sql -- 覆盖插入 INSERT OVERWRITE TABLE tablename SELECT * FROM sourcetable; -- 追加插入 INSERT INTO TABLE tablename SELECT * FROM sourcetable; ``` 对于多表插入,可以使用以下语法: ```sql FROM sourcetable INSERT OVERWRITE TABLE targettable1 SELECT * INSERT OVERWRITE TABLE targettable2 SELECT *; ``` #### 3. 创建事务表 Hive 支持事务表,但需要满足特定条件: - 必须是分桶表。 - 只支持 ORC 文件格式。 - 不支持 `LOAD DATA` 操作。 创建事务表示例如下: ```sql CREATE TABLE emp_ts( empno INT, ename STRING ) CLUSTERED BY (empno) INTO 2 BUCKETS STORED AS ORC TBLPROPERTIES ("transactional"="true"); ``` 注意:事务表的操作需要开启 ACID 支持[^2]。 #### 4. 查询数据 Hive 提供了强大的查询功能,支持复杂的过滤、排序和分组操作。 ```sql -- 查询所有列和行 SELECT * FROM student; -- 查询年龄大于 17 的女生 SELECT * FROM student WHERE age > 17 AND sex = 'female'; -- 查询语文成绩大于 90 的记录 SELECT * FROM student WHERE Chinese > 90; -- 查询前 3 条记录 SELECT * FROM student LIMIT 3; -- 返回按年龄降序的前 2 条记录 SELECT * FROM student ORDER BY age DESC LIMIT 2; ``` #### 5. 更新和删除数据 Hive 支持对事务表进行更新和删除操作。以下是示例: ```sql -- 更新数据 UPDATE student SET department = 'Math' WHERE id = 1; -- 删除数据 DELETE FROM student WHERE id = 2; ``` 需要注意的是,这些操作仅适用于事务表[^4]。 ### 示例代码 以下是一个完整的示例,展示如何加载数据、插入数据以及查询数据。 ```sql -- 创建表 CREATE TABLE IF NOT EXISTS student ( id INT, name STRING, sex STRING, age INT, department STRING ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ','; -- 加载数据 LOAD DATA LOCAL INPATH '/home/data/student.txt' INTO TABLE student; -- 查询数据 SELECT * FROM student; -- 插入数据 INSERT INTO TABLE student VALUES (5, 'Alice', 'female', 20, 'CS'); -- 更新数据(事务表) UPDATE student SET department = 'Math' WHERE id = 1; -- 删除数据(事务表) DELETE FROM student WHERE id = 2; ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值