Hive之数据操作

下面是Hive的一些基本命令

执行Hive命令有一下几种方式:
cli客户端(shell),jdbc(java代码利用接口使用Hive,必须在shell窗口启动Hive等),hwi(web浏览器),
beeline(类似cli,虚拟机可以不再集群节点上,底层不同,底层是jdbc,在客户端的jdbc)
Hive的一些基本命令

cli shell
hive -help
hive --help

以下命令在shell对话框便可以执行:

hive --servece -help(关于服务的帮助提示):启动服务,存在的服务
直接输入:hive -help即可显示帮助
-define :定义key-value

-database :创建数据仓库<datasename>
-e:直接在客户端可以执行(不需要进入hive对话框)
例:hive -e “select* from database”   从database搜索所有数据
 从database所有数据重定向保存到文件里 :hive -e “select* from database” > PATH   
-f:hive -f filename  从文件读取sql并执行
-i:初始化SQL文件
-p:端口
-S:安静模式, hive  -S -e “select* from database”  过滤描述信息
-v:打印详细信息 :hive  -v -e “select* from database”  把结果和sql语句打印到文件里

以下命令必须在Hive对话框中输入shell语句:

显示所有jar包:list jar 

添加jar包:add jar  path(jar包位置)

通过.sh脚本文件执行Hive命令:在命令行直接输入 sh   文件名(.sh格式的文件)

source  path  执行path路径文件,在当前对话框生效

 

配置变量

set val="";  //设置val的值

${hiveconf:val}    //获得val值

例:set val="a"

select * from database where id ='${hiveconf:val} '    

${env:HOME} //环境变量HOME的值

例:select '${env:HOME}' from testext; 在testtext中查找环境变量中HOME的值 
 

 

 

一、关系运算: 4 1. 等值比较: = 4 2. 不等值比较: 4 3. 小于比较: < 4 4. 小于等于比较: 5 6. 大于等于比较: >= 5 7. 空值判断: IS NULL 5 8. 非空判断: IS NOT NULL 6 9. LIKE比较: LIKE 6 10. JAVA的LIKE操作: RLIKE 6 11. REGEXP操作: REGEXP 7 二、数学运算: 7 1. 加法操作: + 7 2. 减法操作: - 7 3. 乘法操作: * 8 4. 除法操作: / 8 5. 取余操作: % 8 6. 位与操作: & 9 7. 位或操作: | 9 8. 位异或操作: ^ 9 9.位取反操作: ~ 10 三、逻辑运算: 10 1. 逻辑与操作: AND 10 2. 逻辑或操作: OR 10 3. 逻辑非操作: NOT 10 四、数值计算 11 1. 取整函数: round 11 2. 指定精度取整函数: round 11 3. 向下取整函数: floor 11 4. 向上取整函数: ceil 12 5. 向上取整函数: ceiling 12 6. 取随机数函数: rand 12 7. 自然指数函数: exp 13 8. 以10为底对数函数: log10 13 9. 以2为底对数函数: log2 13 10. 对数函数: log 13 11. 幂运算函数: pow 14 12. 幂运算函数: power 14 13. 开平方函数: sqrt 14 14. 二进制函数: bin 14 15. 十六进制函数: hex 15 16. 反转十六进制函数: unhex 15 17. 进制转换函数: conv 15 18. 绝对值函数: abs 16 19. 正取余函数: pmod 16 20. 正弦函数: sin 16 21. 反正弦函数: asin 16 22. 余弦函数: cos 17 23. 反余弦函数: acos 17 24. positive函数: positive 17 25. negative函数: negative 17 五、日期函数 18 1. UNIX时间戳转日期函数: from_unixtime 18 2. 获取当前UNIX时间戳函数: unix_timestamp 18 3. 日期转UNIX时间戳函数: unix_timestamp 18 4. 指定格式日期转UNIX时间戳函数: unix_timestamp 18 5. 日期时间转日期函数: to_date 19 6. 日期转年函数: year 19 7. 日期转月函数: month 19 8. 日期转天函数: day 19 9. 日期转小时函数: hour 20 10. 日期转分钟函数: minute 20 11. 日期转秒函数: second 20 12. 日期转周函数: weekofyear 20 13. 日期比较函数: datediff 21 14. 日期增加函数: date_add 21 15. 日期减少函数: date_sub 21 六、条件函数 21 1. If函数: if 21 2. 非空查找函数: COALESCE 22 3. 条件判断函数:CASE 22 4. 条件判断函数:CASE 22 七、字符串函数 23 1. 字符串长度函数:length 23 2. 字符串反转函数:reverse 23 3. 字符串连接函数:concat 23 4. 带分隔符字符串连接函数:concat_ws 23 5. 字符串截取函数:substr,substring 24 6. 字符串截取函数:substr,substring 24 7. 字符串转大写函数:upper,ucase 24 8. 字符串转小写函数:lower,lcase 25 9. 去空格函数:trim 25 10. 左边去空格函数:ltrim 25 11. 右边去空格函数:rtrim 25 12. 正则表达式替换函数:regexp_replace 26 13. 正则表达式解析函数:regexp_extract 26 14. URL解析函数:parse_url 26 15. json解析函数:get_json_object 27 16. 空格字符串函数:space 27 17. 重复字符串函数:repeat 27 18. 首字符ascii函数:ascii 28 19. 左补足函数:lpad 28 20. 右补足函数:rpad 28 21. 分割字符串函数: split 28 22. 集合查找函数: find_in_set 29 八、集合统计函数 29 1. 个数统计函数: count 29 2. 总和统计函数: sum 29 3. 平均值统计函数: avg 30 4. 最小值统计函数: min 30 5. 最大值统计函数: max 30 6. 非空集合总体变量函数: var_pop 30 7. 非空集合样本变量函数: var_samp 31 8. 总体标准偏离函数: stddev_pop 31 9. 样本标准偏离函数: stddev_samp 31 10.中位数函数: percentile 31 11. 中位数函数: percentile 31 12. 近似中位数函数: percentile_approx 32 13. 近似中位数函数: percentile_approx 32 14. 直方图: histogram_numeric 32 九、复合类型构建操作 32 1. Map类型构建: map 32 2. Struct类型构建: struct 33 3. array类型构建: array 33 十、复杂类型访问操作 33 1. array类型访问: A[n] 33 2. map类型访问: M[key] 34 3. struct类型访问: S.x 34 十一、复杂类型长度统计函数 34 1. Map类型长度函数: size(Map) 34 2. array类型长度函数: size(Array) 34 3. 类型转换函数 35
<think> 嗯,用户需要关于Hive常见数据操作的实验报告内容。根据用户提供的引用资料,我可以整理出Hive数据操作的核心内容。 用户引用的资料[2]和[4]特别关键,其中[2]提到了Hive实验的基本流程:启动Hadoop→初始化Metastore→进入Hive shell→执行各种数据操作。[4]则详细展示了数据加载的四种典型场景:加载本地文件到普通表、加载HDFS文件到普通表、覆盖写入分区表数据、向分区表加载数据并指定分区。 考虑设计实验报告结构时,准备包含这些必做内容:实验环境准备部分要说明Hadoop和Hive的启动流程,引用[3]提到的hive.metastore.warehouse.dir配置可以解释默认存储路径。数据加载操作将重点演示四种load命令的差异,特别是带partition的案例需要强调分区目录自动创建的特性。查询部分计划补充基础select语法,虽然引用中未提及但实验报告通常需要包含。 注意到用户可能需要验证分区加载效果,所以准备在注意事项中加入检查HDFS目录的命令示例,比如hadoop fs -ls /user/hive/warehouse/t_load_part/time=2020-12-12。对于实验问题设计,考虑围绕load命令特性展开,比如询问覆盖写入与追加写入的区别,或者分区表加载时目录命名规则。 最后会在相关推荐环节关联到其他Hive操作,比如用户可能感兴趣的insert导出数据或动态分区装载,这些虽然不在当前引用里,但属于常见实验的延伸内容。 </think>基于引用内容,以下是Hive常见数据操作的实验报告框架及核心操作详解: --- ### **Hive数据操作实验报告** **实验目标**:掌握Hive表数据加载、查询与管理操作。 **环境准备**: 1. 启动Hadoop集群:`start-all.sh` 2. 初始化Metastore:`schematool -dbType mysql -initSchema` [^2] 3. 启动Hive:`hive` 进入交互环境 [^2] --- ### **一、数据加载操作** #### 1. **加载本地文件到普通表** ```sql -- 创建表(引用[1]) CREATE TABLE emp ( empno INT, ename STRING, job STRING, mgr INT, hiredate STRING, sal DOUBLE, comm DOUBLE, deptno INT ) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'; -- 加载本地数据(引用[4]) LOAD DATA LOCAL INPATH '/home/hadoop/data/emp.txt' INTO TABLE emp; ``` #### 2. **加载HDFS文件到表** ```sql LOAD DATA INPATH '/hdfs_path/emp_data.txt' INTO TABLE emp; -- 文件从HDFS移动至Hive仓库目录 [^4] ``` #### 3. **覆盖写入数据** ```sql LOAD DATA LOCAL INPATH '/new_data.txt' OVERWRITE INTO TABLE emp; -- 清空旧数据后写入 [^4] ``` #### 4. **向分区表加载数据** ```sql -- 创建分区表(引用[4]) CREATE TABLE emp_partitioned ( empno INT, ename STRING ) PARTITIONED BY (dept STRING) ROW FORMAT DELIMITED FIELDS TERMINATED BY ','; -- 按分区加载数据 LOAD DATA LOCAL INPATH '/data/dept_10.csv' OVERWRITE INTO TABLE emp_partitioned PARTITION (dept='HR'); ``` > **分区目录**:数据存储在HDFS路径 `/user/hive/warehouse/emp_partitioned/dept=HR/` [^3] --- ### **二、数据查询与管理** #### 1. 基础查询 ```sql SELECT * FROM emp WHERE sal > 3000; -- 条件过滤 SELECT dept, COUNT(*) FROM emp_partitioned GROUP BY dept; -- 聚合统计 ``` #### 2. 查看表结构 ```sql DESCRIBE FORMATTED emp; -- 显示表详细属性(含HDFS路径) ``` #### 3. 验证数据存储位置 ```bash # 在HDFS查看表目录(引用[3]) hadoop fs -ls /user/hive/warehouse/emp ``` --- ### **三、实验结果分析** | **操作类型** | **关键命令** | **存储位置变化** | |---------------------|----------------------------------------|------------------------------------------| | 加载本地文件 | `LOAD DATA LOCAL INPATH ...` | 数据复制到Hive仓库目录 | | 加载HDFS文件 | `LOAD DATA INPATH ...` | 文件从原路径**移动**至Hive仓库目录 | | 分区表加载 | `PARTITION (分区字段='值')` | 自动创建分区目录(如 `dept=HR`) | --- ### **注意事项** 1. **路径权限**:确保Hive对HDFS路径有读写权限。 2. **数据覆盖**:`OVERWRITE` 会清空表中**全部**现有数据。 3. **分区加载**:加载分区表时需显式指定分区值,否则需通过 `ALTER TABLE` 修复分区。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值