大数据之Hive简介

Hive基本概念

1.1什么是Hive

1)hive简介

       Hive:由facebook开源用于解决海量结构化日志的数据统计工具。

       Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。

2)Hive本质:将HQL转化成MapReduce程序

 

  (1)Hive处理的数据存储在HDFS

  (2)Hive分析数据底层的实现是MapReduce

  (3)执行程序运行在Yarn上

1.2Hive的优缺点

1.2.1优点

  (1)操作接口采用类SQL语法,提供快速开发的能力(简单,容易上手)。

  (2)避免了去写MapReduce,减少开发人员的学习成本。

  (3)Hive优秀在于处理大数据,支持海量数据的分析与计算。

  (4)Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。

1.2.2缺点

1)Hive的HQL表达能力有限

  (1)Hive自动生成的MapReduce作业,通常情况下不够智能化。

  (2)数据挖掘方面不擅长,由于MapReduce数据处理流程的限制,效率更高的算法却无法实现。

2)Hive的效率比较低

  (1)Hive的执行延迟比较高,因此Hive常用于数据分析,对实时性要求不高的场合。

  (2)Hive调优比较困难,粒度较粗。

3)Hive不支持实时查询和行级别更新

  (1)hive分析的数据是存储在hdfs上,hdfs不支持随机写,只支持追加写,所以在hive中不能updata和delete,能select和insert.

### 关于尚硅谷大数据Hive实战教程第11章的内容 在尚硅谷的大数据技术系列教程中,针对Hive的实战部分提供了详尽的学习材料[^3]。具体到第十一章节,主要聚焦于通过实际操作来加深理解,使学员能够掌握如何利用Hive处理大规模结构化数据集。 #### 主要内容概览 - **复杂查询优化** - 学习者会了解到不同类型的查询语句及其执行计划,并学会运用多种策略提升查询效率。 - **UDF函数开发** - 讲解自定义用户定义函数(UDF),允许使用者编写自己的逻辑并将其嵌入至SQL查询之中,从而扩展Hive的功能边界。 - **分区与分桶管理** - 探讨高效的数据组织方式——即分区(partitioning)和分桶(bucketing),以及它们对于加速特定模式下读取速度的重要性。 - **性能调优技巧** - 提供一系列实践建议帮助调整参数设置以达到最佳运行状态;包括但不限于内存分配、并发控制等方面的知识点。 ```sql -- 示例:创建外部表时指定文件格式为ORC,并采用LATERAL VIEW展开JSON数组字段 CREATE EXTERNAL TABLE IF NOT EXISTS my_table ( id STRING, data ARRAY<STRUCT<key:STRING,value:INT>> ) ROW FORMAT SERDE 'org.apache.hive.serde2.lazy.LazySimpleSerDe' STORED AS ORC LOCATION '/path/to/data'; SELECT t.id, tc.category_name FROM my_table LATERAL VIEW EXPLODE(data) t_data AS key, value; ``` 此章节不仅限理论讲解,更强调动手能力培养,鼓励读者跟随指导完成相应练习项目,在真实环境中验证所学概念的有效性和实用性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值