Apache Hive 0.13发布,新增ACID特性

Hive 0.13 版本带来了显著改进,包括基于 Tez 的查询加速、矢量查询执行器模型以及 SQL 标准基础上的授权功能。新增支持 DECIMAL 和 CHAR 数据类型,并实现行级 ACID 事务支持。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

4月16日在http://mirror.bit.edu.cn/apache/hive/hive-0.13.0/网址就可以下载Hive 0.13,这个版本在Hive执行速度、扩展性、SQL以及其他方面做了相当多的修改:

一、执行速度

  用户可以选择基于Tez的查询,基于Tez的查询可以大大提高Hive的查询速度(官网上上可以提升100倍)。下面一些技术对查询速度的提升:
  (1)、Broadcast Joins:和MapJoin类似,但是不需要在client端建立一个hashtable;
  (2)、Dynamic Partitioned Hash Joins:基于大表bucketing的特性去分发小表;
  (3)、Cardinality estimation-based decision: 主要是在Join算法和并行度上面;
  (4)、Pre-launch of containers
  目前Hive提供了矢量查询执行器模型,可以使得CPU的计算提高5-10倍,查询翻译速度提高2-3倍。

二、SQL方面

  Hive 0.13支持与SQL标准为基础的授权功能,用户现在可以在SQL兼容的方式定义他们的授权策略。在实体上,扩展了SQL语言以便支持grant和revoke。而且Hive现在支持show roles、user privileges以及active privileges。支持可插拔的授权API。其他新特性:
  (1)、支持DECIMAL和CHAR数据类型;
  (2)、Unqualified的join条件;
  (3)、基于标准的带引号标识符行为;
  (4)、Common table expressions
  (5)、IN, NOT IN, EXISTS and NOT EXISTS支持子查询;
  (6)、Permanent functions
  (7)、在WHERE后面支持JOIN条件。
  当然在Hive 0.13中,事务的原子性、一致性和持久性在分区层得到保证,隔离性则通过开启ZooKeeper或内存中可用的锁机制来保证。通过在Hive 0.13中加入事务,实现在行级提供全部的ACID语义,这样的话,一个应用程序可以添加行,而另一个应用程序可以从同一分区中读取数据,互相之间不会产生干扰。配置事务Hive中引入了十个新的配置:hive.txn.manager、hive.txn.timeout、hive.txn.max.open.batch、hive.compactor.initiator.on、hive.compactor.worker.threads、hive.compactor.worker.timeout、hive.compactor.check.interval、hive.compactor.delta.num.threshold、hive.compactor.delta.pct.threshold和hive.compactor.abortedtxn.threshold,关于这些属性的默认值和含义可以去阅读官方文档。

三、其他方面的提升

  主要是在HiveServer2, HCatalog and JDBC access等
  (1)、Hive Server 2支持HTTP方式,SSL support for both binary and HTTP (HTTPS)、在HTTP(S)支持Kerberos 授权,Support for HTTP(S) through a trusted proxy。
  (2)、HCatalog :HCatalog parity for all Hive data types,Reconciliation of HCatalog and Hive “INSERT INTO” semantics。
  (3)、JDBC:Support for JDBC job cancel,Async execution。
  一张详细的表可以参照:

hive 0.13

hive 0.13

内容概要:该PPT详细介绍了企业架构设计的方法论,涵盖业务架构、数据架构、应用架构和技术架构四大核心模块。首先分析了企业架构现状,包括业务、数据、应用和技术四大架构的内容和关系,明确了企业架构设计的重要性。接着,阐述了新版企业架构总体框架(CSG-EAF 2.0)的形成过程,强调其融合了传统架构设计(TOGAF)和领域驱动设计(DDD)的优势,以适应数字化转型需求。业务架构部分通过梳理企业级和专业级价值流,细化业务能力、流程和对象,确保业务战略的有效落地。数据架构部分则遵循五大原则,确保数据的准确、一致和高效使用。应用架构方面,提出了分层解耦和服务化的设计原则,以提高灵活性和响应速度。最后,技术架构部分围绕技术框架、组件、平台和部署节点进行了详细设计,确保技术架构的稳定性和扩展性。 适合人群:适用于具有一定企业架构设计经验的IT架构师、项目经理和业务分析师,特别是那些希望深入了解如何将企业架构设计与数字化转型相结合的专业人士。 使用场景及目标:①帮助企业和组织梳理业务流程,优化业务能力,实现战略目标;②指导数据管理和应用开发,确保数据的一致性和应用的高效性;③为技术选型和系统部署提供科学依据,确保技术架构的稳定性和扩展性。 阅读建议:此资源内容详尽,涵盖企业架构设计的各个方面。建议读者在学习过程中,结合实际案例进行理解和实践,重点关注各架构模块之间的关联和协同,以便更好地应用于实际工作中。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值