Hive与关系型数据库的比较(转载)

本文探讨了Hive与关系型数据库之间的显著差异,包括它们的存储方式、计算模型、扩展能力、数据操作特性及执行延迟等。通过对比,揭示了两者在不同应用场景下的优势。

  使用hive的ctl(命令行接口)时,你会感觉它很像是在操作关系型数据库,但是实际上,hive和关系型数据库有很大的不同。
       1)hive和关系型数据库存储文件的系统不同。
          hive使用hdfs(hadoop的分布式文件系统),关系型数据库则是服务器本地的文件系统;


       2)hive使用的计算模型是mapreduce,而关系型数据库则是自己设计的计算模型。


       3)hive是为海量数据做数据挖掘设计的,实时性差;而关系型数据库是为实时查询的业务进行设计的。


       4)hive很容易扩展自己的存储能力和计算能力,这个是继承hadoop的,而关系型数据库在这方面相对较差。(世界上最大的 hadoop 集群在 yahoo!, 2009 年的规模在4000 台节点左右)。而数据库由于 acid 语义的严格限制,扩展行非常有限。目前最先进的并行数据库 oracle 在理论上的扩展能力也只有 100 台左右。


       5)hive中不支持对某个具体行的操作,对数据的操作只支持覆盖原数据和追加数据;hive也不支持事务和索引。


       6)hive在加载数据时候和关系数据库不同。
          hive在加载数据时候不会对数据进行检查,也不会更改被加载的数据文件,而检查数据格式的操作是在查询操作时候执行,这种模式叫“读时模式”。在实际应用中,写时模式在加载数据时候会对列进

此文来自: 马开东博客 转载请注明出处 网址: http://www.makaidong.com

行索引,对数据进行压缩,因此加载数据的速度很慢,但是当数据加载好了,我们去查询数据的时候,速度很快。
          关系 数据库 里,表的加载模式是在数据加载时候强制确定的(表的加载模式是指 数据库 存储数据的文件格式),如果加载数据时候发现加载的数据不符合模式,关系 数据库 则会拒绝加载数据,这个就叫“写时模式”,写时模式会在数据加载时候对数据模式进行检查校验的操作。
          当我们的数据是非 结构化 ,存储模式也是未知时候,关系数据操作这种场景就麻烦多了,这时候hive就会发挥它的优势。


       7)执行延迟。

          hive 在查询数据的时候,由于没有索引,需要扫描整个表,因此延迟较高。另外一个导致 hive 执行延迟高的因素是 mapreduce 框架。由于mapreduce 本身具有较高的延迟,因此在利用 mapreduce 执行 hive 查询时,也会有较高的延迟。相对的,数据库的执行延迟较低。当然,这个低是有条件的,即数据规模较小,当数据规模大到超过数据库的处理能力的时候,hive 的并行计算显然能体现出优势。

转载出处点击打开链接

### Hive关系型数据库的区别 #### 架构和设计目标 Hive是一种基于Hadoop的数据仓库工具,其核心目的是为了支持大规模数据分析任务。相比之下,传统的关系型数据库(RDBMS)则主要用于事务处理和支持实时查询操作[^1]。两者的架构差异体现在Hive依赖于Hadoop生态系统,而RDBMS通常运行在单机环境或者小型集群环境中。 #### 查询语言 Hive采用了一种类似于SQL的语言——HiveQL,用于执行复杂的ETL(Extract, Transform, Load)过程以及批量数据处理工作。尽管它看起来像标准SQL,但在某些高级特性方面可能有所欠缺。相反,传统的RDBMS提供了完整的ANSI SQL支持,并且能够高效地完成联结、嵌套子查询等复杂逻辑运算[^2]。 #### 数据存储方式 对于数据存储而言,Hive中的表实际上映射到HDFS上的目录;所有的原始文件都保存在这个分布式的文件系统里。这种机制使得Hive非常适合用来管理和分析海量非结构化/半结构化的日志记录或其他形式的大数据集合。然而,在常规的RDBMS解决方案中,表格会被持久化成二进制格式存放在本地硬盘驱动器或者是专用分区当中[^4]。 #### 性能表现 当涉及到读写速度时,由于缺乏内置索引结构加上MR框架本身的开销原因,致使Hive往往表现出较高的延迟水平。不过借助并行计算的优势,一旦面对TB级甚至PB级别的超大型数据集时,则会显现出无可比拟的速度效益出来[^5]。此同时,因为受到严格的ACID约束影响,再加上锁竞争等因素干扰下,大多数商用版别的RDBMS很难突破百台服务器规模以上的横向扩容瓶颈问题[^3]。 #### 使用场景 鉴于以上提到的各项因素考量之后可知,如果项目需求侧重于在线交易服务的话那么毫无疑问应该优先考虑选用成熟的商业版本MySQL/PostgreSQL之类的产品作为后台支撑平台比较好些。而对于那些偏向离线统计报表生成业务领域内的客户群体来说,显然开源免费性质较强的Apache Hive将会成为更加理想的选择对象之一[^2]。 ```python # 示例代码展示如何连接至Hive Server并通过PyHive库提交简单的SELECT语句给定条件下的结果返回列表形式呈现如下所示: from pyhive import hive conn = hive.Connection(host='localhost', port=10000, username='your_username') cursor = conn.cursor() query = 'SELECT column_name FROM table_name WHERE condition LIMIT 10;' cursor.execute(query) results = cursor.fetchall() print(results) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值