
hive
文章平均质量分 78
静默安然
这个作者很懒,什么都没留下…
展开
-
hive分区表
一、分区表分区表实际上就是对应一个HDFS文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录,把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区,这样的查询效率会提高很多。分区表的应用:日志是每天放在一个文件夹中partition(分区),每个分区再划分为簇组,方便查询。二、实例1.根据日期对日志进行管理单分区查询根据分区进行查询,大大提高了查询效率。 多分...原创 2021-01-27 16:35:47 · 361 阅读 · 0 评论 -
Hive数据类型
三 Hive数据类型3.1 基本数据类型 Hive数据类型 Java数据类型 长度 例子 TINYINT byte 1byte有符号整数 20 SMALINT short 2byte有符号整数 20 INT int原创 2021-01-25 11:20:45 · 280 阅读 · 0 评论 -
hive创建表(内部表和外部表)
一、理论1)建表语法 CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name [(col_name data_type [COMMENT col_comment], ...)] [COMMENT table_comment] [PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)] [CLUSTERED BY (col_name, col_nam原创 2021-01-24 22:40:43 · 15422 阅读 · 0 评论 -
Hive常见属性配置
1 hive原始数据仓库的配置1.1hive原始数据仓库配置默认在(/user/hive/warehouse下)hive/conf/hive-default.xml.templa1.2查看数据仓库位置2.hive在default数据库下或者未指定数据库下创建的表默认会在/user/hive/warehouse中3.实现显示当前数据库,以及查询表的头信息配置。在hive-site.xml文件中添加如下配置信息。<property> <name>hiv原创 2021-01-21 16:13:49 · 253 阅读 · 0 评论 -
hive的元数据Derby,命令行工具 beeline
安装mysql用于存储hive的元数据Hive默认数据库类型Derbyhive 默认使用Derby作为Hive metastore的存储数据库,这个数据库更多用于单元测试,只支持一个用户访问,在生产环境,建议改成功能更强大的关系型数据库,根据官网的介绍,支持用于存储hive元数据的数据库如下:hive元数据支持的数据库 最低版本要求 MySQL 5.6.17 Postgres 9.1.13 Oracle 11g MS SQL Server 2008.原创 2021-01-19 19:54:54 · 366 阅读 · 0 评论 -
hive交互命令学习
Hive官网(HQL)语法手册(英文版):https://cwiki.apache.org/confluence/display/Hive/LanguageManualHive的数据存储 1、Hive中所有的数据都存储在HDFS 中,没有专门的数据存储格式(可支持Text,SequenceFile,ParquetFile,RCFILE等) 2、只需要在创建表的时候告诉Hive 数据中的列分隔符和行分隔符,Hive 就可以解析数据。 3、Hive 中包含以下数据模型:DB、...转载 2021-01-18 18:33:12 · 212 阅读 · 1 评论 -
Hive学习重点概览
红色必须熟练掌握,SQL语言必须掌握,尤其是查询语言,企业级优化是重点(面试95%会问)原创 2020-12-30 20:32:30 · 147 阅读 · 0 评论 -
Hive基本概念学习之Hive架构原理 (面试)
一、Hive的概念数据仓库是面向主题的(分类存储),数据仓库的数据是集成的,数据仓库的数据是不可更新的(但可以将原始数据清洗,不断增加,不会修改)。Hive是基于hadoop的一个管理数据仓库的工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询。本质是将HQL(Hive SQL)化成MapReduce程序,HIve是建立在hadoop上的 ,管理数据的。Hive类似于蜂巢一样,数据按类别进行统计,很少修改,主要写入后用于查询。二、Hive优缺点2.1优点..原创 2020-12-30 20:26:03 · 464 阅读 · 0 评论