hadoop学习笔记--11.hive DDL操作

一、hive的数据类型


1.基本类型
  整数类型:TINYINT,SMALLINT,INT,BIGINT,以上类型分别对应java中的byte,short,int,long。
  小数类型:FLOAT,DOUBLE
  布尔类型:BOOLEAN
  字符串类型:STRING,VARCHAR,CHAR
2.复杂类型 
 ARRAY,MAP,STRUCT,TIMESTAMP(DATE)
 常用的就是int ,string,float。
 

二、数据库的DDL操作


建议直接参考官方文档:
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+DDL

1.创建数据库

USE database_name;
三、数据表的DDL操作


1.创建数据表

CREATE [TEMPORARY] [EXTERNAL] TABLE [IF NOT EXISTS] [db_name.]table_name    -- (Note: TEMPORARY available in Hive 0.14.0 and later)
  [(col_name data_type [COMMENT col_comment], ... [constraint_specification])]
  [COMMENT table_comment]
  [PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
  [CLUSTERED BY (col_name, col_name, ...) [SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
  [SKEWED BY (col_name, col_name, ...)                  -- (Note: Available in Hive 0.10.0 and later)]
     ON ((col_value, col_value, ...), (col_value, col_value, ...), ...)
     [STORED AS DIRECTORIES]
  [
   [ROW FORMAT row_format] 
   [STORED AS file_format]
     | STORED BY 'storage.handler.class.name' [WITH SERDEPROPERTIES (...)]  -- (Note: Available in Hive 0.6.0 and later)
  ]
  [LOCATION hdfs_path]
  [TBLPROPERTIES (property_name=property_value, ...)]   -- (Note: Available in Hive 0.6.0 and later)
  [AS select_statement];   -- (Note: Available in Hive 0.5.0 and later; not supported for external tables)


  这是官方文档给出的创建数据表的格式。不多做解释
解释一下几个关键词:

创建内部表: hive会把数据文件移动到它管理的数据仓库目录下
创建外部表: 需要添加EXTERNAL关键词。不会移动文件,与内部数据表主要区别体现在加载数据和删除数据表上。
创建分区: 需要添加PARTITIONED BY(关键词)
创建桶: 需要添加CLUSTERED BY(关键词)
指定列的分割格式: ROW FORMAT DELIMITED [FIELDS TERMINATED BY char [ESCAPED BY char]]
指定行的分割格式: COLLECTION ITEMS TERMINATED BY ‘\n’
指定存储的文件格式: STORED AS file_format
指定表格存放的位置: LOCATION hdfs_path


创建表的三种方式:

1.正常新建一张表。
2.创建一张表的子表(AS)

选择其中的几张作为新表的结构
create table IF NOT EXISTS default.bf_log_20170727_sa AS select ip,user from default.bf_log_20170727;

3.复制一张表的格式,不含表的数据(like)

create table IF NOT EXISTS default.bf_log_20170728 like  default.bf_log_20170727;


内部表与外部表的区别:
  ①内部表 的创建过程和数据加载过程(这两个过程可以在同一个语句中完成),在加载数据的过程中,实际数据会被移动到数据仓库目录中;之后对数据对访问将会直接在数据仓库目录中完成。删除表时,表中的数据和元数据将会被同时删除;
  ②外部表 只有一个过程,加载数据和创建表同时完成,并不会移动到数据仓库目录中,只是与外部数据建立一个链接。当删除一个 外部表 时,仅删除该链接;

2.删除数据表

DROP TABLE [IF EXISTS] table_name;


3.清空数据表
  不删除表的结构,只清空表的数据

TRUNCATE TABLE table_name [PARTITION partition_spec];

partition_spec:
  : (partition_column = partition_col_value, partition_column = partition_col_value, ...)


4.修改数据表
  (1). 数据表重命名(rename to)

ALTER TABLE table_name RENAME TO new_table_name;


 (2). 修改列名(change )
 

ALTER TABLE table_name [PARTITION partition_spec] CHANGE [COLUMN] col_old_name col_new_name column_type
  [COMMENT col_comment] [FIRST|AFTER column_name] [CASCADE|RESTRICT];


  (3). 增加或删除列(add/replace)

ALTER TABLE table_name 
  [PARTITION partition_spec]                 -- (Note: Hive 0.14.0 and later)
  ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
  [CASCADE|RESTRICT]                         -- (Note: Hive 1.1.0 and later)


  (4). 分区操作

再次推荐官方文档,详细还有例子!!!!
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+DDL  

[root@hadoop01 ~]# ps -ef | grep HiveServer2 | grep -v grep root 15604 11956 6 22:32 pts/1 00:00:58 /export/servers/jdk1.8.0_161/bin/java -Dproc_jar -Dorg.slf4j.simpleLogger.defaultLogLevel=info -Dproc_hiveserver2 -Dlog4j2.formatMsgNoLookups=true -Dlog4j.configurationFile=hive-log4j2.properties -Djava.util.logging.config.file=/export/servers/apache-hive-3.1.3-bin/conf/parquet-logging.properties -Dyarn.log.dir=/export/servers/hadoop-3.3.5/logs -Dyarn.log.file=hadoop.log -Dyarn.home.dir=/export/servers/hadoop-3.3.5 -Dyarn.root.logger=INFO,console -Djava.library.path=/export/servers/hadoop-3.3.5/lib/native -Xmx256m -Dhadoop.log.dir=/export/servers/hadoop-3.3.5/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/export/servers/hadoop-3.3.5 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /export/servers/apache-hive-3.1.3-bin/lib/hive-service-3.1.3.jar org.apache.hive.service.server.HiveServer2 root 15828 10065 2 22:35 pts/0 00:00:15 /export/servers/jdk1.8.0_161/bin/java -Dproc_jar -Dorg.slf4j.simpleLogger.defaultLogLevel=info -Dproc_hiveserver2 -Dlog4j2.formatMsgNoLookups=true -Dlog4j.configurationFile=hive-log4j2.properties -Djava.util.logging.config.file=/export/servers/apache-hive-3.1.3-bin/conf/parquet-logging.properties -Dyarn.log.dir=/export/servers/hadoop-3.3.5/logs -Dyarn.log.file=hadoop.log -Dyarn.home.dir=/export/servers/hadoop-3.3.5 -Dyarn.root.logger=INFO,console -Djava.library.path=/export/servers/hadoop-3.3.5/lib/native -Xmx256m -Dhadoop.log.dir=/export/servers/hadoop-3.3.5/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/export/servers/hadoop-3.3.5 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /export/servers/apache-hive-3.1.3-bin/lib/hive-service-3.1.3.jar org.apache.hive.service.server.HiveServer2 root 16374 11956 14 22:41 pts/1 00:00:59 /export/servers/jdk1.8.0_161/bin/java -Dproc_jar -Dorg.slf4j.simpleLogger.defaultLogLevel=info -Dproc_hiveserver2 -Dlog4j2.formatMsgNoLookups=true -Dlog4j.configurationFile=hive-log4j2.properties -Djava.util.logging.config.file=/export/servers/apache-hive-3.1.3-bin/conf/parquet-logging.properties -Djline.terminal=jline.UnsupportedTerminal -Dyarn.log.dir=/export/servers/hadoop-3.3.5/logs -Dyarn.log.file=hadoop.log -Dyarn.home.dir=/export/servers/hadoop-3.3.5 -Dyarn.root.logger=INFO,console -Djava.library.path=/export/servers/hadoop-3.3.5/lib/native -Xmx256m -Dhadoop.log.dir=/export/servers/hadoop-3.3.5/logs -Dhadoop.log.file=hadoop.log -Dhadoop.home.dir=/export/servers/hadoop-3.3.5 -Dhadoop.id.str=root -Dhadoop.root.logger=INFO,console -Dhadoop.policy.file=hadoop-policy.xml -Dhadoop.security.logger=INFO,NullAppender org.apache.hadoop.util.RunJar /export/servers/apache-hive-3.1.3-bin/lib/hive-service-3.1.3.jar org.apache.hive.service.server.HiveServer2 [root@hadoop01 ~]# [root@hadoop01 ~]# # 检查端口监听状态 (10000/10001) [root@hadoop01 ~]# sudo netstat -tulnp | grep -E '10000|10001' tcp6 0 0 :::10001 :::* LISTEN 16374/java [root@hadoop01 ~]#
最新发布
06-18
<think>我们面临的核心问题是:HiveServer2端口监听异常和Beeline连接失败。具体表现为:-端口10001监听正常,可通过`jdbc:hive2://localhost:10001`连接-端口10000未监听,且`jdbc:hadoop01://hadoop01:10000`连接失败(注意:这里连接字符串格式错误)根据引用[1]的说明,HiveServer2的默认端口是10000,且绑定主机默认为localhost。但用户配置中显示10001端口监听正常,而10000端口未监听,说明可能有两个问题:1.10000端口的服务未启动或启动失败2.10000端口的服务绑定到了其他主机(如localhost)导致外部无法访问同时,用户尝试连接10000端口时使用了错误的JDBCURL格式:`jdbc:hadoop01://hadoop01:10000`,正确格式应为`jdbc:hive2://hadoop01:10000`。因此,解决方案分为两部分:A.修复10000端口的监听问题B.使用正确的JDBCURL格式具体步骤:###A.修复HiveServer210000端口监听问题####1.检查HiveServer2配置关键配置项(位于`hive-site.xml`):-`hive.server2.thrift.port`:指定监听端口(默认10000)-`hive.server2.thrift.bind.host`:指定绑定的主机(默认为localhost,需改为0.0.0.0或具体IP)查看当前配置:```bash#进入Hive配置目录,查看hive-site.xmlcd$HIVE_HOME/confgrep-A1'hive.server2.thrift.port'hive-site.xmlgrep-A1'hive.server2.thrift.bind.host'hive-site.xml```若未配置`hive.server2.thrift.bind.host`或配置为localhost,则外部无法访问。需要修改为服务器IP或0.0.0.0(不推荐,存在安全风险)。修改配置示例(在hive-site.xml中添加或修改):```xml<property><name>hive.server2.thrift.port</name><value>10000</value></property><property><name>hive.server2.thrift.bind.host</name><value>hadoop01</value><!--或具体IP,如192.168.xxx.xxx--></property>```####2.重启HiveServer2服务先停止原有进程(注意:用户已有多个HiveServer2进程,可能是重复启动):```bash#查找所有HiveServer2进程ps-ef|grepHiveServer2|grep-vgrep|awk'{print$2}'|xargskill-9```然后重新启动:```bash#启动HiveServer2(确保使用修改后的配置)hive--servicehiveserver2&```####3.验证端口监听```bashnetstat-tuln|grep10000```期望输出:```bashtcp600:::10000:::*LISTEN```如果仍然没有监听,检查日志(位于`/tmp/root/hive.log`或配置的日志目录)排查启动错误。###B.使用正确的JDBCURL连接用户之前的错误连接字符串:`jdbc:hadoop01://hadoop01:10000`,正确格式应为:```bashbeeline-u"jdbc:hive2://hadoop01:10000"```注意:`hadoop01`必须是网络中可解析的主机名(或使用IP地址),且防火墙允许10000端口(之前已确认FirewallD未运行,故无需额外配置)。###C.10001端口10000端口的关系根据用户环境,10001端口已经正常监听,且可以通过localhost连接。这说明可能有两个HiveServer2实例分别运行在10000和10001端口?但用户实际只有一个服务在运行(从进程数量看有多个,可能是重复启动)。建议:统一使用一个端口(如10000),并确保配置正确。###D.连接测试使用正确格式的URL连接10000端口:```bashbeeline-u"jdbc:hive2://hadoop01:10000"```如果连接失败,检查:-服务端日志(HiveServer2启动日志)-网络连通性(从客户端到服务器10000端口):`telnethadoop0110000`-服务器防火墙(虽然之前显示未运行,但需确认)###总结步骤1.**修改配置**:将`hive.server2.thrift.bind.host`设置为服务器IP(非localhost),端口按需设置(10000)。2.**重启服务**:先杀掉所有HiveServer2进程,再启动一个实例。3.**验证监听**:使用`netstat`确认端口监听在正确的主机和端口。4.**正确连接**:使用`jdbc:hive2://hadoop01:10000`格式连接。###附加说明:多个HiveServer2进程问题用户通过`ps-ef|grepHiveServer2`查看到多个进程,这可能是重复启动导致。确保只启动一个HiveServer2服务,否则会造成端口冲突。建议:使用服务管理脚本或进程管理工具(如`nohup`)来启动和停止服务。###相关问题1.如何配置HiveServer2的高可用?2.HiveServer2的日志文件在哪里查看?3.如何为HiveServer2配置Kerberos认证?4.Beeline连接时出现"User:rootisnotallowed"错误如何解决?5.如何优化HiveServer2的并发性能?引用说明:[^1]:HiveServer2的端口和绑定主机配置说明</think>### 排查解决 HiveServer2 端口监听及 Beeline 连接问题 #### 1. **端口监听异常分析** 根据您的日志显示: - 端口 10001 正常监听:`tcp6 :::10001 :::* LISTEN` - 端口 10000 **未监听**(`netstat` 无输出) - 存在多个 HiveServer2 进程(PID 15604, 15828, 16374),可能导致端口冲突 **根本原因**: HiveServer2 默认监听 10000 端口,但您的配置可能被修改为 10001(引用[1])。多个进程竞争同一端口会导致监听异常。 #### 2. **Beeline 连接失败原因** - ✅ `jdbc:hive2://localhost:10001` 成功: 连接的是本机 10001 端口(HiveServer2 实际监听端口) - ❌ `jdbc:hadoop01://hadoop01:10000` 失败: - **协议错误**:JDBC URL 格式应为 `jdbc:hive2://` 而非 `jdbc:hadoop01://` - **端口错误**:10000 端口未监听 - **主机名解析问题**:`hadoop01` 可能未正确解析为 IP #### 3. **解决方案** ##### 步骤 1:统一 HiveServer2 端口配置 修改 `hive-site.xml` 确保端口一致: ```xml <!-- 强制指定端口为10000 --> <property> <name>hive.server2.thrift.port</name> <value>10000</value> <!-- 统一使用10000 --> </property> <!-- 绑定服务器真实IP(非localhost) --> <property> <name>hive.server2.thrift.bind.host</name> <value>hadoop01</value> <!-- 或服务器实际IP --> </property> ``` ##### 步骤 2:终止冲突进程并重启服务 ```bash # 终止所有HiveServer2进程 pkill -f HiveServer2 # 单实例启动HiveServer2(避免端口冲突) hive --service hiveserver2 \ --hiveconf hive.server2.thrift.port=10000 \ --hiveconf hive.server2.thrift.bind.host=hadoop01 & ``` ##### 步骤 3:验证端口监听 ```bash netstat -tuln | grep -E '10000|10001' ``` 期望输出: `tcp6 0 0 :::10000 :::* LISTEN` ##### 步骤 4:使用正确的 JDBC URL 连接 ```bash # 连接10000端口(协议+主机名+端口) beeline -u "jdbc:hive2://hadoop01:10000" # 或直接使用IP(避免DNS问题) beeline -u "jdbc:hive2://192.168.xxx.xxx:10000" ``` #### 4. **关键配置说明** | 配置项 | 推荐值 | 作用 | |--------|--------|------| | `hive.server2.thrift.port` | 10000 | 统一服务端口 | | `hive.server2.thrift.bind.host` | hadoop01 | 绑定服务器主机名 | | `hive.metastore.uris` | thrift://hadoop01:9083 | Metastore 服务地址 | #### 5. **连接成功验证** ```bash [root@hadoop01 ~]# beeline -u "jdbc:hive2://hadoop01:10000" Connecting to jdbc:hive2://hadoop01:10000 Connected to: Apache Hive (version 3.1.3) Driver: Hive JDBC (version 3.1.3) 0: jdbc:hive2://hadoop01:10000> SHOW DATABASES; +----------------+ | database_name | +----------------+ | default | +----------------+ ``` ### 相关问题 1. HiveServer2 如何配置高可用(HA)模式? 2. Beeline 连接时出现 "Authentication Error" 如何解决? 3. 如何优化 HiveServer2 的线程池参数(如 `hive.server2.thrift.max.worker.threads`)?[^1] 4. 防火墙未运行(FirewallD not running)是否存在安全风险? 5. 如何通过 HiveServer2 日志定位连接失败的根本原因? [^1]: HiveServer2 的线程池配置参数说明 [^2]: SLF4J 绑定冲突可能导致日志记录异常 [^3]: HDFS 配置文件路径需在 Hive 中正确引用
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值