
Hive
Michael-JOE
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Hive/Inceptor SQL之工作记录
1、修改字段类型及长度。原创 2023-04-13 09:16:37 · 624 阅读 · 1 评论 -
解决beeline命令OOM
增加beeline启动参数:--incremental=true原创 2021-09-28 11:23:51 · 465 阅读 · 0 评论 -
[Spark/Hive] -- Hive启停命令
1、启动命令#!/bin/bashnohup hive --service metastore >> $HIVE_HOME/log/metasotre.log 2>&1 &nohup hive --service hiveserver2 >> $HIVE_HOME/log/hiveserver.log 2>&1 &2、停止命令#!/bin/bashprocess="hive"PID=$(ps x | grep原创 2020-12-11 10:45:45 · 1120 阅读 · 0 评论 -
[Spark/Hive] -- Spark UDF
1、定义UDFimport java.util.Randomdef randomPrefixUDF(value: String): String = { new Random().nextInt(10).toString() + "_" + value.toInt}def removePrefixUDF(value: String): String = { value.split("_")(1)}2、注册UDFspark.udf.register("random_pre原创 2020-12-11 09:20:12 · 277 阅读 · 0 评论 -
[Spark/Hive] -- 参数备忘
1、去除表名hive.resultset.use.unique.column.names=false;原创 2020-11-20 16:40:10 · 355 阅读 · 0 评论 -
[Spark/Hive] -- Load CSV File to Hive
1、创建表CREATE TABLE t_user ( id INT, username STRING, password STRING) ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.OpenCSVSerde'WITH SERDEPROPERTIES ("separatorChar"=",", "quotechar"="\"")...原创 2019-11-20 14:54:29 · 515 阅读 · 0 评论 -
[Spark/Hive] -- Spark操作Hive
1、下载spark并解压wget http://mirrors.tuna.tsinghua.edu.cn/apache/spark/spark-2.3.4/spark-2.3.4-bin-hadoop2.6.tgztar zxvf spark-2.3.4-bin-hadoop2.6.tgz2、配置1)将hive-site.xml拷贝到$SPARK_HOME/conf目录下。2...原创 2019-11-06 11:45:39 · 179 阅读 · 0 评论 -
Container is running beyond physical memory limits
1、Hive执行SQL语句,出现如下错误:Container is running beyond physical memory limits. Current usage: 4.3 GB of 4 GB physical memory used; 8.9 GB of 8.4 GB virtual memory used. Killing container. 2、错误分析:4....原创 2019-06-19 09:53:22 · 2923 阅读 · 0 评论 -
Hive On Tez
1、下载Tezwget http://www-us.apache.org/dist/tez/0.9.2/apache-tez-0.9.2-bin.tar.gz2、配置Tez1)将$TEZ_HOME/share/tez.tar.gz 上传至HDFS:hdfs:///cdh5/apps/tez/tez.tar.gz。hdfs dfs -mkdir -p /cdh5/apps/tez...原创 2019-05-23 23:49:16 · 962 阅读 · 0 评论 -
Hive创建表时添加中文注释后乱码
首先,查看Hive的元数据库(MySQL)编码:mysql>show variables like '%char%';下面使用修改hive默认的SQL语句来解决乱码问题。1、查找文件[kanaka@spark~]$cd $HIVE_HOME/scripts/metastore/upgrade/mysql2、依据使用的Hive版本来修改相应的SQL文件我修改...原创 2019-05-04 16:42:04 · 1006 阅读 · 0 评论 -
Hive安装配置
1、安装MySQL详见centos7安装配置mysql2、创建数据库mysql> CREATE DATABASE `hive` CHARACTER SET utf8 COLLATE utf8_general_ci;Query OK, 1 row affected (0.00 sec)mysql> GRANT ALL PRIVILEGES ON hive.* TO hi...原创 2019-05-03 21:43:00 · 209 阅读 · 0 评论 -
Hive之UDF创建永久函数
具体步骤:1、JAVA代码:package com.bigdata;import org.apache.hadoop.hive.ql.exec.UDF;public class Add extends UDF { public Integer evaluate(Integer a, Integer b) { if (null == a || null == b) {原创 2017-03-30 13:29:47 · 10106 阅读 · 1 评论