大数据(3e)HIVE基础查询

大数据Hive(一):​​​​​​​Hive基本概念 全网最详细的Hive文章系列,强烈建议收藏加关注! 后面更新文章都会列出历史文章目录,帮助大家回顾知识重点。 目录 历史文章 前言 Hive基本概念 一、Hive介绍 1、什么是Hive ​​​​​​​2、为什么使用Hive ​​​​​​​3、Hive的特点 二、Hive架构 1、架构图 ​​​​​​​2、基本组成 ​​​​​​​3、Hive与传统数据库对比 历史文章 深夜凌晨女朋友问什么是数据仓库,我的回答让她惊讶,然后发现。。。 百度、阿里、腾讯平台架构都熟悉,小米大. 阅读详情

1、单行拆分为多行

1.1、EXPLOOE

SELECT EXPLODE(course) FROM school.student;

1.2、LATERAL VIEW

SELECT t1.s_id,t2.c
FROM school.student t1
LATERAL VIEW EXPLODE(course) t2 as c;

2、多行合并为单行

关键字COLLECT_SET

SELECT
    grade,
    COLLECT_SET(s_id)
FROM school.student
GROUP BY grade;

3、函数

show functions;

4、时间类

今天

SELECT CURRENT_DATE();

昨天

SELECT DATE_SUB(CURRENT_DATE(),1);

时间差:第一个减第二个

SELECT DATEDIFF(CURRENT_DATE(),"2020-12-27");

现在

SELECT UNIX_TIMESTAMP();
SELECT FROM_UNIXTIME(UNIX_TIMESTAMP(),'yyyy-MM-dd HH:mm:ss');

5、窗口函数

https://yellow520.blog.youkuaiyun.com/article/details/116151366

6、聚合函数+条件

创建数据,需求:求出不同班男女各多少人

--删库
DROP DATABASE IF EXISTS school CASCADE;
--建库
CREATE DATABASE school LOCATION '/school';
--建表
CREATE TABLE school.student(
name   STRING  COMMENT "姓名",
major  STRING  COMMENT "专业",
sex    STRING  COMMENT "性别"
)COMMENT "学生表"
LOCATION '/school/student';
--插数据
INSERT INTO TABLE school.student VALUES
('剑圣','敏捷','男'),
('先知','智力','男'),
('巫妖','智力','男'),
('守望者','敏捷','女'),
('大法师','智力','女'),
('追风者','敏捷','女');
--查看
SELECT * FROM school.student;

查询(关键字CASE和WHEN)

SELECT 
    major,
    CONCAT_WS(',',COLLECT_SET(CASE sex WHEN '男' THEN name END)) male,
    CONCAT_WS(',',COLLECT_SET(CASE sex WHEN '女' THEN name END)) female
FROM
    school.student
GROUP BY
    major;
majormalefemale
敏捷剑圣守望者,追风者
智力先知,巫妖大法师
SELECT 
    major,
    SUM(CASE sex WHEN '男' THEN 1 ELSE 0 END) male_count,
    SUM(CASE sex WHEN '女' THEN 1 ELSE 0 END) female_count
FROM
    school.student
GROUP BY
    major;
majormale_countfemale_count
敏捷12
智力21

7、JSON解析

取第1个元素{"name":"剑圣","lv":10}

SELECT GET_JSON_OBJECT(
    '[{"name":"剑圣","lv":10},{"name":"易大师","lv":18}]',
    '$[0]'
)

取第2个元素的name值

SELECT GET_JSON_OBJECT(
    '[{"name":"剑圣","lv":10},{"name":"易大师","lv":18}]',
    '$[1].name'
)

8、排序

  • ORDER BY是全局排序,通常生产环境不用
  • SORT BY是分区内排序
    DISTRIBUTE BY进行分区
    通常SORT BY和DISTRIBUTE BY联用
SELECT * FROM student ORDER BY birth;

SET mapreduce.job.reduces=2; -- 配两个ruduce(默认1个)
SELECT * FROM student SORT BY birth;

SELECT * FROM student DISTRIBUTE BY grade SORT BY birth;

X猫免费小说安卓逆向分析 七猫免费小说安卓逆向分析 难度(♥♥) 文章目录七猫免费小说安卓逆向分析 难度(♥♥)1. 查壳2. 抓包分析3. sign1. Frida-rpc2. Native函数分析快3点了. 睡觉~ 白天再继续写! 1. 查壳 我这边使用的是ApkTool, 拖进去显示未加壳。 2. 抓包分析 POST https://xiaoshuo.wtzw.com/api/v1/login/index HTTP/1.1 net-env: 1 channel: qm-cbcpa056_wm is-white: 0 platf 阅读详情

相关推荐

课程复习---分析空间数据的细胞空间关系(python版本的mistyR)

课程复习---分析空间数据的细胞空间关系(python版本的mistyR)

weixin_53637133的博客 1222

sql:mysql:日期函数--今天昨天

mysql 今天和昨天日期及格式化 -- 今天日期+时间 select now() ; --返回2018-04-25 17:33:21 -- 今天日期 select curdate(); --返回2018-04-25 -- 今天日期格式化 select date_format(curdate(),'%Y-%m-%d'); --返回2018-04-25 -- 昨天日期 select ...

不花的花和尚的博客 3809

保姆级教程:用MATLAB搞定运动模糊图片修复(附完整代码与避坑指南)

本文提供了一份详细的MATLAB运动模糊图片修复教程,涵盖盲复原、图像复原等核心技术。通过傅里叶变换和Radon变换分析模糊参数,对比逆滤波、维纳滤波和Lucy-Richardson算法效果,并附完整代码与避坑指南,帮助用户实现专业级图像处理。

weixin_26765363的博客 230

HIVE SQL时间函数使用

SELECT CURRENT_DATE; — 2019-06-25 SELECT CURRENT_TIMESTAMP; – 2019-06-25 15:33:25 SELECT unix_timestamp() –1561447860 SELECT from_unixtime(unix_timestamp(),'yyyy-MM-dd') – 2019-06-25 SELECT from_...

shengpli′s blog 3560

WSL 2 部署 Rocky Linux 9:从零到生产环境配置指南(2025版)

本文详细介绍了如何在WSL 2上部署Rocky Linux 9,从环境准备到生产环境配置的全流程指南。通过优化安装流程和系统配置,帮助开发者和运维工程师在Windows环境下高效运行企业级Linux系统,特别适合需要本地开发但部署到RHEL系服务器的项目。

weixin_28455801的博客 479

DrissionPage无头模式破盾记:实战绕过CloudFlare 5秒验证

本文详细介绍了如何使用DrissionPage无头模式绕过CloudFlare 5秒盾验证,提升爬虫效率。通过关键参数配置、服务器环境问题处理及高级绕过技巧,如动态UA轮换和鼠标移动模拟,帮助开发者有效应对反爬机制。实战案例展示了如何结合最新Chrome UA和参数设置实现稳定数据采集。

weixin_29327525的博客 491

[1144]Hive常用日期格式转换

文章目录获取当前时间日期格式转换返回日期中的年,月,日,时,分,秒,当前的周数计算日期差值返回当月或当年的第一天 获取当前时间 获取当前时间戳 select unix_timestamp() 把时间戳转为正常的日期 select from_unixtime(unix_timestamp(),'yyyy-MM-dd HH:mm:ss') select from_unixtime(unix_timestamp(),'yyyy-MM-dd') 业务中有时存放的是包含毫秒的整数,需要先转换为秒 s

周小董 7726

k8s重装1.28.2+calico+踩坑收集+InPlacePodVerticalScaling

它提供了从镜像构建(通过 Dockerfile)、镜像管理(上传、下载、存储等)、容器创建、运行、网络配置(可以为容器分配自定义的网络,如 bridge 网络、host 网络等)到容器编排(通过 Docker Compose 可以简单地编排多个容器的启动和关联关系)等一整套完整的解决方案。它的核心功能是启动和管理容器的生命周期。sudo apt update这个可以经常用,是来更新软件包的,它不下载,所以没风险,但是经常会报错,别问,问就是某种强大的力量,所以用镜像或者代理或者巴拉巴拉。

SsjjsS2019的博客 2554

[SQL] 日期函数--今天昨天

mysql 今天和昨天日期及格式化 -- 今天日期+时间 select now() ; --返回2018-04-25 17:33:21 -- 今天日期 select curdate(); --返回2018-04-25 -- 今天日期格式化 select date_format(curdate(),'%Y-%m-%d'); --返回2018-04-25 -- 昨天日期 selec...

memory专栏 2万+

学Simulink--决策规划场景实例:基于Simulink的智能车辆行为决策仿真

本文基于Simulink平台构建智能车辆变道决策仿真系统,采用MOBIL算法实现"决策-规划-执行"全流程。系统包含自车动力学模型、环境感知模块(含5%噪声)、决策控制器和轨迹规划模块,通过五次多项式实现平滑变道。仿真验证了三种典型工况:正常变道(成功率100%)、邻车拒绝让行和紧急避障,各项指标均满足要求(TTC>3s,横向加速度<2m/s²,决策周期<100ms)。文章详细介绍了建模步骤、核心算法实现和参数配置方法,并提出了强化学习、多车协同等优化方向。该模型为智能

amy_mhd的博客 153

基于Solidworks的三维光路结构示意图绘制实例演示-技术细节

基于Solidworks的三维光路结构示意图绘制实例演示-技术细节

简单光学 1万+

Hive 常用日期处理-昨天、本月、上月同期、去年同期、月初、月末等

一、参考日期为当前日期 以当前系统日期作为参考日期,将其转换为统一的天维度yyyyMMdd数据格式。 例如当前日期为2021-01-29 昨天 方式一:date_format(date_sub(current_date(),1), 'yyyyMMdd') select date_format(date_sub(current_date(),1), 'yyyyMMdd') 20210128 方式二:date_format(date_sub(from_unixtime(unix_timesta

WistWill的博客 1万+

NCCL 核心集体通信操作深度解析:从原理到优化实践

操作逻辑:若 N 个 GPU 各持有一段数据(大小为 S),通信后每个 GPU 会持有所有 N 段数据(总大小为 N×S)。典型场景:多卡推理结果聚合、模型并行中间结果同步。操作逻辑:N 个 GPU 各持有数据,通过归约(求和、取平均等)运算后,所有 GPU 获得相同结果。典型场景:数据并行训练的梯度聚合(如 SGD 优化器)。操作逻辑:N 个 GPU 各持有 N 份数据分片,通信后每个 GPU 获得所有 GPU 的对应分片。典型场景。

jundao1997的专栏 680

Hive、Sparksql、Presto、Impala、Hawq、Clickhouse、Greenplum大数据查询引擎对比

导读 现在大数据组件非常多,众说不一,在每个企业不同的使用场景里究竟应该使用哪个引擎呢?这是易观Spark实战营出品的开源Olap引擎测评报告,团队选取了Hive、Sparksql、Presto、Impala、Hawq、Clickhouse、Greenplum大数据查询引擎,在原生推荐配置情况下,在不同场景下做一次横向对比,供大家参考。   每年易观都会发布一次这样的大数据开源测评报告,欢迎...

窗外的屋檐 1万+

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

大数据(4.3)Hive基础查询完全指南:从SELECT到复杂查询的10大核心技巧

在大数据处理中,Hive作为‌基于Hadoop的数据仓库工具‌,通过类SQL语法(HiveQL)实现了对海量数据的便捷分析。掌握Hive基础查询语句是数据工程师的核心技能,涉及以下场景: ‌数据筛选‌:通过SELECT、WHERE快速提取目标数据。 ‌聚合分析‌:利用GROUP BY、HAVING实现数据统计。 ‌多表操作‌:通过JOIN关联不同数据源,UNION合并数据集。 ‌结果优化‌:结合分区、分桶设计提升查询性能。 本文将通过‌语法解析、10个实战案例及避坑指南‌,系统讲解Hive基础查询的核心操

优快云博客专家,领域包括但不限于:AI、大数据、Python、架构师,有合作、课程、问题、疑惑请私信博主 1828

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

Hive——详细总结Hive中各大查询语法

1. 基础查询 1.1 WHERE、LIMIT、DISTINCT、BETWEEN、IN的使用 1.2 LIKE、GROUP BY、HAVING的使用 1.3 内连接&外连接【JOIN...ON ...】 2. 排序查询 2.1 全局排序(Order By) 2.2 单个 Reduce 内部排序(Sort By) 2.3 分区(Distribute By) 2.4 Cluster By 3. 分区表 3.1 分区表介绍 3.2 创建分区表以及分区表的查询操作 3.3 分区修复

weixin_44606952的博客 4319

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

大数据||Hive中常用的查询

Hive中的查询 Select查询语法SELECT [ALL | DISTINCT] select_expr, select_expr, ...  FROM table_reference  [WHERE where_condition]  [GROUP BY col_list]  [ORDER BY col_list]  [CLUSTER BY col_list    | [DISTRIBUTE...

大数据学习成长之路 1万+

hive

Hive 一 . hive1. 概述1.2. 组成架构(运行流程)1.3. 特点4. Hive和数据库的区别二、Hive的搭建2.1. 版本的选择2.2. 步骤2.3. 软件的基本操作2.3.1. 进入hive2.3.2. 操作2.3.3. 退出2.3.4. hive对本地文件数据进行表的映射操作2.3.5. 转移元数据的存储路径2.3.6. metastore的设置方式 :元数据2.3.7. 设...

我还是个菜鸟 2万+

大数据BigData之Hive查询时报错 Outofmemory

文章目录   1.什么时候可能会发生这样的错误?   2.如何解决这个Outofmemory的错误呢?     2.1 先分析问题,然后确定大概的解决方向:     2.2 具体的解决方法如下(修改hive-env.sh文件):       2.2.1 增加JVM内存大小       2.2.2 增加hadoop的溢出大小Hadoop_HeapSize       2.2.3 在 HADOOP...

weixin_34126557的博客 402

Hive基础之基础查询

hive中查询语句的语法都在Select Syntax,所有查询相关的语法都在该手册中,包括where、partition以及正则表达式查询,所有与查询相关的语法都在该手册中。 全表查询emp表前5条的数据: hive (default)&gt; select * from emp limit 5 ; OK empno ename job mgr hiredate ...

xjjdlut的专栏 6123

SZT-bigdata完整部署教程:从零搭建大数据集群

SZT-bigdata是深圳地铁大数据客流分析系统,本文将为您提供从零开始搭建SZT-bigdata大数据集群的完整部署教程,帮助您快速掌握部署要点和关键步骤。 ## 一、环境准备与集群规划 在开始部署SZT-bigdata大数据集群之前,需要做好环境准备和集群规划工作。确保服务器满足硬件和软件要求,合理规划集群节点数量和角色分配。 ### 1.1 硬件与软件要求 硬件方面,建议每台服务器

gitblog_00229的博客 1265

大数据技术之Hive

大数据技术之Hive

我从不打没有准备的仗! 1万+

大数据从入门到实战 - Hive的安装与配置

大数据从入门到实战 - Hive的安装与配置 一、关于此次实践 1、实战简介 2、全部任务 二、实践详解 1、第1关:Hive的安装与配置 2、第2关:Hive Shell入门基础命令 叮嘟!这里是小啊呜的学习课程资料整理。好记性不如烂笔头,今天也是努力进步的一天。一起加油进阶吧!

小啊呜的博客 1万+

大数据之Hive基础

Hive 是基于 Hadoop 的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类 SQL 查询功能。本质是将HQL转化为MapReduce分类:1)UDF 一进一出2)UDAF 聚集函数,多进一出(类似于count,max)3)UDTF 一进多出(如lateral view explode())步骤:1)导入依赖

weixin_43287333的博客 1338

【大数据进阶第三阶段之Hive学习笔记】Hive查询、函数、性能优化

Hive UDF开发流程继承UDF类或GenericUDF类重写evaluate()方法并实现函数逻辑编译打包为jar文件复制到正确的HDFS路径使用jar创建临时/永久函数调用函数1.创建一个Maven工程Hive2.导入依赖3.创建一个类方法一(创建临时函数):4.打成jar包上传到服务器/opt/testudf.jar5.将jar包添加到hive的classpath(linux路径)

一个老码农 1493

大数据平台 hive 部署

平台部署知识文章讲解了 hive 的安装与部署 需要 Hadoop 以及 MySQL。

Liming07的博客 1636
上一篇: 大数据(3b)HIVE入门补充
下一篇: YARN调度器【capacity-scheduler.xml】默认配置
小基基o_O
博客等级 码龄9年 4414粉丝 467原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小基基o_O

您的鼓励是我创作的巨大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值