hive 到表之间加复制数据 和 hdfs上表导入本地数据 和本地数据导入到 hdfs上表中,和函数的使用

hive如何导出数据至本地/HDFS/HIVE? hive如何导出数据至本地/HDFS/HIVE? 应用背景 windows下使用xshell进行hive的操作,代码编辑使用vscode。 这时候如果有数据需求的话,正常情况是登录hive,输入hql,然后出数据,复制粘贴在excel里稍微美化一下,交给运营和产品,但是这种情况是在数据量不大的情况下可以实现的,那如果行数太多,无法直接复制,如何操作呢? 方法一:将数据以文件格式存到到本地 分为两步:把数据存储在linux服务器,从linux服务器复制文件到本地windows insert方法(有风险) 阅读详情








hive> create table rat_json(line string) row format delimited;

OK
Time taken: 0.494 seconds
hive> load data local inpath '/root/rating.json' into table rat_json;
FAILED: SemanticException Line 1:23 Invalid path ''/root/rating.json'': No files matching path file:/root/rating.json
hive> load data local inpath '/home/wangshumin/hive/rating.json' into table rat_json;
Loading data to table db1.rat_json
Table db1.rat_json stats: [numFiles=1, totalSize=65602698]
OK
Time taken: 3.23 seconds
hive> select  * from  rat_json limit 10 ;
OK
{"movie":"1193","rate":"5","timeStamp":"978300760","uid":"1"}
{"movie":"661","rate":"3","timeStamp":"978302109","uid":"1"}
{"movie":"914","rate":"3","timeStamp":"978301968","uid":"1"}
{"movie":"3408","rate":"4","timeStamp":"978300275","uid":"1"}
{"movie":"2355","rate":"5","timeStamp":"978824291","uid":"1"}
{"movie":"1197","rate":"3","timeStamp":"978302268","uid":"1"}
{"movie":"1287","rate":"5","timeStamp":"978302039","uid":"1"}
{"movie":"2804","rate":"5","timeStamp":"978300719","uid":"1"}
{"movie":"594","rate":"4","timeStamp":"978302268","uid":"1"}
{"movie":"919","rate":"4","timeStamp":"978301368","uid":"1"}
Time taken: 0.115 seconds, Fetched: 10 row(s)
hive> select ParseJson(line)  from  rat_json limit 10 ;
OK
1193 5 978300760 1
661 3 978302109 1
914 3 978301968 1
3408 4 978300275 1
2355 5 978824291 1
1197 3 978302268 1
1287 5 978302039 1
2804 5 978300719 1
594 4 978302268 1
919 4 978301368 1
Time taken: 0.063 seconds, Fetched: 10 row(s)
hive> desc rat_json ;
OK
line                 string                                  
Time taken: 0.089 seconds, Fetched: 1 row(s)
hive> create table t_rating(movieid string,rate int,timestring string,uid string)
    > row format delimited fields terminated by '\t';
OK
Time taken: 0.231 seconds
hive> desc t_rating ;
OK
movieid             string                                  
rate                 int                                    
timestring           string                                  
uid                 string                                  
Time taken: 0.09 seconds, Fetched: 4 row(s)
hive> insert overwrite table t_rating  select split(parsejson(line),'\t')[0]as movieid from  rat_json limit 10 ;
FAILED: SemanticException [Error 10044]: Line 1:23 Cannot insert into target table because column number/types are different 't_rating': Table insclause-0 has 4 columns, but query has 1 columns.
hive> insert overwrite table t_rating
    > select split(parsejson(line),'\t')[0]as movieid,split(parsejson(line),'\t')[1] as rate,split(parsejson(line),'\t')[2] as timestring,split(parsejson(line),'\t')[3] as uid from rat_json limit 10;
Query ID = wangshumin_20180320210454_b86d71c5-ea05-48b3-b464-d0f038c4eb74
Total jobs = 1
Launching Job 1 out of 1
Number of reduce tasks determined at compile time: 1
In order to change the average load for a reducer (in bytes):
  set hive.exec.reducers.bytes.per.reducer=<number>
In order to limit the maximum number of reducers:
  set hive.exec.reducers.max=<number>
In order to set a constant number of reducers:
  set mapreduce.job.reduces=<number>
Starting Job = job_1521538874183_0017, Tracking URL = http://centoshostnameKL1:8088/proxy/application_1521538874183_0017/
Kill Command = /home/wangshumin/app/hadoop-2.4.1/bin/hadoop job  -kill job_1521538874183_0017
Hadoop job information for Stage-1: number of mappers: 1; number of reducers: 1
2018-03-20 21:05:05,467 Stage-1 map = 0%,  reduce = 0%
2018-03-20 21:05:26,478 Stage-1 map = 100%,  reduce = 0%, Cumulative CPU 10.3 sec
2018-03-20 21:05:43,358 Stage-1 map = 100%,  reduce = 100%, Cumulative CPU 11.86 sec
MapReduce Total cumulative CPU time: 11 seconds 860 msec
Ended Job = job_1521538874183_0017
Loading data to table db1.t_rating
Table db1.t_rating stats: [numFiles=1, numRows=10, totalSize=186, rawDataSize=176]
MapReduce Jobs Launched: 
Stage-Stage-1: Map: 1  Reduce: 1   Cumulative CPU: 11.86 sec   HDFS Read: 12419 HDFS Write: 255 SUCCESS
Total MapReduce CPU Time Spent: 11 seconds 860 msec
OK
Time taken: 50.837 seconds
hive> select * from t_rating;
OK
919 4 978301368 1
594 4 978302268 1
2804 5 978300719 1
1287 5 978302039 1
1197 3 978302268 1
2355 5 978824291 1
3408 4 978300275 1
914 3 978301968 1
661 3 978302109 1
1193 5 978300760 1
Time taken: 0.128 seconds, Fetched: 10 row(s)
hive> insert overwrite local directory '/home/wangshumin/hive/rate.txt' select * from t_rating;
Query ID = wangshumin_20180320210807_510e0126-f287-430d-aae0-080dc7c9e97a
Total jobs = 1
Launching Job 1 out of 1
Number of reduce tasks is set to 0 since there's no reduce operator
Starting Job = job_1521538874183_0018, Tracking URL = http://centoshostnameKL1:8088/proxy/application_1521538874183_0018/
Kill Command = /home/wangshumin/app/hadoop-2.4.1/bin/hadoop job  -kill job_1521538874183_0018
Hadoop job information for Stage-1: number of mappers: 1; number of reducers: 0
2018-03-20 21:08:18,416 Stage-1 map = 0%,  reduce = 0%
2018-03-20 21:08:24,714 Stage-1 map = 100%,  reduce = 0%, Cumulative CPU 0.96 sec
MapReduce Total cumulative CPU time: 960 msec
Ended Job = job_1521538874183_0018
Copying data to local directory /home/wangshumin/hive/rate.txt
Copying data to local directory /home/wangshumin/hive/rate.txt
MapReduce Jobs Launched: 
Stage-Stage-1: Map: 1   Cumulative CPU: 0.96 sec   HDFS Read: 3449 HDFS Write: 186 SUCCESS
Total MapReduce CPU Time Spent: 960 msec
OK
Time taken: 18.721 seconds
hive> 
通过Sqoop工具将Oracle数据库中的表数据导入到Hive的过程 Sqoop是一款开源的工具主要用于在Hadoop(Hive,HBasw)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 将各种关系型数据导入Hive中,其实大同小异,这里就以Oracle数据为例 阅读详情

相关推荐

sqoop把数据 从mysql导入到hdfs,hive,hbase

1. 列出库 sqoop list-databases --connect jdbc:mysql://localhost:3306/ --username XXX(用户名)--password XXX(密码) 2. 列出workflow下的表 sqoop list-tables --connect jdbc:mysql://localhost:3306/workflow --userna...

qq_41848129的博客 505

hive中复制(备份)一张表的两种方式

hive中复制(备份)一张表的两种方式 第一种种方式虽然可以复制表字段、表数据 ,但是表属性会发生改变 create table if not exists a_tableNMm as select * from b_tabNm 第二种 建表语句会完全相同,再加载数据。 create table if not exists a like b insert into a select * from b ...

m0_38109926的博客 8516

hive ,从hdfs把数据文件load导入到表

hive> load data inpath 'hdfs://ns1/abc/sales_info/hello/sales_info.txt' overwrite into table sales_info partition(dt = '2019-04-26'); 1 原数据文件(已经不存在了,是从原路径移动到了新路径下): 如果从本地导入后本地的原数据文件依然存在,相当于复制过去;...

Top5软件工程硕士,先后在京东、字节从事多年Java后端开发、实时和离线大数据开发 2万+

Hive 两个分区表之间的数据复制

Hive 两个分区表之间的数据复制

qq_38151907的博客 826

hive把本地的数据文件load导入到表

以下实例都是从本地导入: hive> load data local inpath 'sales_info.txt' overwrite into table sales_info partition(dt='2019-04-26'); 导入后本地的原数据文件依然存在,相当于复制过去;如果是从hdfs导入,则原数据文件不存在,相当于剪切过去。 实例1: 建表语句(不带分区字段,用逗号...

Top5软件工程硕士,先后在京东、字节从事多年Java后端开发、实时和离线大数据开发 2万+

2026年7月19日 从可插拔到共封装:技术路线研究报告

AI 算力的爆发正在重写数据中心光互连的技术路线。本报告对当前并存的四代光互连架构——

weixin_51184047的博客 591

hive中的数据导入到hdfs或者本地文件的方式包括sqoop

把hive中的数据导入到hdfs或者本地文件的方式 1、通过insert…directory方式导出数据到本地文件 insert overwrite local directory '/opt/datas/hive/exp_hive' select * from emp ; insert overwrite local directory '/opt/datas/hive/exp_hive2' ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' select

xia1140418216的博客 4685

Fluent动网格+滑移网格+重叠网格对比介绍(以震荡水翼flapping foil为例)

初学fluent笔记,本文主要包含: Flapping foil在fluent内的几种实现方式 在哪设置动网格、滑移、重叠网格 flapping的UDF 示例 写在前面:Fluent在预览网格运动/提交计算之前,注意保存一个cas版本。 -------------------------Flapping foil 网格几种组合实现方式:---------------------- 直接重叠网格,overset, 需要建立两个几何part,part要重合。水翼局部区域(component),背景网格(ba

深海民工CFDer 2万+

两种方法把数据导入到Hive

本地数据导入到hdfs,hdfs数据导入到hive

个人博客地址为http://elikhb.top/ 3266

3线SWD接线终极指南:用Jlink调试非3.3V设备的5个关键细节

本文详细解析了使用Jlink调试非3.3V设备时,3线SWD接线的5个关键细节。核心在于正确理解并连接Vref引脚以实现电压适配,避免供电冲突,并掌握精简接线法与固件修复技巧。文章以STM32F205等芯片为例,指导开发者安全、高效地进行混合电压调试。

e4f5g6h7的博客 438

直线电机驱动技术原理与应用解析

直线电机作为直接电能-直线运动转换装置,其核心原理基于电磁感应定律和洛伦兹力公式。通过三相交流电在定子绕组中产生行波磁场,与动子永磁体相互作用实现精准推力控制。相比传统旋转电机传动系统,直线电机具有零传动间隙、高动态响应(加速度可达10g)和微米级定位精度等技术优势,这使其成为半导体光刻机、精密数控机床等高端装备的关键驱动部件。现代直线电机驱动单元通常采用三环控制架构(电流环、速度环、位置环),配合SiC功率器件和高分辨率光栅反馈,实现纳米级运动控制。随着模块化设计和直接冷却技术的发展,直线电机正朝着更高功

weixin_26802933的博客 260

hive上传加载数据

hive的加载上传数据和建表的时候直接把数据导入进去

m0_72168501的博客 2718

YOLO26全网首发:CVPR2026 FAA| 解决YOLO Neck跨尺度方向冲突--- FAAFusion频域对齐融合模块 | 暴力涨点篇

本文改进:FAAFusion引入YOLO neck ,代替nn.Upsample和Concat

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 644

【Hive-基础】表数据的导出、导入(HDFS、本地)

表数据的导出、导入(HDFS、本地) 文章目录表数据的导出、导入(HDFS、本地)数据导入1 向表中装载数据(Load)2 通过查询语句向表中插入数据(Insert)3 查询语句中创建表并加载数据(As Select)4 创建表时通过Location指定加载数据路径5 Import数据到指定Hive表中数据导出1 Insert导出2 Hadoop命令导出到本地3 Hive Shell 命令导出4 Export导出到HDFS上 数据导入 1 向表中装载数据(Load) 1)语法 load data [loca

一个写湿的程序猿 1万+

Fiori Elements 的 Adapting the UI: Analytical List Page 全解析与实战

摘要:本文详细介绍了如何通过SAP Fiori elements的UI Adaptation功能对Analytical List Page(ALP)进行细粒度适配。重点讲解了页头过滤区、图表区域、表格区域等关键组件的可配置属性,包括过滤区折叠/固定、图表类型限制、表格滚动阈值等实用功能。文章强调这些适配均可通过可视化工具完成,无需修改业务代码,并提供了典型场景的实践清单。适用于SAP Fiori elements for OData V2项目,建议配合SAP Fiori tools的Adaptation E

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 436

一文读懂「Chain of Thought,CoT」思维链

Chain-of-Thought(CoT)是一种改进的Prompt技术,目的在于提升大模型LLMs在复杂推理任务上的表现,对于复杂问题尤其是复杂的数学题大模型很难直接给出正确答案。如算术推理(arithmetic reasoning)、常识推理(commonsense reasoning)、符号推理(symbolic reasoning)。COT通过要求模型在输出最终答案之前,显式输出中间逐步的推理步骤这一方法来增强大模型的算数、常识和推理能力。简单,但有效。2022 年,在 Google 发布的论文。

女王の专属领地 4万+

Hive导入数据的四种方式

Hive导入数据的四种方式 2、HDFS上导入数据到Hive表 先将文件从本地导入到hdfs上 注意: (1)是移动不是复制,hdfs中的teacher2.txt移动走了。 (2)如果有多个文件可以:load data inpath '/input/*' into table teacher; 3、从别的表中查询出相应的数据并导入到Hi...

hyj 1万+

从 AI 助手到 ADT 自动化桥梁:全面解析 Vibing Steampunk 的定位、能力边界与典型使用场合

Vibing Steampunk是一个面向SAP ABAP开发的AI自动化工具集,它通过ADT API将SAP开发能力系统化地暴露给AI助手和命令行工作流。该工具支持ECC、S/4HANA等所有启用ADT的系统,提供代码读取、修改、测试、调试等全流程自动化能力。核心功能包括AI调试、上下文压缩、ABAP语言服务、Lua脚本自动化等,并内置多重安全控制。其分层架构兼容标准ADT和WebSocket扩展,既适合AI驱动开发,也支持传统DevOps自动化,特别适用于老系统代码考古、知识接力和复杂问题诊断场景。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 152

【头歌】Sqoop数据导入 - 详解

【主要内容】Sqoop数据导入语法学习;Mysql导入数据至HDFS上;Mysql导入数据至Hive中。 【实践内容】全过程解析及部分异常处理办法。

梦想编程家博客 1万+

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

【Hive】安装配置及导入Hdfs数据

一文带你了解Hive的安装配置,供大家参考!

你不来,再美的天地,都狼藉 ~ 3119

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

任务16:使用Sqoop将Hive结果数据导入到MySQL

任务描述任务指导Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库(例如 :MySQL ,Oracle ,Postgres等)中的数据导入到Hadoop的HDFS中,也可以将HDFS的数据导入到关系型数据库中。本次任务的内容为使用Sqoop实现数据从MySQL 到HDFS的导入、导出。

bangbinbing的博客 1456

Sqoop将MySQL数据导入到HDFS和Hive中

一、将数据从mysql导入 HDFS sqoop import --connect jdbc:mysql://192.168.76.1:3306/workflow --username root --password a --table project 报错 tool.ImportTool: Encountered IOException running import job: jav...

qq_43184146的博客 642

【大数据存储技术】「#3」将数据从Hive导入到MySQL

【代码】【大数据存储技术】「#3」将数据从Hive导入到MySQL。

Lenhart001的博客 3550

Java将hive数据导入到hdfs_把HDFS上的数据导入到Hive中

1. 首先下载测试数据,数据也可以创建http://files.grouplens.org/datasets/movielens/ml-latest-small.zip2. 数据类型与字段名称movies.csv(电影元数据)movieId,title,genresratings.csv(用户打分数据)userId,movieId,rating,timestamp3. 先把数据存放到HDFS上hd...

weixin_35944650的博客 265
上一篇: UDF案例:
下一篇: hive 查找函数并查看函数使用方法
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值