通过hadoop上的hive完成WordCount

本文介绍如何在Hadoop集群上利用Hive工具完成WordCount词频统计任务。从启动Hadoop集群开始,逐步讲解如何上传文件至HDFS、创建数据表、加载数据并最终使用HQL进行词频统计。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

通过hadoop上的hive完成WordCount

启动hadoop

1
start-all.sh

Hdfs上创建文件夹

1
2
hdfs dfs -mkdir songinput
hdfs dfs -ls /user/hadoop

上传文件至hdfs:

下载歌词songs.txt保存在~/hadoop里,查询目录

1
2
cd ~/hadoop
ls

  

上传至hdfs

1
2
hdfs dfs -put ./songs.txt songinput
hdfs dfs -ls /user/hadoop/songinput

 

启动Hive

1
hive

创建原始文档表

1
create table docs(line string);<br>show tables;

  

导入文件内容到表docs并查看

1
load data inpath '/user/hadoop/songinput/songs.txt' overwrite into table docs;<br>select * from docs;

用HQL进行词频统计,结果放在表word_count里

1
create table word_count as select word,count(1from (select explode(split(line,' ')) as word from docs) word group by word;

查看统计结果

1
select * from word_count;

转载于:https://www.cnblogs.com/leonHQ/p/9047717.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值