Hadoop综合大作业

本文介绍如何使用Hive对爬虫产生的文本文件及CSV文件进行词频统计与数据分析。首先通过Hive对下载的英文小说进行词频统计,并将结果保存到表中;其次对爬虫产生的CSV文件进行数据分析,分享详细的分析过程与结果。

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)进行词频统计。

在网上下载英文小说,下载到本地home/hadoop/wc

首先要启动dfs:

2.在user/hadoop/上创建文件夹EnglishWord:

3.上传下载文档到user/hadoop/EnglishWord文件中:

4.在hive数据库创建表 world: 

导入文本world.txt并查看

用HQL进行词频统计并保持到表 word_count:

2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

 

 

转载于:https://www.cnblogs.com/linbolinbo/p/9090504.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值