
hadoop
crazyskady
沉迷在stable diffusion的画图中~~~
展开
-
从零搭建Hadoop集群 三
接上文,看了几篇文章,自己尝试着写了两个hadoop处理文件的小代码,惭愧啊,人家四五年前玩的东西,现在才想起来要尝试着学习一下,还磕磕绊绊的。>_<求平均数我们有两个文件,里面保存了一些人的语文和数学成绩,格式如下: testAvg.txt张三 语文 88 李四 语文 77 王五 语文 66 张三 数学 90 李四 数学 79 王五 数学 68testAvg2.txt赵六 语文 88 赵六 数原创 2017-07-15 17:33:01 · 440 阅读 · 0 评论 -
从零搭建Hadoop集群 二
接上篇,本篇需要的是来将Eclipse连接到Hadoop服务器上。首先下载一个Eclipse,我下载的是最新的免安装版本OXYGEN,免安装版的下载链接按照如下方法进入: 1. 进入Eclipse官网,拉到最下面,点IDE and Tools: 2. 在新的页面点击Java EE: 3. 点右边的下载链接即可: 下载完后将压缩包拷贝到bigdata-master机器里,解压。然后去下原创 2017-07-06 22:21:50 · 377 阅读 · 0 评论 -
从零搭建Hadoop集群 五
本篇介绍安装HBASE,具体怎么跟Hadoop一起玩不做介绍,因为我也不会>_<,怎么在Hadoop里写Java代码操作Hbase还需要继续研究,搞完HBASE就剩下安装Spark了。下载先去下载个当前的稳定版HBASE 1.2.6,注意不要和我一样犯傻下载了src,倒腾了半天发现总是说缺少库,除非您有兴趣重新编译一遍HBASE。 安装将压缩包拷贝到bigdata-master,解压:tar -z原创 2017-07-22 16:27:02 · 431 阅读 · 0 评论 -
从零搭建Hadoop集群 四
偷个懒 ^_^Combiner:Combiner号称是本地的Reducer,Map后的数据先到Combiner,处理后再最终输入Reducer。所以,上文的Combiner的Class就不能设置成和Reducer是一样的。原创 2017-07-19 21:56:59 · 375 阅读 · 0 评论