
big data
文章平均质量分 64
Fiona_ll
我每天都在进步,尽管百般艰辛
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
下载Hadoop源代码,自己编译
准备工作 Unix 系统, Mac和Linux都可以 Jdk 1.6及其以上 Maven (Maven的Mac安装教程在oozie安装里有介绍:https://blog.youkuaiyun.com/lucylove3943/article/details/80673962) Protocol Buffer (Protobuf,安装教程在导Hadoop源码里面有介绍:https://blog.csdn...原创 2020-07-23 10:00:00 · 855 阅读 · 0 评论 -
Hadoop的机架配置rack-awareness
一直都说Hadoop的HDFS默认会把所有文件复制三份: 第一份随机选一个datanode 第二份在另一个机架(rack)上随机选一个datanode 第三份在第二份的机架上再选一个datanode 但是如果不特别配置的话,hadoop是不知道机架信息的,会默认所有的datanode都在同一个机架上。 如何让Hadoop知道机架信息呢? 就需要靠自己配置啦~~~ Hadoop说明...原创 2020-05-01 22:02:59 · 1045 阅读 · 0 评论 -
Hadoop 3.2.0配置
~/.bashrc export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 export HADOOP_HOME=/home/qianwen/hadoop-3.2.0 export PATH=$PATH:$HADOOP_HOME/bin export PATH=$PATH:$HADOOP_HOME/sbin export HADOOP_MAPRED...原创 2019-07-25 00:36:58 · 875 阅读 · 0 评论