6. hadoop HDFS机架感知

苍老流年

已于 2024-10-16 10:48:23 修改

阅读量536

点赞数

CC 4.0 BY-SA版权

分类专栏： # hadoop知识笔记文章标签： hadoop hdfs 大数据

于 2018-06-24 16:10:44 首次发布

本文链接：https://blog.youkuaiyun.com/cl2010abc/article/details/80791184

hadoop知识笔记专栏收录该内容

15 篇文章

订阅专栏

本文介绍了Hadoop中机架感知的概念及其实现方法，包括通过编写机架感知程序和使用脚本两种方式，旨在提高数据可靠性和访问性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

实验环境

hadoop版本: 2.6.5
master: 192.168.1.160
slave1: 192.168.1.161

机架感知

一个hadoop分布式集群会有很多的服务器，由于受到机架槽位和交换机网口的限制，通常大型的分布式集群都会跨好几个机架，机架内的服务器之间的网络速度通常都会高于跨机架服务器之间的网络速度，并且机架之间服务器的网络通信通常受到上层交换机间网络带宽的限制。

HDFS对数据文件是分block存储，每个block默认有3个副本（也可以配置大于3），HDFS对副本的存放策略如下：

第一个block副本放在和client所在的node里（如果client不在集群范围内，则这第一个node是随机选取的）。
第二个副本放置在与第一个节点不同的机架中的node中（随机选择）。
第三个副本放置在与第一个副本所在节点同一机架的另一个节点上。
如果还有更多的副本则随机放在集群的node里。

这样的策略主要是为了数据的可靠性和数据访问的性能考虑。

数据分布于不同的机架上，就算整个机架挂掉后，其他机架上还有冗余备份，整个集群依然能对外服务。
数据分布于不同的机架上，运行mapreduce任务时可以就近获取所需的数据。

hadoop对机架的感知并非是自适应的，而是需要使用者告诉hadoop机器（ip）与机架的对应关系。

实现

hadoop机架感知可以有两种方式实现，编写机架感知程序和脚本方式。

机架感知程序

实现接口DNSToSwitchMapping

import org.apache.hadoop.net.DNSToSwitchMapping;
import java.util.ArrayList;
import java.util.List;

public class MyDNSToSwitchMapping implements DNSToSwitchMapping {

    @Override
    public List<String> resolve(List<String> list) {
        List<String> paths = new ArrayList<String>();
        if (list != null && !list.isEmpty()) {
            for (String hostname : list) {
                String rackPath = "";
                if ("master".equals(hostname)) { //以主机名来判断，实验环境中只有master和slave1。
                    rackPath = "/rack1";
                } else {
                    rackPath = "/rack2";
                }
                paths.add(rackPath);
            }
        }
        return paths;
    }

    @Override
    public void reloadCachedMappings() {
    }

    @Override
    public void reloadCachedMappings(List<String> list) {
    }
}

pom.xml

```
<dependency>
	<groupId>org.apache.hadoop</groupId>
	<artifactId>hadoop-client</artifactId>
	<version>2.6.5</version>
</dependency>
```

将上述代码打包，上传到master节点hadoop根目录share/hadoop/common/lib下。
```
 mvn package -Dmaven.test.skip=true
```

修改core-site.xml配置。

<property>       
    <name>net.topology.node.switch.mapping.impl</name>                
    <value>com.tongfang.learn.MyDNSToSwitchMapping</value>
	<!-- 根据实际的类全路径（加上包名）配置-->
</property>

将jar包和修改的配置分发到slave1节点上，重新启动节点
```
./sbin/start-dfs.sh 
```

查看集群机器分布情况

[hadoop@master hadoop-2.6.5]$ ./bin/hdfs  dfsadmin -printTopology
Rack: /rack1
   192.168.1.160:50010 (master)
Rack: /rack2
   192.168.1.161:50010 (slave1)

可以看出机器分布于rack1和rack2两个机架。

脚本
hadoop也提供了脚本的方式来配置机架感知方式，常见的实现方式有shell脚本和python脚本两种方式，这里以python脚本为例。

编写感知脚本，并授予执行权限。

#！/usr/bin/python
#coding=utf-8
import sys
rack={
          "192.168.1.160":"/dc1/rack1",
          "192.168.1.161":"/dc1/rack2",
          "master":"/dc1/rack1",
          "slave1":"/dc1/rack2",
        }
        
if __name__=="__main__":
	print rack.get(sys.argv[1], "default-rack") #主机名或ip不存在，则使用默认机架default-rack

由于没有找到确切的文档说明到底是主机名还是ip地址会被传入到脚本，所以在脚本中最好兼容主机名和ip地址。

添加执行权限：

	chmod +x test.py

在master上修改core-site.xml配置。

<property>
	<name>net.topology.script.file.name</name>
	<value>/home/hadoop/test.py</value>
	<!-- 根据脚本实际路径配置 -->
</property

将脚本和修改的配置分发到slave1上，并重启集群
```
./sbin/start-dfs.sh 
```

查看集群机器分布情况。

[hadoop@master hadoop-2.6.5]$ ./bin/hdfs  dfsadmin -printTopology
Rack: /dc1/rack1
   192.168.1.160:50010 (master)
Rack: /dc1/rack2
   192.168.1.161:50010 (slave1)

可以看出机器分布于 /dc1/rack1和/dc1/rack2两个机架。