自定义机架感知

hadoop2.7.3 自定义实现机架感知(Java版本) 博客Hadoop机架感知配置自主实现的jar包 http://blog.youkuaiyun.com/lemonZhaoTao/article/details/70991813 立即下载

副本节点的选择(机架感知)
1、默认情况下
第一个副本在client所处的节点上,如果客户端在集群之外,(在win7上运行程序,写文件到集群上),随机选一个。
第二个副本和第一个副本在不同机架上,节点随机选
第三个副本和第二个副本在相同的机架上,节点随机
2、hadoop2.7.2
第一个副本在client所处的节点上,如果客户端在集群之外,(在win7上运行程序,写文件到集群上),随机选一个
第二个副本与第一个副本在同一机架上
第三个副本在不同的机架上

{对于副本来讲,有一个副本在不同的机架上,可以保证可用性,在client上写入数据,用网络拓扑距离计算,在client上写入两个副本的速度强于 将两个副本写入到另外的机架上}

自定义机架感知
1、创建类实现DNSToSwitchMapping接口
2、配置文件core-site.xml

    <property>
            <name>net.topology.node.switch.mapping.impl</name>
            <value>自己定义的jar的全路径</value>
         </property>
3、分发core-site.xml
4、编译程序并打包成jar,分发给所有节点的hadoop的classpath下
    /app/hadoop/shared/hadoop/common/lib/

hadoop不能探测到节点所在的交换机,只能知道节点的IP地址和主机名称,所以需要自己定义规则。
package Hadoop;

import org.apache.hadoop.net.DNSToSwitchMapping;

import java.io.FileOutputStream;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;

/**
 * 2018/7/5
 * 16:11
 * 自定义机架感知
 */
public class RackAware implements DNSToSwitchMapping {
    /**
     * 传递的是客户端的ip列表,返回机架感知的路径列表
     */
    @Override
    public List<String> resolve(List<String> names) {
        ArrayList<String> list = new ArrayList<String>();
        if (names != null && names.size() > 0) {
            for (String name : names) {
                if (name.startsWith("s")) {
                    String ip = name.substring(1);
                    Integer intIP = Integer.parseInt(ip);
                    if (intIP < 103) {
                        list.add("/rack1/" + intIP);
                    } else {
                        list.add("/rack2/" + intIP);
                    }
                } else if (name.startsWith("192")) {
                    int ip = Integer.parseInt(name.substring(name.lastIndexOf(".")) + 1);
                    if (ip < 103) {
                        list.add("/rack2/" + ip);
                    } else {
                        list.add("/rack2/" + ip);
                    }
                }
            }
        }
//  写入文件
        try {
            FileOutputStream fos = new FileOutputStream("");
            for (String name : list) {
                fos.write((name + "\r\n").getBytes());
            }
            fos.close();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return list;
    }

    @Override
    public void reloadCachedMappings() {

    }

    @Override
    public void reloadCachedMappings(List<String> list) {

    }
}
在Ubuntu 22.04上搞定CanFestival主站:从源码下载到SocketCAN配置的保姆级教程 本文提供在Ubuntu 22.04上配置CanFestival主站的详细教程,涵盖从源码下载、SocketCAN配置到实战测试的全过程。针对工业自动化领域的CANopen协议需求,介绍如何优化编译环境、解决常见问题,并通过虚拟CAN接口验证功能完整性。 阅读详情

相关推荐

Ubuntu22.04下3分钟搞定GitHub加速:SwitchHosts+小鱼工具保姆级配置指南

本文提供Ubuntu22.04下快速解决GitHub下载超时问题的保姆级教程,通过SwitchHosts图形化工具和小鱼一键换源工具实现高效加速。详细步骤包括环境准备、工具安装配置及验证方法,帮助开发者轻松优化GitHub访问速度,提升工作效率。

weixin_29258297的博客 567

Hadoop之——Hadoop机架感知策略与自定义机架感知实现

转载请注明出处:https://blog.youkuaiyun.com/l1028386804/article/details/81150863 一、Hadoop机架感知策略 副本节点的选择(机架感知) 1、默认 第一个副本在client所处的节点上。如果客户端在集群外,随机选一个。 第二个副本在和第一个副本不同机架的随机节点上。 第三个副本和第二个副本相同机架,节点随机。 2、hadoop2.7...

冰河的专栏 2972

OpenWrt南京电信PPPoE IPv6配置:从零搭建稳定双栈网络

本文详细指导如何在南京电信PPPoE宽带环境下,为OpenWrt路由器配置稳定的IPv6双栈网络。核心在于正确设置WAN6接口为DHCPv6客户端,并请求/60前缀,同时配置LAN口分发地址并放行防火墙关键流量,确保内网设备获得原生IPv6连接。

water的专栏 1342

HDFS机架感知概念及配置实现

转自:魔鬼地下室 一、机架感知是什么? 告诉 Hadoop 集群中哪台机器属于哪个机架 二、那么怎么告诉呢? Hadoop 对机架的感知并非是自适应的,亦即,hadoop 集群分辨 某台 slave 机器是属于哪个 rack 并非是智能感知的,而是需要 hadoop 的管理者人为的告知 hadoop 哪台机器属于哪个 rack,这样在 hadoop 的 namenode 启动初始...

s37 4581

unity中VideoPlayer播放视频,使用Shader除去黑底且无黑边

1. 创建一个Shader 和 一个 材质球;Shader中复制如下代码:(此Shader代码为“ChromaKeyKit”插件中的ChromaKey_Alpa_Genera代码,但因只需要除去视频黑底而挂一个插件有点不合适) // Upgrade NOTE: replaced 'mul(UNITY_MATRIX_MVP,*)' with 'UnityObjectToClipPos(*)' Shader "ChromaKeyKit/ChromaKey/ChromaKey_Alpha_General"

weixin_42065078的博客 1747

移远EC800M CAT1模块HTTP POST实战:从AT指令到OneNet平台数据上报(附STM32代码)

本文详细介绍了移远EC800M CAT1模块通过AT指令实现HTTP POST数据上报到OneNet平台的完整流程,包含STM32实战代码。内容涵盖PDP上下文激活、HTTP服务配置、JSON数据包构建等关键技术要点,并提供硬件连接、状态机设计和错误处理等实用方案,助力开发者快速实现物联网设备稳定数据传输。

weixin_42565652的博客 508

大数据之hadoop机架感知

Hadoop是一个能够对大量数据进行分布式处理的软件框架,实现了Google的MapReduce编程模型和框架,能够把应用程序分割成许多的小的工作单元(块),并把这些单元放到任何集群节点上执行。在MapReduce中,一个准备提交执行的应用程序称为“作业(job)”,而从一个作业划分出得、运行于各个计算节点的工作单元称为“任务(task)”。此外,Hadoop提供的分布式文件系统(HDFS)主要负...

程序之道的博客 661

SHP转TXT、TXT转SHP工具(附工具下载链接)

关于TXT,可以选择整个图层生成一个TXT。也可以勾选“每个地块单独存TXT”,然后选择一个字段,根据字段值,给每个地块生成一个TXT文件。支持选择和数据框一样的坐标系,也可以选择一个图层,工具会采用和这个图层一样的坐标系。1、TXT数据支持输入单个或者多个TXT文件,也可以直接选择TXT所在的文件夹。所有的TXT数据都生成到一个矢量数据图层。关于这一行的内容,可以在地块坐标行设置中进行设置。其他:①面节点闭合:勾选,则回到起点。属性描述:可以直接复制粘贴进来,也可以直接修改。也可以改为任意字母。

坐听风雨 4311

面试题--精选Hadoop选择题

精选Hadoop选择题   1、下列哪个属性是hdfs-site.xml中的配置? A、dfs.replication  B、fs.defaultFS C、mapreduce.framework.name  D、yarn.resourcemanager.address 解答:dfs.replication是HDFS集群的副本个数,一般放置在hdfs-site.xml     2、Had...

好学若饥,谦卑若愚 8万+

QT应用编程: Win10系统下QT5.12搭建Android开发环境(配件齐全)

在win10系统下,搭建QT5.12.6 的Android开发环境。

7691

骑砍Ⅱ霸主MOD开发(16)-FaceKey&BannerKey

摘要:本文介绍了FaceKey人物模型和BannerKey旗帜模型的生成流程。FaceKey通过序列化参数生成人物模型,包括头部(脸部、嘴、睫毛、眼睛)、眉毛、头发、身体和躯干等组件,每个部分通过特定标签和骨骼绑定实现。BannerKey则通过解析参数生成旗帜模型,包括模型、贴图和颜色等元素。两种模型都采用参数化设计和XML配置文件实现模型生成与定制。

骑砍战团&霸主MOD开发 2289

自定义机架感知(优化hadoop集群一种方式)

1.自定义实现类   package com.it18zhang.hdfs.rackaware;   import org.apache.hadoop.net.DNSToSwitchMapping;   import java.util.ArrayList;   import java.util.List;   /**    *机架感知类    */   public class

duzewen的博客 847

[QMT量化交易小白入门]-六十九、ETF动量评分策略,历史年化收益率107%

C . bar_date } 跳过') returnC . bar_date } 跳过') returnC . bar_date } 跳过') return作用:如果当前不是回测模式且不是最后一根K线,则记录日志并跳过本次任务。这是为了避免在实时交易中对尚未完成的数据进行处理。

木头大左的博客 2233

机架感知

每一个用户的wifi和其他用户的wifi都是由交换机或者路由器来进行连接的,路由器,交换机之间也是由路由器交换机来进行连接的,最顶端的路由器交换机就是根,全球根服务器有13台。 ...

qq_43668119的博客 346

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

【hadoop】10.HDFS-机架感知

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34247299的博客 187

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

hdfs网络拓扑与机架感知

在了解hdfs创建文件之前,需要对hdfs网络拓扑有一个浅显的认知,继而对机架感知做一个简单的介绍。 在海量数据处理中,其主要限制因素是节点之间数据的传输速率-带宽稀缺。这里的想法是将两个节点间的距离作为带宽的衡量标准。Hadoop采用一个简单的方法:把网络看作一棵树,两个节点间的距离是它们到最近共同祖先的距离总和。该树中的层次是没有预先设定的,但是相对于数据中心、机架、正在运行的节点,通常

小冷在努力~ 1596

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

Hadoop 机架感知理解 和 配置实现

什么是机架感知? 机架感知简单的讲 就是告诉集群各个从节点所在的机架。方便集群更有效率的存储数据、利用资源。 默认的副本存储策略: 首选在本地机架的一个node存放副本,另一个副本在本地机架的另一个不同节点。 最后一个副本在不同机架的不同节点上。  怎么告诉集群? Hadoop 并没有那么智能,知道各个从节点所在的机架。 主要管理员手动的去配置。如果不配置,它会生成一个 defa...

FresherHe的博客 722

HDFS的机架感知(rack aware)

1. 机架感知

beeworkshop的博客 420

Hadoop3.x 机架感知机制与配置

什么机架感知 感知hadoop集群中每个机器节点所属的机架 如何感知机架 某台 slave 机器是属于哪个 rack 并非是智能感知的,而是需要 hadoop的管理者人为的告知 hadoop 哪台机器属于哪个 rack,这样在 hadoop的 namenode 启动初始化时,会将这些机器与 rack 的对应信息保存在内存中,用来作为对接下来所有的 HDFS 的写块操作分配 datanode列...

qq_31454379的博客 1863

HDFS-机架感知(rack-awareness)

HDFS-机架感知 目录HDFS-机架感知1.机架感知的核心思想2.HDFS如何知道各个DataNode的网络拓扑情况3.机架感知核心配置(1)net.topology.impl(2)net.topology.node.switch.mapping.impl(3)net.topology.script.file.name(4)net.topology.table.file.name(5)net.topology.script.number.args4.机架感知实现方式4.1 默认配置解析4.2 自定义Jav

amingo_ss的博客 2817

hadoop自定义机架实现-08

网络拓扑概念: 在本地网络中,两个节点被称为“彼此近邻”是什么意思?在海量数据处理中,其主要限制因素是节点之间数据的传输速率——带宽很稀缺。这里的想法是将两个节点间的带宽作为距离的衡量标准。 节点距离:两个节点到达最近的共同祖先的距离总和。 例如,假设有数据中心d1机架r1中的节点n1。该节点可以表示为/d1/r1/n1。利用这种标记,这里给出四种距离描述。 D...

kxj19980524的博客 473

hadoop中的机架感知(Rack aware)

原理 hadoop中声明是有机架感知的功能,能够提高hadoop的性能。 hadoop启动时会检查core-site.xml中的一个配置选项:topology.script.file.name,如果这个选项不为空,hadoop就会认为这是一个可运行脚本,于是在每检测到一个slave连接上jobtracker或者namenode时就会把这个slave的hosts或者IP地址作为参数传给这

快乐程序员的专栏 3293

HDFS 机架感知

HDFS 机架感知 rack-aware @(hadoop预习笔记)[hdfs] 在HDFS中默认的副本数量是3个,第一个副本放在和client相同的机架(rack)1 ,第二个副本放在与第一个node不同机架node中,第三个副本放在与第二个node相同机架的不同node中。 HDFS是如何知道多个不同node是否在同一个机架上呢 ? 运用机架感知的策略 在core-site.xm...

weixin_30549175的博客 168

hadoop配置机架感知,原理

背景“hadoop权威指南”里面有说明,配置机架感知的目的就是要最大程度发挥hadoop的性能,要做到这点就是知道hadoop集群的网络拓扑结构(it knows the topology of your network)。如果集群中的机器都跑在一个机架上,那么我们什么都不用做,集群下的节点默认都是在“/default-rack”下的,可以启动hadoop集群的时候查看logs/namenode....

fantasticqiang的博客 1888

Hadoop基础-网络拓扑机架感知及其实现

                      Hadoop基础-网络拓扑机架感知及其实现                                           作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任。         一.网络拓扑结构    在本地网络中,两个节点被称为“彼此近邻”是什么意思?在海量数据处理中,其主要限制因素是节点之间数据的传输速率,即带宽稀缺。...

weixin_33716557的博客 184
上一篇: Zookeeper 详讲(笔记)1
下一篇: Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hive.service.HiveServerException
JSON_ZJS
博客等级 码龄9年 30粉丝 159原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值