hadoop集群建设01物理机准备

本文详细介绍了Hadoop集群建设中的物理机配置,包括选用CentOS 7.4操作系统,调整swap分区参数以优化性能,磁盘采用RAID0进行数据盘挂载,创建hadoop用户以利于集群运维,并强调了主机名的规范设置和机架配置对性能的影响。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

物理机配置

目前市面主流的物理机配置基本都为26核384g内存机器,盘的大小一般为4T*10

1、主机操作系统选择:center OS 7.4操作系统

2、主机swap配置

Linux系统中当内存使用到一定程度后会使用swap分区,这是由/proc/sys/vm/swappiness文件中的vm.swappiness  参数进行控制的,linux默认vm.swappiness=60

但是对于hadoop集群来说,如果使用系统默认设置,会导致swap分区被频繁使用,集群会不断发出警告。所以在搭建cloudera-manager的时候,会建议调整vm.swappiness参数,我一般设置为0,vm.swappiness的值越小使用swap分区的可能性就越小。设置方法为:

sysctl -w vm.swappiness=0

如果集群已经使用了swap分区,在设置vm.swappiness值之后建议对swap分区进行刷新,命令为:

swapoff -a 

swapon -a

也可在开机启动配置中直接增加swapoff -a

[hadoop@whx-9 ~]$ free -g

total used free shared buff/cache available

Mem: 125 24 8 0 92 99

Swap: 0 0 0

3、主机磁盘配置

对于所有已规划为datanode节点的机器的数据盘按照raid0 依次挂载在/mnt/data01-data10上,关于raid0与JBOD比较速度问题&#

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值