大数据(1b)虚拟机CentOS7集群网络配置

mac os 电脑利用VMware虚拟机安装Centos7搭建Linux小集群 1.安装下载 VMware Vmware 只需要翻墙在官网注册一个号码就可以有密钥了。 个人免费版下载网址:https://dl.iplaysoft.com/files/5378.html 然后一步一步注册之后,就可以获得一个唯一的密钥。(网站进不去的话你懂得) 2.下载镜像 Centos7 阿里云镜像下载:http://mirrors.aliyun.com/centos/7/isos/x86_64/ 3.安装镜像 拖动镜像到框中,继续 继续 传统的就行,继续 自定设置—>改名字–>存 阅读详情

集群规划hadoop100hadoop101hadoop102hadoop103hadoop104hadoop105
IP地址192.168.1.100192.168.1.101192.168.1.102192.168.1.103192.168.1.104192.168.1.105

1、网络配置

1、关闭防火墙自启、关闭防火墙(每台机都执行)

systemctl disable firewalld
systemctl stop firewalld

2、编辑网络脚本(另两台IPADDR为:192.168.1.101、192.168.1.102)

vi /etc/sysconfig/network-scripts/ifcfg-ens33
# 静态(修改项)
BOOTPROTO="static"
# 在系统启动时是否激活网卡,只有在激活状态的网卡才能去连接网络(修改项)
ONBOOT="yes"
# 网关(添加项)
GATEWAY=192.168.1.2
# 域名解析器(添加项)
DNS1=192.168.1.2
# IP地址(添加项)
IPADDR=192.168.1.100

3、修改集群网络映射

echo '192.168.1.100 hadoop100' >> /etc/hosts
echo '192.168.1.101 hadoop101' >> /etc/hosts
echo '192.168.1.102 hadoop102' >> /etc/hosts
cat /etc/hosts

4、分别修改每台机的主机名(下面两种命令都可)

echo "hadoop100" > /etc/hostname
echo "hadoop101" > /etc/hostname
hostnamectl --static set-hostname hadoop102

5、重启

reboot

ifconfig查看网络,hostname查看主机名,看看是否改对

2、安装Linux基础

命令全称说明示例备注
yumYellow dog Updater, ModifiedShell前端软件包管理器yum -y vim-y表示安装过程全选"yes"
yum install -y epel-release
  • EPEL的全称:Extra Packages for Enterprise Linux
  • EPEL提供高质量软件包;装上了 EPEL之后,就相当于添加了一个第三方源
yum install -y net-tools vim tree lrzsz nc
命令说明示例备注
net-tools网络工具ifconfig查看IP地址
vim类Unix系统文本编辑器
tree以树状图列出目录tree -L 2-L 2只看2层
lrzsz在linux里可代替ftp上传和下载的程序rz -brz是上传,sz是下载
有弹窗,选择文件即可上传
-b是二进制方式
netcat网络数据传输工具nc -lk 731-l,--listen:Bind and listen for incoming connections
-k,--keep-open:Accept multiple connections in listen mode
yum install -y psmisc rsync ntp iotop git
命令全称说明备注
rsyncRemote Sync远程同步文件传输
ntpNetwork Time Protocol网络时间协议集群时间同步
psmiscA package of small utilities that use the proc file-system进程管理,如:杀进程Hadoop集群高可用【ssh fence】的前提
DolphinScheduler的依赖之一
iotop监视磁盘I/O使用状况
git开源的分布式版本控制系统

3、集群间免密登录

点击此处可查看:免密登录原理详解

1、生成公钥和私钥,一路回车,留意路径(默认在/root/)

ssh-keygen -t rsa

2、生成authorized_keys,填yes和密码

ssh-copy-id -i /root/.ssh/id_rsa.pub hadoop100

3、将整个文件夹发送到另外两台机,填yes和密码

scp -r /root/.ssh hadoop101:/root
scp -r /root/.ssh hadoop102:/root
  • 集群免密登录配好了,后述命令在hadoop100上执行,不用切来切去!

4、其它补充

4.1、WIN10网络映射配置【hosts】

去到C:\Windows\System32\drivers\etc以管理员身份编辑hosts文件,添加下面内容

192.168.1.100 hadoop100
192.168.1.101 hadoop101
192.168.1.102 hadoop102
192.168.1.103 hadoop103
192.168.1.104 hadoop104
192.168.1.105 hadoop105
192.168.1.106 hadoop106
192.168.1.107 hadoop107
192.168.1.108 hadoop108
192.168.1.109 hadoop109

4.2、VIM配置

https://blog.youkuaiyun.com/Yellow_python/article/details/104279173

4.3、创建用户并配置免密sudo权限

https://yellow520.blog.youkuaiyun.com/article/details/115495027

亲测有用!Centos7 + Zookeeper集群 + Hadoop集群配置 配置hadoop集群配置 阅读详情

相关推荐

Centos7搭建CDH5.15集群(完全版)

CDH是Cloudera的100%开源平台发行版,包括Apache Hadoop,专为满足企业需求而构建。CDH提供开箱即用的企业使用所需的一切。通过将Hadoop与十几个其他关键的开源项目集成,Cloudera创建了一个功能先进的系统,可帮助您执行端到端的大数据工作流程。 简单来说:CDH 是一个拥有集群自动化安装、中心化管理、集群监控、报警功能的一个工具(软件),使得集群的安装可以从几天的时...

风尘子曰 2332

CentOS7.0开启远程端口

参考博客 https://blog.youkuaiyun.com/cong____cong/article/details/87469719 1.永久开通某个端口 firewall-cmd --zone=public --add-port=9999/tcp --permanent 2.查看防火墙端口状态 firewall-cmd --zone=public --query-port=9999/tcp 3.重启防火墙 firewall-cmd --reload ...

liminghui4321的博客 509

告别手动配置!用Vector vLinkGen 2.1.0自动生成AUTOSAR链接脚本(附bss段配置详解)

本文详细介绍了如何使用Vector vLinkGen 2.1.0工具自动生成AUTOSAR链接脚本,告别繁琐的手动配置。通过解析vLinkGen的核心架构和bss段配置实践,帮助开发者提升嵌入式软件开发效率,支持多种主流编译器,实现精确的内存分配和初始化策略。

weixin_28716181的博客 380

Centos中安装nc命令工具

         netcat(nc)是一个简单而有用的工具,被誉为网络安全界的“瑞士军刀”,不仅可以通过使用TCP或UDP协议的网络连接读写数据,同时还是一个功能强大的网络调试和探测工具,能够建立你需要的几乎所有类型的网络连接。 在Linux中可以直接使用yum工具进行安装: yum install nc.x86_64 安装完成后使用nc -help查看命令是否正常安装 完成后,我们...

xule666的专栏 3041

关于使用CMT2300A FIFO缓存区间设置为64Byte的问题

帮助你解决在使用CMT2300A 时遇到的各种问题,若有需要,请及时与我交流

teleger的博客 1431

低速信号设计之 LPC 篇

摘要:LPC总线作为服务器低速信号设计的关键技术,在BIOS芯片连接、Super I/O芯片控制和嵌入式管理等方面发挥着重要作用。其采用33MHz时钟频率和4位并行传输机制,理论速率达16.5MB/s。设计时需重点关注布线长度(建议<10cm)、信号完整性(45°走线、合理层间隔离)和过孔优化等要点。典型应用案例表明,通过规范设计可确保在工业控制等复杂环境中稳定工作。LPC总线凭借低成本、低引脚数和良好兼容性,仍是服务器低速外设连接的重要解决方案。

qq_16237389的博客 1167

flink入门案例 nc-lk 端口 报错问题记录

下载的安装包 netcat-0.7.1.tar.gz。最终解决方法 使用 nc -l -p 7777命令。nc hadoop102 7777 接收数据。虚拟机环境 centos7 ,

weixin_42095387的博客 1045

C2000 CLA协处理器:嵌入式实时控制性能优化与实战指南

在嵌入式实时控制系统中,主CPU常因高频率、低延迟的控制算法而面临性能瓶颈。为解决此问题,协处理器技术应运而生,它通过硬件并行架构分担计算密集型任务,从而提升系统整体性能。其核心原理在于独立的计算单元与总线设计,能够实现近乎零延迟的响应,这对于电机驱动、数字电源等闭环控制场景具有极高的技术价值。本文聚焦于德州仪器C2000系列微控制器中的控制律加速器(CLA),深入解析其作为独立浮点协处理器如何通过任务调度与消息RAM通信机制,有效实现性能倍增,并提供了从内存配置到代码调试的完整工程实践方案。

weixin_29192211的博客 305

三、使用 nc -lk 监听socketTextStream

一、所需命令及代码 linux命令 [root@localhost ~]# nc -lk 7777 -bash: nc: command not found yum install -y nc [root@localhost ~]# nc -lk 7777 hello world nihao are you 代码 package com.robert.flink.wcTest; import org.apache.flink.api.common.functions.Fla.

JavaCoder_juejue的博客 5128

OCTA-500:用于光学相干断层扫描血管造影研究的视网膜数据集|文献速递-基于生成模型的数据增强与疾病监测应用

数据集提供了丰富的图像和注释,包括两种模态(OCT/OCTA体积)、六种投影类型、四种文本标签(年龄/性别/眼别/疾病)以及七种分割标签(大血管/毛细血管/动脉/静脉/2D FAZ/3D FAZ/视网膜层)。我们介绍了新的 OCTA-500 数据集,该数据集包含来自 500 名受试者的 OCTA 成像,并提供了丰富的图像和标注集。(C) OCTA-500 切片的人工标注示例。图 4. OCTA-500 数据集中文本标签的统计直方图:(a) 性别,(b) 眼别,(c) 年龄,(d) 疾病。

weixin_38594676的博客 1439

突破NER性能瓶颈:BERT与LLM协同的混合架构实践

性能卓越:在多个测试集上,F1分数比单一模型提升5-15%成本可控:相比纯LLM方案,成本降低60%以上易于落地:架构清晰,便于调试和优化这种"专才+通才"的组合思路可以扩展到其他NLP任务中,如关系抽取、事件提取、文本分类等。更精细的流水线优化多模型投票机制在线学习与自适应调整不追求单一模型的万能,而是通过精心设计的组合,让每个组件发挥其独特优势,最终实现系统性能的最优化。欢迎在评论区分享你在NER任务中的实践经验,或者对这个混合架构的改进建议!

Ven%的博客 1022

大数据-Linux系统的网络设置

一般分为两部分,第一部分是对VMware的网络进行设置,第二部分是对Windows的网络进行设置。 一、VMware网络设置 (1)在VMware工具栏中点击“编辑”。 (2)点击“虚拟网络编辑器”。 (3)选择NAT模式,然后点击右下角“更改设置”。 (4)还是选择NAT模式,然后修改IP地址,然后点击DHCP设置。 (5)设置一下IP区间,然后确定,一般假如前面IP设置的是192.168.40.1,我会把这段设置成192.168.40.1~192.168.40.254. (6)DHCP设置之后在设

qq_40395868的博客 1584

【乐企文件生成工程】添加数据库、SpringEvent事件支持

更新!1、乐企版式文件生成工程添加数据库支持2、乐企版式文件生成工程添加事件机制,异步处理文件生成,提高系统并发能力。

九七的博客 338

大数据集群之配置虚拟机集群

本文章是在window平台上安装四个虚拟机作为学习大数据平台的集群 前提准备 1.安装虚拟机软件VMware,这里提供一个安装教程链接参考 2.获取一个Linux镜像,我这里使用的是CentOS7 64位,提供一个参考链接 安装CentOS 先创建一个文件夹,方便管理集群 点击左上角文件新建虚拟机,选择典型,下一步 选择自己的虚拟机镜像,下一步 全名随便,用户名也是自取,密码最好简单点我这里是a,root用户也是使用这个密码,下一步 虚拟机名,我这里为node1,也建议大家也使用,选择空间够大的安装

bay233的博客 1722

从零实现深度学习框架——自动求导神器计算图

本文介绍自动求导神器——计算图,从本篇文章开始介绍一个自定义的求导工具。

日积月累,天道酬勤 4199

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Centos7安装步骤(集群)

Linux安装,为Hadoop集群做准备

锟斤拷 1万+

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

hadoop集群搭建之Centos7虚拟机安装和网络配置

(1)打开VMware选择新建虚拟机(2)典型安装与自定义安装典型安装:VMware会将主流的配置应用在虚拟机的操作系统上,对于新手来很友好。自定义安装:自定义安装可以针对性的把一些资源加强,把不需要的资源移除。避免资源的浪费。这里我选择自定义安装。(3)虚拟机兼容性选择这里要注意兼容性,如果是VMware12创建的虚拟机复制到VM11、10或者更低的版本会出现一不兼容的现象。如果是用VMware10创建的虚拟机在VMware12中打开则不会出现兼容性问题。(4)选择稍后安装操作系统。

u010628753的博客 667

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Linux:Centos7中VMware虚拟机的网络配置

1. 需求描述 最近在重温java的redis等中间件的过程。之前学习的时候,是在自己搭建的虚拟机环境中测试相关的高可用集群等的配置。由于较长时间没有使用到Centos,里面一些相关的操作命令有些陌生。乘着搭建环境的过程,把相关的知识,顺带记录整理出来,方便有相似需求的同仁参考之用。 2. 相关概念 安装完虚拟机后,默认安装了两个虚拟网卡,VMnet1和VMnet8,其他的未安装(当然也可以手动安装其他的)。其中VMnet1是host网卡,用于host方式连接网络的。VMnet8是NAT网卡,用于NAT方

凡江林的博客 2021

win7安装centos7虚拟机

1. 场景描述 因测试中需要linux集群,目前的服务器不太方便部署,需要本机(windows7)启动多个linux虚拟机,记录下,希望能帮到需要的朋友。 2. 解决方案 2.1 软件准备 (1)使用vmware-workstation进行虚拟化,版本用的:12.5.9,没有用最新版,一是12已经够用了,二是最新版破解难找(昨天家里用了14,好像也不是太难找), 下载地址: https://www...

软件老王 968

VirtualBox 搭建 CentOS 7 虚拟机集群运行 MPI

虚拟机网络设置 首先要设置宿主机和虚拟机的静态 ip,并且要实现 3 个方向能够 ping 成功: 1 宿主机 ping 虚拟机 2 虚拟机1 ping 虚拟机 2 3 虚拟机 ping 因特网 VirtualBox 的网络设置的特点(来自 VirtualBox 的帮助文档): 根据我们要实现的目标我们可以使用 Bridged 方式设置一张网卡,或者使用 Host-only 和 NAT 方式设置...

哈罗德Android笔记 2108

搭建Centos7的虚拟机集群

一 首先搭建一个单机版的Centos7的虚拟机 搭建方法参考链接 http://blog.youkuaiyun.com/chengqiuming/article/details/70139452 http://blog.youkuaiyun.com/chengqiuming/article/details/70139461 二 复制虚拟磁盘 将G:\vmdisk\Centos.vdi拷贝到G:\vmdi

实践求真知 1272

创建centos集群中的网络配置

创建centos集群中的网络配置 1.先安装VMware,然后安装Centos7 具体的安装步骤参考: 1.1 CentOS 7.0系统安装配置图解教程 2.配置网络信息 2.1 安装的centos,选用的网络适配器为NAT 2.2 关闭防火墙和SELinux # 关闭防火墙 Systemctl stop firewalld # 关闭SELINUX: vim /etc/selinux/confi...

code_yun的博客 529

虚拟机搭建集群

基于3台虚拟机搭建集群架构图 1.服务器准备 使用VMware Workstation虚拟机创建虚拟服务器来搭建集群,所用软件及版本如下: VMware Workstation 12.0 CentOS-6.5-64bit 2.基础虚拟机安装 2.1新建虚拟机(虚拟硬件) 关键步骤: 2.1.1 2.1.2设置虚拟机的网络连接模式为NAT模...

weixin_38023225的博客 1944

搭建 Hadoop 集群详细教程

## 1. 准备工作 ### 1.1 环境 - Centos 7 - JDK 1.8 - Hadoop 2.10.0

深刻的博客 7448

使用VMware基于虚拟机centos7搭建Hadoop集群

一、虚拟机安装centos7 1、卸载openjdk 1.1 查看虚拟机已有的java版本 [root@localhost wxx]# java -version 1.2 查看openjdk版本 [root@localhost wxx]# rpm -qa | grep jdk 1.3 除.noarch,其余全部删除 [root@localhost wxx]# rpm -e --nodeps...

weixin_43946462的博客 1230

CentOS7搭建Hadoop-3.3.0集群手记

前提这篇文章是基于Linux系统CentOS7搭建Hadoop-3.3.0分布式集群的详细手记。基本概念Hadoop中的HDFS和YARN都是主从架构,主从架构会有一主多从和多主多从两种...

Throwable 5889
上一篇: 大数据(1d)集群脚本
下一篇: 大数据(7k)比较Scala、Java、SQL、Python的case模式匹配
小基基o_O
博客等级 码龄9年 4414粉丝 467原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小基基o_O

您的鼓励是我创作的巨大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值