hadoop:linux环境搭建前准备

Hadoop搭建————搭建前的准备 虚拟机IP的设置 JDK的安装 Hadoop的安装 常用快捷键 阅读详情

---------------------------------------------------

关闭防火墙: service iptables stop;

关闭防火前开机自启动:chkconfig iptables off;

---------------------------------------------------

关闭selinux:vim /etc/selinux/config

#SELINUX=enforcing

SELINUX=disabled

--------------------------------------------------------------------

更改主机名:

vim /etc/sysconfig/network

--------------------------------------------------------------------

更改域名的映射:

vim /etc/hosts

192.168.201.100 node01.hadoop.com node01

192.168.201.110 node02.hadoop.com node02

192.168.201.120 node03.hadoop.com node03

--------------------------------------------------------------------

免密登陆(3太机器之间的免密码登陆):

1.每台机器都生成公钥和私钥

ssh-keygen -t rsa 执行完一直确定即可

2.将每台机器的私钥cp到第一台机器上面(3台都要执行

)

ssh-copy-id node01

3.将第一台机器的authorized_keys拷贝到第二第三台机器上面

scp /root/.ssh/authorized_keys node02:/root/.ssh

scp /root/.ssh/authorized_keys node03:/root/.ssh

4.测试

shh node02

5.测试失败

把.ssh文件夹删了重新生成

shh远程登陆会话和其他网络服务提供安全性的协议。

ssh-copy-id命令可以把本地主机的公钥复制到远程主机的authorized_keys文件上。

scp 是 secure copy 的缩写, scp 是 linux 系统下基于 ssh 登陆进行安全的远程文件拷贝命令。

scp 是加密的,rcp 是不加密的,scp 是 rcp 的加强版。

-------------------------------------------------------------------------------------

时钟同步(两种同步):

1.阿里云服务器(阿里用的一台专门校准时间的服务器,用的原子啥玩意的)

缺点:必须得联网,能联网用这个

2.

总结:找一台服务器进行同步;

1.检查是否安装ntpd服务

rpm -qa | grep ntpd

2.设置同步定时任务

crontab -e

定时任务的解读

*/1 * * * * /usr/sbin/ntpdate ntp4.aliyun.com

每分钟 执行一次 ntpdate ntp4.aliyun.com

ntp4, ntp3, ntp2, ntp1有多态服务器可以去同步

us.pool.ntp.org 国外的一个时钟同步服务器,也可以去使用

------------------------------------------------------------------------

JDK的安装

1.centos都有一个自带的openjdk;

2.卸载自带openjdk;

查看:rpm -qa | grep java

卸载:rpm -e 包名 --nodeps

-nodeps 并且卸载依赖这个包的包

3.创建安装JDK目录

mkdir -p /export/servers

4.安装工具(这个工具可以直接拖动小文件到linux系统,或者用ftp传输也)

yum -y install lrzsz

出错:由于Centos6已经不再维护了 无法从官网直接下载 lrzsz

所以改一个yum的库地址

1.cd /etc/yum.repos.d

2.mv CentOS-Base.repo CentOS-Base.repo.backup

3.vi CentOS-Base.repo

4.[centos-office]

name=centos-office

failovermethod=priority

baseurl=https://vault.centos.org/6.10/os/x86_64

gpgcheck=1

gpgkey=https://vault.centos.org/6.10/os/x86_64/RPM-GPG-KEY-CentOS-6

5.yum install lrzsz -y  成功

5.安装JDK

1.备份3太机器的 /etc/profile;

2.编写shell脚本

注意解压:

1.解压的 -C

2.>>是在尾部下一行追加; >是重新从头写(危);

3.java -version; 命令后可以用;分隔

#!/bin/bash

#解压jdk安装包

tar -zxvf /export/softwares/jdk-8u141-linux-x64.tar.gz -C /export/servers/

cd /export/servers/jdk*

mypath=`pwd`

echo "export JAVA_HOME=$mypath" >> /etc/profile

echo "export PATH=\$JAVA_HOME/bin:$PATH" >> /etc/profile

#安装第二台和第三台的jdk

for m in 2 3

do

scp -r /export/servers/jdk* node0$m:/export/servers

done

#配置第二台第三台的环境变量

for n in 2 3

do

ssh node0$n "echo 'export JAVA_HOME=$mypath' >>/etc/profile; echo 'export PATH=\$JAVA_HOME/bin:\$PATH' >> /etc/profile;"

done

3.刷新环境变量

source /etc/profile

4.验证

java -version

在Linux中进行hadoop集群搭建 在公网IP为x.x.x.x、y.y.y.y和z.z.z.z并装有Centos8的服务器上进行hadoop集群搭建,都安装hadoop-3.1.3和server-jre-8u202-linux-x64。 阅读详情

相关推荐

Linux系统中进行Hadoop的安装与配置和集群的搭建,Hadoop的定义与作用

Hadoop的安装与配置和集群的搭建,Hadoop的定义与作用 Hadoop的定义与作用 hadoop是什么?Hadoop是一种分析和处理大数据的软件平台,是Appach的一个用Java语言所实现的开源软件的框架,在大量计算机组成的集群当中实现了对于海量的数据进行的分布式计算。 Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,则MapReduce为海量的数据提供了计算。 HDFS(Hadoop Distributed File System):Hadoop的

共享,共进步 1224

部署Hadoop之前的准备工作

vmware中文名:威睿可能书中也会带有资源,二维码或者是网站啥的。

weixin_44943389的博客 606

Hadoop+Hive环境的搭建

Hadoop+Hive环境的搭建,在这儿我就不一一介绍Hadoop和Hive了,直接进入正题1. 准备工作:Hadoop,Hive二进制文件下载路径,在这儿我只直接下载的编译好的二进制文件,这样我们直接解压就可以使用了(省去自己编译的过程),里面有很多下载路径。Hive:http://mirror.bit.edu.cn/apache/hive/hive-2.1.1/(注意下载二进制包) Had

小龙 9002

hadoop 复制一个路径/文件夹下的所有内容(含有子文件夹)到另外一个文件夹

hadoop fs -cp /user/file1/* /user/file2/

yangnianjinxin的博客 3万+

YOLOv5轻量化实战:从Ghost模块到工业级部署的完整指南

本文详细介绍了YOLOv5轻量化实战,重点解析了Ghost模块在工业检测中的应用及其优化策略。通过Ghost卷积技术,模型参数量和GFLOPs显著降低,同时保持高精度,适用于实时性要求严格的工业场景。文章还提供了从模型优化到TensorRT加速的完整部署指南,助力开发者实现高效工业级应用。

weixin_28223453的博客 489

Android HWC硬件合成器实战:从SurfaceFlinger到显示驱动的完整流程解析

本文深入解析Android HWC硬件合成器从SurfaceFlinger到显示驱动的完整流程,揭示HWC如何优化图形性能并降低功耗。通过实战案例和调试技巧,帮助开发者掌握硬件加速的图层混合技术,提升移动设备的显示效率。

gaochao的博客 494

在linux中安装hadoop(详细)

一、 虚拟机安装 前置:安装vmware 1.1安装虚拟机-Linux 1. 点击新建虚拟机,选择自定义 2. 虚拟机兼容性默认即可 3. 客户机操作系统选择稍后安装操作系统 4. 选择客户机操作系统选择Linux,版本我选择了Red Hat Enterprise Linux 6 64位 5. 选择虚拟机位置和名称 6. 处理器配置把每个处理器的内核数量改为2 7. 设置虚拟机内存 8. 使用NAT网络 9. 控制器类型选择推荐 1...

weixin_51705319的博客 6338

Lumerical官方案例、FDTD时域有限差分法仿真学习(十八)——Y分支粒子群算法优化

组件优化是任何致力于开发高性能光子器件的设计过程的关键步骤。 此绝缘体上硅 Y 分支示例演示了适用于任意优化例程的通用组件形状参数化方法。 此示例中的算法是 Lumerical 的内置粒子群优化 (PSO),可通过用户界面轻松设置。 此外,建议的优化过程展示了如何将 varFDTD 与全 3D FDTD 求解器相结合,以显着减少优化时间,同时保持高精度。

weixin_45719141的博客 1万+

从 Linux 安装到 Hadoop 环境搭建全过程

从 Linux 的最小化安装到 Hadoop 环境的搭建,尽可能详尽介绍每个步骤。

奇妙的代码 1万+

NPP/VIIRS夜间灯光数据:从下载到应用的完整指南

本文提供了NPP/VIIRS夜间灯光数据从下载、处理到应用的完整实战指南。详细介绍了如何从官方源获取数据、解读文件结构、进行坐标校正与数据清洗,并深入探讨了其在城市扩张监测、社会经济指标估算、重大事件影响评估等领域的核心应用。文章旨在帮助研究者与从业者快速掌握这一强大的空间数据,将其转化为研究中的实用工具。

gpu4optimizer的博客 862

【Java基础篇】Java重要特性,JDK,JRE,JVM区别和联系,环境变量

JDK使用时的执行流程: • 开发者视角(需要开发java程序):需要安装JDK a. 首先使用JDK调用Tools&Tool APIs(开发者工具)编写好Java程序--xxx.java b. 再次调用Tools&Tool APIs中的javac.exe(编译程序)来编译.java文件(将java文件编译成字节码.class文件) c. 调用java.exe来启动JRE d. 在JRE上运行JAVA字节码(加载特定的.class文件,调用这个class文件中的main方法

Yaoyao2024的博客 2163

#<学习笔记> hadoop/Linux环境的准备和搭建(在Windows11下)

1.本文的第一部分- - -修改IP地址后可能会遇到的问题中,有ping不通的常见解决办法2.如果最终还是ping不通,也可以重建一个新的虚拟机,编辑VMware的网络,修改Windows的主机映射(hosts文件),二、三部分为具体步骤,实测有效。3.以下步骤也为 hadoop/Linux环境的准备和搭建(在Windows11下)4.对该内容的学习来源于尚 gui 谷的公开课,由于个人经验有限,想进一步学习和动态了解详细过程,可以去观看他们的视频,加油。

m0_64445490的博客 1万+

ESP32-C3入门教程 环境篇③——VS Code IDE快速入门

文章目录一、安装Visual Studio Code二、安装扩展三、配置ESP-IDF 插件四、创建工程五、配置工程5.1 选择目标芯片5.2 项目配置六、编译工程七、固件分析七、固件下载八、串口日志九、单步调试 一、安装Visual Studio Code 下载并安装Visual Studio Code 二、安装扩展 左侧扩展 搜索espressif 点击安装 三、配置ESP-IDF 插件 按下F1按键 输入configure esp-idf extension EXPRESS,如果你

8302

Hadoop环境搭建

Hadoop大数据Hadoop环境搭建一、基本配置二、任务部署三、Hadoop搭建的安装包四、知识讲解简单说明:VMware版本:linux版本:1、linux系统的安装:1、安装VMware2、linux虚拟机配置ios3、linux虚拟机设置网络配置4、克隆虚拟机5、克隆机更改ip地址2、安装大数据集群环境基本配置1、三台虚拟机关闭防火墙2、三台虚拟机更改主机名3、三台虚拟机更改主机名与ip映射地址4、三台虚拟机添加普通用户。

weixin_70601857的博客 1967

【YOLO系列】YOLOv4详解:模型结构、损失函数、训练方法及代码实现

摘要:YOLOv4在目标检测领域实现了精度与速度的平衡,通过CSPDarknet53骨干网络、SPP+PANet特征融合及CIoU损失函数等创新,在MS COCO数据集达到65.7% AP50,V100显卡实现62FPS实时检测。核心优化包括Mosaic数据增强、自对抗训练和解耦头结构,显著提升小目标检测和遮挡场景鲁棒性。代码实现采用CSP模块和SPP多尺度池化,兼顾计算效率与检测性能,为工业落地提供高效解决方案。(149字)

一碗白开水一 1357

PCB仿真软件:Altium Designer_(18).PCB设计中的热管理

在PCB设计中,热管理是一个至关重要的环节。随着电子设备的集成度越来越高,功耗和发热量也随之增加,不合理的热设计可能导致电路板过热,从而影响电路的性能和可靠性。热管理不仅能够提高电路板的使用寿命,还能确保电路在各种环境条件下的稳定工作。本节将详细介绍如何在Altium Designer中进行有效的热管理,包括热分析、热设计和热仿真等关键步骤。

kkchenjj的博客 1985

【大数据】Hadoop环境搭建图文教程(VM安装教程+Linux环境下配置+搭建三节点的Hadoop集群)

大数据Hadoop环境搭建 一、基本配置 准备一台内存最少8G(建议16G)、cpu i7 4核的电脑 二、即将完成的任务 安装虚拟化软件VMware 准备3台linux虚拟机 搭建3节点的hadoop集群 按《虚拟化与云计算(第3版)》课本描述,实际上可以只搭一主一从两台虚拟机即可 笔者是因为大数据学习需求,会相对详尽 三、实验背景 笔者自己大数据学习需要搭建 虚拟化与云计算这门课程也有实验要求 四、知识要点 文档说明: 在学习大数据课程的全程中,要求大家统一保持跟老师一样的

学无止境,勤则可达;志存高远,恒亦能成! 8516

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

linux搭建hadoop集群

  Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统( Distributed File System),其中一个组件是HDFS(Hadoop Distributed File System)。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据

weixin_52115456的博客 6512

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

hadoop平台伪分布环境的搭建

hadoop平台伪分布环境的搭建 一:准备工作: 1.确保当前操作系统中已经安装jdk 2..准备hadoop的安装包 3.开始安装: 1.修改当前主机的主机名: 2.安装hadoop 3.配置hadoop 4. 进入hadoop配置文件的路径: 4.启动hadoop平台 1.将主服务器进行格式化 2.启动hadoop平台 3.查看所有进程是否启动成功 5.报错解决

lr2364385618的博客 2404

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

linux搭建hadoop环境

一、搭建思路 1. 拥有配置好的Linux操作系统 2. 将hadoop2.7.2.tar.gz 和jdk1.8.0_144.tar.gz 3. 配置jdk和hadoop的环境变量 4. 配置hadoop的相关配置 5. 启动并且访问web页面 二、环境说明 1. 物理机win10系统 2. 虚拟机LinuxCentOS6.10 3. Hadoop版本 hadoop2.7.2 4.jdk版本 j...

北暖的博客 1224

linux系统——hadoop环境搭建

一、环境准备 1)jdk(hadoop是由java语言编写的) 2) 防火墙关闭(iptables,selinux) 3)设置主机名,以及ip映射 4)设置时钟同步 5)设置免密登录 6)windows配置ip映射 说明:具体操作参照上两篇博客(集群环境搭建和zookeeper搭建) 二、搭建hadoop集群 1、解压hadoop的cdh预编译版本的安装包到esport/server 2、进...

小白学编程 4581

超详细Hadoop环境搭建(一)——Linux的安装

在安装之前,我们需要准备:Linux镜像文件、VMWARE虚拟机 下面以CentOS 6.5为例进行安装 一、 创建虚拟机 1. 以管理员身份打开VMWARE软件 2. 选择创建新的虚拟机

han的博客 4962

Hadoop3.0集群环境搭建

1 前言 项目中大部分数据存储在Hadoop分布式文件系统(HDFS)中,包括MPI并行用到的原始数据,因此我搭建了Hadoop集群进行测试。距离我搭建Hadoop集群也有几个月了,当时只记录下了主要步骤,有些细节可能被遗忘。不过我会用最通俗的语言还原搭建Hadoop3.0集群的流程,尽可能保证所有读者在看了我的文章后可以成功搭建出Hadoop集群。 2 准备工作 集群中两个节点(m...

secyb的博客 5510

Linux环境下搭建Hadoop平台

一、 虚拟机及ubuntu安装 参考这位博主所写 “在Windows系统下安装VirtualBox与Ubuntu的详细教程” https://blog.youkuaiyun.com/zcooa/article/details/80615743 二、 Hadoop安装前的准备工作 在linux下新建一个名为hadoop的新用户: 打开终端 输入命令sudo useradd -m hadoop -s /b...

Honiyo的博客 1659

基于linux平台的Hadoop完全分布式集群搭建

前一段因为课设搭建了基于linux的Hadoop集群,现将搭建过程记录如下,如有错误,望不吝指出。 注:下文从自己的课设报告中直接粘贴下来的,可能有些格式问题。 环境搭建        因为此次课程设计需要用到多台主机,所以选择在虚拟机中完成。三台虚拟机系统均选择Ubuntu16.04。虚拟机分配2G内存,100G硬盘,单个网络适配器,网络连接方式选择nat方式。大致情况如下图所示 ...

s77的博客 4316
上一篇: Linux的基础常用命令
下一篇: Shell基础操作
RZH_long
博客等级 码龄6年 17粉丝 51原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值