Centos 环境安装配置hadoop

hadoop完全分布式集群搭建步骤 观看此文档的基础为已经在VMWare WorkStation Pro里面安装好了一台centOS 7.最好是最小安装版本的.(最好在磁盘预留30G左右空间用于安装三台虚拟机) 阅读详情
目的:安装hadoop
Hadoop是需要在java环境下面运行,所以,首先要保证你的系统下面装有JDK。那么步骤是:配置SSH——安装JDK——安装hadoop(当然你愿意先安装它也完全没问题)——配置java的环境变量(需要知道java的安装路径)——配置namenode下面3个配置文件——格式化hadoop——启动hadoop。
我们用一般用户登录,然后切换到root下面,因为权限的问题,这样相比下会更安全点,注意linux下面尽量不要用root登录。

 
开始了
所需软件
CentOS、Java、Hadoop安装软件。本人用的版本为Linux Cent OS 5.5、jdk1.6.0_13、hadoop-0.20.2.tar.gz。
 
我们要提醒一下,linux下面很注意权限问题。我们应该以一般用户登录,然后切换至root用户才能使用某些命令,并能使系统处于相对安全的状态。

所以做如下处理,来切换到root用户。



1. SSH无密码验证配置(更建议放到最后一步进行,为非核心步骤,只是方便而已)
Hadoop 需要使用SSH 协议。
namenode 将使用SSH 协议启动 namenode和datanode 进程,配置 SSH localhost无密码验证。

(1)生成密钥对



 前面是为了切换到root下面
通过以上命令将在/root/.ssh/ 目录下生成id_rsa私钥和id_rsa.pub公钥。

(2)进入/root/.ssh目录在namenode节点下做如下配置:

cat id_rsa.pub > authorized_keys

   可以用键入ssh localhost命令来看已经连接,会有这样的显示



注意最后一行!跟第一行比较,发现我们用ssh进入到localhost了!但已不需要输入密码了。(这样说你们也一定不知道,如果把这个放到最后一步做就会更懂。)
本人认为这样设置会发现后面操作不会让你老是输入密码,并非核心步骤,大家可以试试先配置其它的,再到这一步,就明白为什么了。

2.安装JDK
(1)下载JDK
建议到sun的官网上下载,地址如下:
https://cds.sun.com/is-bin/INTERSHOP.enfinity/WFS/CDS-CDS_Developer-Site/en_US/-/USD/ViewFilteredProducts-SingleVariationTypeFilter
选择jdk-6u24-linux-i586.bin
(2)安装JDK

我把它装在/opt里面,所以切换到/opt下面。在命令行输入如下指令来执行JDK文件:


   权限有问题!我们看看它的权限


没有可执行的x标志,那么我们可以通过命令改变。如下操作:



    看到没,变成绿色的了。有人是把所有者、组、其他用户对该文件的权限都设置为可执行,不过我在这就只让它能被所有者执行就行了。(该文件可能不管紧要,其他重要的文件,我认为不能像他们那样设置。)

    现在我们再执行它


(注意系统是64 位还是32 下载对应版本 不然安装会出错)


没有问题了吧,在开始解包了。
(1)Java环境变量配置
    输入vim /etc/profile,添加如下的内容(在此我建议所有的都编辑都用vim取代vi,因为它有颜色变化,有语法问题的话很容易发现。)



    保存好退出后,我们需要改变一下改文件的权限,并执行一下该文件使配置生效。(注:大家一定要小心版本和路径啊,)



配置完后执行java –version



    显示java的版本

3. 安装hadoop
   (1)下载hadoop

    到如下网址下载hadoop,存到/opt中,当然也可以手动点击下载。



(2)解压hadoop到/opt/hadoop下面,当然没有现成的opt/hadoop这个目录,所以要新建。



然后解压到/opt/hadoop下



3.1   进入/opt/hadoop/hadoop-0.20.2/conf,配置Hadoop配置文件。

(1)配置java环境:修改hadoop-env.sh文件



     在最后加上这样的内容



(2)配置Namenode的三个配置文件core-site.xml, hdfs-site.xml, mapred-site.xml。对应于/src/core/core-default.xml,但不能直接修改它,(hadoop启动时先读取src下面的core/core-default.xml,hdfs/hdfs-default.xml,apred/mapred-default.xml,里面缺失的变量由conf下面的三个-site文件提供)
这部分的配置建议参考官方网站(建议大家多上官网),如下:http://hadoop.apache.org/common/docs/current/single_node_setup.html
 (2.1)配置core


(2.2)配置hdfs


(2.3)配置mapred



4、启动hadoop
(1)格式化namenode,(注意看清路径哦)

(2) 启动Hadoop守护进程


版本查看 配置完毕!


这就表示你配置成功了,上面的一个都不能少

(启动如果只有四个缺少Datanode 等的 进入logs 查看错误日志 out 不需要看 如果是显示locakhost 冲突不能解析的 就设置 冲突域到 /etc/hosts 加入本地回传地址 )



再重新格式化hdfs 系统

bin/hadoop namenode -format



Linux centos7下Hadoop环境的配置安装 文章目录2.1 Hadoop环境的安装配置2.1.1 增加管理员权限2.1.2 配置ssh无密码登录2.1.3 安装java环境2.1.4 安装hadoop2.1.5 配置单机模式2.1.6 伪分布模式2.2 HDFS和MapReduce基本操作2.2.1 创建HDFS用户目录2.2.2 上传文件到HDFS目录2.2.3 运行hadoop实例2.2.4 启动yarn 已经装好了centos7的虚拟机,创建了用户hadoop。 同时,已经设置好了固定IP(ifconfig)为192.168.164.32 使用 阅读详情

相关推荐

虚拟机CentOS环境下Hadoop伪分布模式的安装与配置问题总结

本人初次接触Hadoop,在环境和文件配置的过程中遇到了一些问题,下面把本人认为重要的配置过程进行简略总结。首先在VMwareWorkStation中新建一个虚拟机,接着配置IP地址,在命令行中输入:vi /etc/sysconfig/network-scripts/ifcfg-eth0;配置完成后输入:service network restart,完成网络重启;测试能不能ping通网关,pin...

凌宇慕枫的博客 830

CentOS中Hadoop的安装配置简略教程

http://主节点IP地址:808//cluster。重启三台电脑,重启后在终端Shell。中区分三台主机,修改其显示的主机名,执行如下命令。http://主节点IP地址:9870。三台机器的名称和IP。如果出现如下图,说明连接成功。无密码登录本机和访问集群机器。自动跳转到cluster页面。来测试三台电脑的连通性。中才会看到机器名的变化。

weixin_55280439的博客 5101

centOS安装Hadoop时环境变量JAVA_HOME配置

Hadoop安装单节点的官方文档戳这里????Hadoop: Setting up a Single Node Cluster. 但是环境变量JAVA_HOME的配置是依据具体情况的,而这点在官方文档中没有明确的叙述。 通常情况下JAVA_PATH应该被设置为/usr/lib/jvm中的jdk,可以通过ls /usr/lib/jvm命令查看 明确需要指向的jdk的文件名,JAVA_HOME应该被设置为/...

ZhifanSk的博客 1583

CentOS下Hadoop搭建

本文章以记录自己所学,供大家参考。

土豆~的博客 2619

hadoop3.1.1在centos6.8上的分布式安装 及 spark yarn 模式安装 及 pyspark环境配置

基础环境 centos6.8 hadoop-3.1.1.tar.gz spark-2.3.0-bin-hadoop2.7.tgz zookeeper-3.4.9.tar.gz pip-18.0.tar.gz setuptools-40.2.0.zip 三台服务器 10.0.0.11  s11 10.0.0.12  s12 10.0.0.13  s13 准备工作 以下操作均使...

sjzsu的专栏 1127

hadoop-fuse-dfs安装.docx

CDH hadoop-fuse-dfs的安装指导,是我在工作过程中安装步鄹的总结。

CentOS 7系统中hadoop的安装和环境配置

9.10.11. YARN 框架运行环境12.13.14.15.16.(2)(3)jps应看到以下进程:NameNodeDataNode17.(1)HDFS:YARN:(2)(3)18.

zfh2626的博客 1036

centos7下配置hadoop分布式环境完整版

centos7下配置hadoop分布式环境完整版,比较详细,如有不懂的可到http://www.cnblogs.com/caijh/下留言呢谢谢

从零搭建Hadoop——2.centos集群环境变量配置

一、系统环境配置 1.修改hadoop用户权限 我们使用的是hadoop用户,为了得到与root用户一样的权限,从而在使用一些命令时只需要在命令前面加sudo,而不需要切换到root用户,于是我们给hadoop用户添加权限 1.1 切换到root用户 1.2 修改sudoer文件 1.3 添加以下内容 1.4 退出登录 2.关闭防火墙 如果开启防火墙,集群节点通信时会受到干扰,因此我们把防火墙关闭 2.1 关闭防火墙 2.2 禁止防火墙开机启动 3.设置固定IP 如果IP地址不固定,后期万一IP

qq_52491380的博客 879

基于深度学习卷积神经网络的医学图像乳腺癌分类

一、项目背景与意义乳腺癌是女性最常见的恶性肿瘤之一,其早期发现和治疗对于提高患者的生存率和生活质量至关重要。然而,乳腺癌的诊断通常依赖于医生的经验和主观判断,这不仅耗时而且可能存在误差。近年来,深度学习技术特别是卷积神经网络(CNN)在图像处理领域取得了显著进展,为乳腺癌的自动分类提供了新的解决方案。本项目旨在利用深度学习卷积神经网络构建一套高效、准确的医学图像乳腺癌分类系统,辅助医生进行乳腺癌的早期诊断和治疗。二、技术实现。

2301_79810943的博客 976

从零开始用Plaxis 2D设计深基坑支护结构:含地锚与桩墙实战教程

本文提供了一份基于Plaxis 2D的深基坑支护结构设计实战教程。教程以钻孔灌注桩排桩结合预应力锚索的典型支护体系为例,详细阐述了从地质模型建立、材料参数定义(重点介绍硬化土模型)、施工阶段模拟(含开挖、锚索施加预应力和地下水渗流固结耦合分析)到结果解读与设计优化的全流程。旨在帮助岩土工程师掌握数值模拟核心,实现从经验设计到量化分析的跨越。

kotlin6android的博客 504

Centos 7 环境安装、配置Java、Hadoop

Centos 7 环境安转、配置Java、Hadoop

weixin_43651217的博客 772

vesta软件_分子动力学计算实战:利用 OVITO 软件找弗伦克尔缺陷和位错环分析

今天继续和大家分享这篇纯分子动力学(MD)的 Nat. Comm. 文章(DOI:10.1038/s41467-018-07102-3)。上期推文(从一篇 Nat. Comm. 学习经典分子动力学基本知识和相关软件基本操作 (一)),我们借用该文章的 fig.1 简单介绍了如何用文中所提到的 LAMMPS 软件来实现材料中级联碰撞过程。但是,想完整的展示类似该文章的 fig.1,单纯利用...

weixin_39524842的博客 5982

CentOS7下Hadoop的环境配置及其安装

在CentOS7.4环境下安装伪分布式的Hadoop环境(因为只有一台电脑,而且还是在VMware虚拟机上运行,计算机的原因无法带动多个虚拟机) 一、事前准备 1、关闭防火墙 注:如果不关闭防火墙,会出现以下几种情况: ·hdfs 的web 管理页面,打不开该节点的文件浏览页面 ·后台运行脚本(HIVE 的),会出现莫名其妙的假死状态 ·在删除和增加节点的时候,会让数据迁移处理时间更长,甚至不能正...

qq_45480056的博客 533

kernel: TCP: out of memory -- consider tuning tcp_mem 问题处理记录

参数名 说明 net.ipv4.tcp_max_tw_buckets = 6000 系统同时保持TIME_WAIT套接字的最大数量,如果超过这个数值将立刻被清楚并输出警告信息。默认值为180000。对于squid来说效果不是很大,但可以控制TIME_WAIT套接字最大值,避免squid服务器被拖死。 net.ipv4.tcp_rmem = 4096 87380 4194304 接收窗口的最大大小...

weixin_46691674的博客 6893

不只是CPU主频:深入解析英飞凌Aurix TC3xx各外设时钟树(CAN、以太网、Flash时序如何配置)

本文深入解析英飞凌Aurix TC3xx系列微控制器的外设时钟树配置,涵盖CAN、以太网和Flash时序的优化方法。通过详细分析时钟系统架构、关键外设配置及多外设协同设计策略,帮助工程师实现高性能汽车电子控制单元(ECU)开发。特别关注系统时钟的灵活配置与EMC优化技巧,提升系统实时性和可靠性。

weixin_29189373的博客 400

【Linux】Linux上的一些软件安装与环境配置(Centos7配置JDK、Hadoop)

Linux系统:Centos7安装JDK并配置环境变量、安装Hadoop并配置环境变量

低调做人,低调编码,神码都是浮云 1535

【NLP】第十五章:隐马尔可夫——前向算法、后向算法、维特比算法、Baum-Welch算法

就是好比我现在知道了观测序列Observations、掩藏序列States,我试着去学一个最优的(π, A, B),让在这个(π, A, B)下,观测序列Observations、掩藏序列States的概率最大。(2)矩阵B就更好理解了,矩阵B的第一行表示我已经抽取的是盒子1,那我抽取白球的概率就是0.4,抽取黑球的概率就是0.6了,因为第一个盒子只有4白6黑嘛。三是,由于每次抽取的小球的颜色的概率不仅取决于,小球所在的盒子中的黑白球的比例,还取决于你是从哪个盒子中抽的,所以其实观测序列还对应着一个。

因为热爱所以坚持 1162

【毕设环境】配置Centos6、安装Hadoop伪分布

** 安装Centos6 ** 一、下载Centos6.10安装包,链接。在VMWare中进行安装。 二、 设置虚拟机固定ip 编辑->虚拟网络编辑器->设备NAT模式->查看网关。 虚拟机右击->设置NAT模式 2. 修改网卡配置。编辑:vi /etc/sysconfig/network-scripts/ifcfg-eth0 3. 修改网关配置。编辑:vi /e...

YOYO的博客 286

如何理解下一代ERP 即:华为MetaERP

如何理解下一代ERP 即:华为MetaERP 华为的 MetaERP核心定位: 华为MetaERP是华为公司自主研发的下一代企业核心商业管理系统。它不仅仅是一个传统的ERP(企业资源规划)系统,更是一个面向未来、基于云原生、AI驱动、安全可信的企业核心管理平台。

金牌架构师 1142

【LLC快速上手系列】LLC轻载时:开关频率 + 死区时间 联合优化!

轻载优化,频率别飞天,死区要有耐心。两手一起抓,效率高到笑。😎。

weixin_43199439的博客 1183

CentOS下 安装配置hadoop环境--单实例版

CentOS下1、安装linux2、安装jdk[root@Cent0S1 ~]# javac //显示信息[root@Cent0S1 ~]# rpm -qa |grep jdk //查看是否有安装包 [root@Cent0S1 ~]# which java //查看Java命令位置/usr/bin/java[root@Cent0S1 ~]# javac -version //查看Ja...

weixin_33963189的博客 309

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

在VM上安装centOS7&配置Hadoop环境

主要内容: 1.安装虚拟机和centOS7。 2.理解Hadoop的体系结构。 3.配置Hadoop集群 写在开头(相关软件下载link和参考的博客) VMware软件的安装 https://blog.youkuaiyun.com/sehejs_a/article/details/80633379 这个博客有VMware正版软件的下载地址和激活密钥 centOS7镜像下载: https://www.cento...

Wood_Du的博客 2270

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

centos7 安装hadoop-2.7.3、配置伪分布式环境

环境要求: JDK1.8 hadoop-2.7.3.tar.gz 1、安装JDK1.8 参考方法如下: rpm -qa | grep java | xargs rpm -e --nodeps yum install java-1.8.0-openjdk* 2、新建一个目录soft,wget下载Hadoop安装包 cd~ mkdir soft cd soft wget https://archive.apache.org/dist/hadoop/common/hadoop-2.7.3/hadoop-2.

你好帅(上局上段) 494

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

CentOS7环境下伪分布式安装配置hadoop

CentOS7环境下伪分布式安装配置hadoop(一) 设置静态IP地址(二) 修改主机名(三) 设置ssh免密登录(四) 解压安装包(五) 配置环境变量(六) 配置hadoop文件(七) 格式化namenode和启动hadoop(八) 测试hdfs和yarn (一) 设置静态IP地址 cd /etc/sysconfig/network-scripts vim ifcfg-ens33 修改IP...

Cherish丶的博客 599

【Hadoop】在Centos环境下配置Hadoop的集群安装(同步更新)

开发环境: 本环境是基于centos 为系统环境。三台虚拟机,分别为master ,slave1 ,slaves2 。适用于hadoop 2.x.y 版本,省略Hadoop压缩包解压过程。 第一步 虚拟机的安装: 1.安装Vmware WorkStation 或者 Visualbox ,在这里以Vmware Workstation为例 2.找到 新建虚拟机向导,一路...

weixin_30757793的博客 112
上一篇: Ubuntu 上配置hive
下一篇: Centos 利用sqoop从sqlserver导入数据到HDFS或Hive
雪岢奇
博客等级 码龄17年 310粉丝 60原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值