关于Hadoop2.2.0在虚拟机centOS6.5下的安装配置

Hadoop-2.5.0-cdh-5.3.6搭建手册 Hadoop-2.5.0-cdh-5.3.6搭建手册 搭建前准备: 虚拟机 3台 主节点 1.5G 1CPU 从节点 1G 1CPU 虚拟机容量 30G+ CDH安装包:hadoop-2.5.0-cdh5.3.6.tar.gz JDK :可以准备个,不过作为孤独风中一匹狼,我都是在线安装。Ps: 阅读详情

1、安装虚拟机和centOS6.5

这个比较容易我直接上截图,centOS为64位的。有的虚拟机如果装不了64位的,请自行到BIOS开启VT(虚拟化技术)。

下一步

找到ISO的位置,然后点下一步

输入各项,然后点下一步。

下一步

下一步

完成。

JDK的安装与环境变量的设置

下载jdk
选择一个文件夹下面解压就行,如果是bin的就在该位置运行就行。
[root@localhost java]# jdk-6u45-linux-x64-rpm.bin

配置环境变量。
[root@localhost ~]# vi /etc/profile
在最后面添加  

export JAVA_HOME=/usr/java/jdk1.6.0_45
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
然后按 :wq 保存。
执行 source /etc/profile 让其生效。
验证一下 
[root@localhost ~]# java -version
java version "1.6.0_45"
Java(TM) SE Runtime Environment (build 1.6.0_45-b06)
Java HotSpot(TM) 64-Bit Server VM (build 20.45-b01, mixed mode)

3、设置ssh免密码登录

首先我们建立一个名为hadoop的用户。
useradd hadoop  
passwd hadoop  

再在根目录下建立一个名为hadoop的文件夹。
[root@localhost ~]# mkdir /hadoop

将文件夹授权给hadoop用户
chown -R hadoop /hadoop 


设置Hadoop用户使之可以免密码ssh到localhost
  1. su - hadoop  
  2. ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa    
  3. cat ~/.ssh/id_dsa.pub>> ~/.ssh/authorized_keys  
  4.   
  5. cd /home/hadoop/.ssh   
  6. chmod 600 authorized_keys  
注意这里的权限问题,保证.ssh目录权限为700,authorized_keys为600

验证:
[plain]  view plain copy print ? 在CODE上查看代码片 派生到我的代码片
  1. [hadoop@localhost .ssh]$ ssh localhost  
  2. Last login: Sun Nov 17 22:11:55 2013  
ssh localhost之后无需输入密码就可以连接,配置OK

4、安装和配置hadoop2.2.0

我将hadoop解压到



再把opt文件的权限授权给用户hadoop

chown -R hadoop /opt/hadoop

接着就是配各种文件。
这些文件都在
首先修改core-site.xml
<configuration>  
    <property>    
        <name>fs.default.name</name>    
        <value>hdfs://localhost:9000</value>    
    </property>    
  <property>  
    <name>hadoop.tmp.dir</name>  
    <value>/hadoop/tmp</value>  
  </property>  
  
</configuration>  

接着修改hdfs-site.xml
<configuration>  
<property>    
   <name>dfs.replication</name>    
   <value>1</value>    
 </property>    
  
 <property>    
   <name>dfs.namenode.name.dir</name>    
   <value>/hadoop/nddir</value>    
 </property>    
  
  
 <property>    
   <name>dfs.datanode.data.dir</name>    
   <value>/hadoop/dddir</value>    
 </property>    
  
<property>    
  <name>dfs.permissions</name>    
  <value>false</value>    
</property>  
  
</configuration>  

接着修改mapred-site.xml
<configuration>  
<property>    
    <name>mapreduce.cluster.temp.dir</name>    
    <value></value>    
    <description>No description</description>    
    <final>true</final>    
  </property>    
    
  <property>    
    <name>mapreduce.cluster.local.dir</name>    
    <value></value>    
    <description>No description</description>    
    <final>true</final>    
  </property>    
</configuration>  

接着修改mapred-env.sh
添加
export JAVA_HOME=/usr/java/jdk1.6.0_45
接着修改
yarn-site.xml
默认情况下不用修改

<configuration>

<!-- Site specific YARN configuration properties -->

</configuration>
最后修改hadoop-env.sh
export HADOOP_IDENT_STRING=$USER
export JAVA_HOME=/usr/java/jdk1.6.0_45  
export HADOOP_HOME_WARN_SUPPRESS="TRUE"    

最最后修改/etc/profile
最终如下
export JAVA_HOME=/usr/java/jdk1.6.0_45
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export HADOOP_HOME=/opt/hadoop/hadoop-2.2.0
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

执行(在root下)执行source /etc/profile 让其生效。

验证一下
[hadoop@localhost ~]$ hadoop version
Hadoop 2.2.0
Subversion https://svn.apache.org/repos/asf/hadoop/common -r 1529768
Compiled by hortonmu on 2013-10-07T06:28Z
Compiled with protoc 2.5.0
From source with checksum 79e53ce7994d1628b240f09af91e1af4
This command was run using /opt/hadoop/hadoop-2.2.0/share/hadoop/common/hadoop-common-2.2.0.jar
启动hadoop
启动前先格式化各个节点
[hadoop@localhost ~]$ hadoop namenode -format

最终出现
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at localhost/127.0.0.1
************************************************************/
说明配置已经成功。

启动所有服务。
[hadoop@localhost ~]$ start-all.sh
然后启动.


完成!











hadoop2.5.0-cdh5.3.3 伪分布式安装(mysql、hive、sqoop) 一、准备一台机器(我的是centos 6.7 64位) ----------------------------------------------------------------------------------------------------------- 主机名和ip地址映射: [hadoop@hadoop ~]$ cat /etc/hosts 127.0.0.1 阅读详情

相关推荐

Linux安装Hadoop(图文解说详细版)

0基础Linux安装hadoop

编码人生 5817

Linux环境下hadoop 2.6.0 分布式集群搭建(实战演练)

应用场景 之前介绍了单节点,部署伪分布式hadoop集群,可以作为自己使用,但是真正投入生产环境,伪分布式是不够的,仅仅作为个人研究测试使用,此时我们需要部署搭建hadoop完全分布式集群,此hadoop性能将更加强悍,满足生产需求,下面就搭建Apache Hadoop2.6.0环境演示。 操作步骤 1. 配置网络[每个节点] 网络配置博客 2. 关闭防火墙[每个节点] &l...

kinzxv的博客 644

hadoop基于Linux7的安装配置图文详解

主要介绍了hadoop基于Linux7的安装配置,本文通过图文并茂的形式给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下

linux 安装 hadoop2.6,centos7安装hadoop2.6.1,详细教程

1.我搭建的是三台centos7的环境 首先准备三个centos7(文中出现的所有的链接都是我自己的)centos7下载地址(也可以上官网自行下载):https://pan.baidu.com/s/1Y_EVLDuLwpKv2hU3HSiPDA 提取码:05mi2.安装完成后需要修改ip,都改为静态的ipvi /etc/sysconfig/network-scripts/ifcfg-ens33(有...

weixin_35282700的博客 254

LinuxMint 22.1(Ubuntu24.04)下通过Wine完美运行同花顺远航版的实战指南

本文详细介绍了在LinuxMint 22.1(Ubuntu24.04)系统下通过Wine完美运行同花顺远航版的实战指南。从基础环境准备到深度优化,包括Wine环境配置、同花顺远航版安装、字体显示调优、任务栏兼容性修复等关键步骤,帮助Linux用户高效使用同花顺远航版进行股票交易和行情分析。

weixin_30919429的博客 571

Cursor 团队代码规范与开发规则

本文提出了一套 Cursor 项目开发规范,涵盖代码结构、命名、日志、测试等关键环节,旨在提升代码质量和团队协作效率。核心规则包括:文件不超过2000行、函数不超过80行;变量命名禁用无意义单词;日志只记录关键信息;配置项禁止硬编码;依赖和敏感信息统一管理;核心逻辑测试覆盖率≥80%;Git提交遵循Conventional Commits规范。通过一个车辆数据处理函数的改造案例,展示了从"不规范"到"规范"的代码优化过程,体现了拆分函数、常量管理、错误处理等规范的实际

1256

Linux安装Hadoop超详细教程

首先说明一下,本文的安装教程仅是针对个人的操作经验所写的。可能有些同学安装的时候觉得跟他的不一样,那可能是由于版本不一样所导致的。可以到如下网址下载:http://apache.stu.edu.tw/hadoop/common/hadoop-3.1.1/,即可查看相关信息。然后一个个尝试,我最终找到的HDFS nameNode 的登陆端口是9870。接将jdk的路径放置在hadoop.env.sh里面。注:如果运行Hadoop的时候发现找不到jdk,可以先使用。至此,hadoop的环境就已经搭建好了。

m0_67390788的博客 4155

CorelDRAW 2019安装指南:从下载到激活的完整步骤

本文提供了一份详细的CorelDRAW 2019安装指南,涵盖从下载安装包、检查系统环境到完成激活的完整步骤。文章重点解析了安装过程中的关键选项设置,并分享了首次启动后的优化配置与常见问题解决方案,旨在帮助用户高效、顺利地完成这款经典矢量设计软件的安装与配置。

weixin_29213827的博客 839

vmware安装centos6.4 以及 安装hadoop2.6.0配置

参考 使用VMWare虚拟机安装CentOS6.5系统 Hadoop安装教程_伪分布式配置_CentOS6.4/Hadoop2.6.0 本人已经做过, 完全可行

小小少年eason的博客 289

Unity游戏开发实战:手把手教你用C#实现一个简单的反向运动学(IK)控制器

本文详细介绍了在Unity游戏开发中如何使用C#实现一个简单的反向运动学(IK)控制器。通过建立骨骼层级结构、实现CCD算法和角度限制,开发者可以轻松创建自然的角色动画效果。文章还提供了可视化调试工具和性能优化方案,帮助提升开发效率。

weixin_42523711的博客 244

用V E S C 6-M K V I 第六代调速控制器给VESC电调刷固件

文章摘要:本文介绍了一款先进的电机控制器,具备多项创新技术。核心亮点包括三相电流/电压检测、四象限无缝运行、多模式兼容等先进电机控制技术,以及智能感知与安全保护、高效能电源管理、多样化连接与扩展功能。此外,该控制器支持实时数据监测与用户交互,具备开源生态和工业级可靠性,适用于电动载具、机器人及工业领域。用户需注意散热要求和兼容性提示,可通过VESC-Tool软件进行灵活配置。产品可在常竹科技淘宝店购买,并加入技术交流群获取支持。

2403_89422757的博客 1367

Hadoop新生报到(一) hadoop2.6.0伪分布式配置详解

  首先先不看理论,搭建起环境之后再看;   搭建伪分布式是为了模拟环境,调试方便。   电脑是win10,用的虚拟机VMware Workstation 12 Pro,跑的Linux系统是centos6.5 ,装的hadoop2.6.0,jdk1.8;   1.准备工作   准备工作:把JDK和Hadoop安装包上传到linux系统(hadoop用户的根目录)   系统环境:...

ajnjmeuk16743的博客 117

FPGA实现串口升级及MultiBoot(十)串口升级SPI FLASH实现

采用软核进行串口升级的原因主要有以下几点:1、官方推荐:官方以前也推出了针对逻辑进行升级的程序《XAPP1081_QuickBoot》,但是从今年起(2024年)官方就停止更新相关例程了(详见下面截图),所以采用官方推荐的软核更新;2、简单并具有通用性:针对SPI或者BPI官方都有相关的IP,可应对市场上80%以上的FLASH,并且官方IP通用性极强,只需要修改几个参数就可以对不同厂家的芯片进行升级操作;

OpenFPGA的博客 2000

从零搭建Hadoop环境

软件版本 虚拟机 VMware12 系统 CentOS6.5 1.  安装VMware  2.  VMware新建虚拟机      在选择安装系统选项中,选择“稍后安装操作系统”。 3.  虚拟机环境配置      “内存”采用默认即可;“处理器”核心数量可以根据真实机核数进行更改,勾选虚拟化选项可以映射真实

bz747105456的博客 343

[Python图像识别] 五十二.水书图像识别 (2)基于机器学习的濒危水书古文字识别研究

上一篇文章详细讲解如何利用数据增强方法实现图像数据集的扩充,并以濒危水书作为案例讲解。这篇文章将详细讲解基于机器学习的水书图像识别方法,以图像像素统计为特征开展图像分类讲解,这是最基础的方法,也为后续深度学习图像分类描述提供支撑。基础性文章,希望对您有所帮助!让我们开始吧,且看且珍惜。

杨秀璋的专栏 989

Sigrity Power Tree如何生成电源树操作指导

Sigrity Power Tree可以方便地生成电源树,仅需要网表文件就能将系统的电源树直观的显示出来,生成的电源树文件可以用Power DC,optimizePI进行直流和交流仿真,下面介绍如何生成电源树。Base on [Device_TYPE and VALUE]就是识别网表中器件的Device_TYPE作为power tree中的模型的名字。Allegro layout netlist file,就是从Allegro layout文件中输出的netlist第三方网表文件。如何生成电源树操作指导。

weixin_54787054的博客 1538

Hadoop 2.2.0和HBase 0.98.11伪分布式

安装和整合Hadoop 2.2.0和HBase 0.98.11伪分布式

https://gitee.com/liuyuan185442111/chest-view 1423

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

VMware 虚拟机安装 hadoop 2.6.0 完全分布式集群

  最近连着搭了两次hadoop的集群,搭建的时候也碰到了一些问题,因为之前对linux 不熟悉,经常遇到各种问题和命令忘记写,幸亏有度娘谷哥,这里做一个记录 下次使用的时候用的上   计算机的配置 计算机: G3440 3.3G 双核 8G内存 虚拟机: ...

weixin_30764771的博客 375

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

Hadoop 伪分布式配置

环境:虚拟机VM Centos 6.7 Java:jdk-7u67-linux-x64.tar.gz Hadoop: hadoop-2.5.0.tar.gz IP/Host: 192.168.47.100/bigdata.001.com 设置虚拟机IP/Host 虚拟机 -> 编辑 -> 虚拟网络编辑器 1. 虚拟机设置为NAT模式。 2. ...

DeaSun 632

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

Hadoop安装配置(VMware + CentOS 6.5 64位)

环境 系统环境:VMware + CentOS 6.5 64位。 Hadoop版本:基于原生 Hadoop 2,可适合任何 Hadoop 2.x.y 版本,本文以Hadoop 2.6.0 (stable) 为例。 创建hadoop用户 创建新用户hadoop(推荐) : sudo useradd -m hadoop -s /bin/bash

httzc的博客 1045

hadoop安装过程

一、Vmware14.1的安装:参考博客:https://blog.csdn.net/qq_32786873/article/details/78725247 二、CentOS6.5的安装(安装后不要急着克隆,先把一些共同配置和软件装好):配置:内存1.2G,硬盘40G,注意不要选择中文简体的语言(不利于开发和使用),选择Minimal Desktop模式安装: 主机名为:master ...

weixin_30892987的博客 125

hadoop2.4.1分布式安装结合hbase0.94.23

centos6.5 x86 虚拟机上安装完全分布式hadoop-2.4.1结合hbase-0.94.23一、环境准备:以下3台虚拟机:192.168.1.105 nnnamenode192.168.1.106 snsecondarynamenode/datanode192.168.1.107 dn1...

weixin_34250434的博客 158

Spark修炼之道(进阶篇)——Spark入门到精通:第一节 Spark 1.5.0集群搭建

本节主要内容 操作系统环境准备Hadoop 2.4.1集群搭建Spark 1.5.0 集群部署 注:在利用CentOS 6.5操作系统安装spark 1.5集群过程中,本人发现Hadoop 2.4.1集群可以顺利搭建,但在Spark 1.5.0集群启动时出现了问题(可能原因是64位操作系统原因,源码需要重新编译,但本人没经过测试),经本人测试在ubuntu 10.04 操作系统上可以顺

好读书,每有会意,便欣然忘食。 1003

Hadoop权威指南读书笔记(更新中)

从今天开始,除了Spring之外,研究大数据之Hadoop,着手从Hadoop:The Definitive Guide开始入手,先看看中文版的第二版,如果有时间再看看英文版的第三版吧。 1、首先虚拟机架设CentOS 6.5 64位,安装Java 1.8.0(java 8) 64位 2、依次下载书中实例和所需软件 http://hadoopbook.com/里有相关实例和数据下载,实例版本

归零 827

Hadoop框架搭建问题汇总

Hadoop学习框架搭建问题

MoreAnd摩尔的专栏 507

Hadoop+Spark+Scala+R+PostgreSQL+Zeppelin 安装过程-环境准备

Hadoop+Spark+Scala+R+PostgreSQL+Zeppelin 安装过程前的环境准备。

数据分析 698
上一篇: 一个简单的java回调函数的实现
下一篇: 7月28到8月底的计划
大风_Blog
博客等级 码龄14年 22粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值