Ubuntu14.04下安装hadoop2.6.0(单机模式)

本文详细介绍如何在Ubuntu系统上创建Hadoop用户和组,并完成Hadoop 2.6.0的安装配置过程,包括安装JDK、SSH免密配置、环境变量设置及WordCount示例运行。
  1. 在Ubuntu上创建hadoop组,在hadoop组内添加hadoop用户

              sudo addgroup hadoop

               sudo adduser -ingroup hadoop hadoop

         2. 为hadoop用添加权限, sudo vi /etc/sudoers,在

root ALL=(ALL:ALL) ALL 这行下面添加

hadoop ALL=(ALL:ALL) ALL

3. 用新增加的hadoop用户登录Ubuntu.以下的操作都是以hadoop的身份操作的。

4.安装ssh:

sudo apt-get install openssh-server

安装完毕用

 ps -e | grep ssh 

查看 sshd 和ssh-agent有没有启动,如果没有启动,用命令

sudo /etc/init.d/ssh start 启动

设置免登录密码, 先生成公钥和私钥:

ssh-keygen -t rsa -P ""

然后

cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

测试一下,用ssh 登录本机:

ssh localhost

登录后退出:

exit

5. 安装JDK

sudo apt-get install openjdk-7-jdk

查看一下安装路径,用于在步骤7设置JAVA_HOME环境变量

update-alternatives --config java 

显示安装的java在 /usr/lib/jvm/java-7-openjdk-amd64/jre/bin/java,我们只取/usr/lib/jvm/java-7-openjdk-amd64部分做为JAVA_HOME.

6. 安装hadoop2.6.0

从官方网站下载hadoop-2.6.0.tar.gz

tar xzvf hadoop-2.6.0.tar.gz

sudo mv hadoop-2.6.0 /usr/local/hadoop

sudo chmod 774 /usr/local/hadoop

7. 配置

7.1 修改~/.bashrc,注意,当前用户是hadoop。追加以下内容到~/.bashrc

#HADOOP VARIABLES START
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
export HADOOP_INSTALL=/usr/local/hadoop
export PATH=$PATH:$HADOOP_INSTALL/bin:$HADOOP_INSTALL/sbin
export HADOOP_MAPRED_HOME=$HADOOP_INSTALL
export HADOOP_COMMON_HOME=$HADOOP_INSTALL
export HADOOP_HDFS_HOME=$HADOOP_INSTALL
export YARN_HOME=$HADOOP_INSTALL
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib/native"
#HADOOP VARIABLES END

使修改生效:

source ~/.bashrc

7.2 修改/usr/local/hadoop/etc/hadoop/hadoop-env.sh,将

export JAVA_HOME=${JAVA_HOME}

修改为:

export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64

8.  WordCount测试

cd /usr/local/hadoop

mkdir input

cp README.txt input

bin/hadoop jar share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar org.apache.hadoop.examples.WordCount input outpu

查看统计结果:

cat output/*

该数据集通过合成方式模拟了多种发动机在运行过程中的传感器监测数据,旨在构建一个用于机械系统故障检测的基准资源,特别适用于汽车领域的诊断分析。数据按固定时间间隔采集,涵盖了发动机性能指标、异常状态以及工作模式等多维度信息。 时间戳:数据类型为日期时间,记录了每个数据点的采集时刻。序列起始于2024年1224日10:00,并以5分钟为间隔持续生成,体现了对发动机运行状态的连续监测。 温度(摄氏度):以浮点数形式记录发动机的温度读数。其数值范围通常处于60至120摄氏度之间,反映了发动机在常规工况下的典型温度区间。 转速(转/分钟):以浮点数表示发动机曲轴的旋转速度。该参数在1000至4000转/分钟的范围内随机生成,符合多数发动机在正常运转时的转速特征。 燃油效率(公里/升):浮点型变量,用于衡量发动机的燃料利用效能,即每升燃料所能支持的行驶里程。其取值范围设定在15至30公里/升之间。 振动_X、振动_Y、振动_Z:这三个浮点数列分别记录了发动机在三维空间坐标系中各轴向的振动强度。测量值标准化至0到1的标度,较高的数值通常暗示存在异常振动,可能与潜在的机械故障相关。 扭矩(牛·米):以浮点数表征发动机输出的旋转力矩,数值区间为50200牛·米,体现了发动机的负载能力。 功率输出(千瓦):浮点型变量,描述发动机单位时间内做功的速率,取值范围为20至100千瓦。 故障状态:整型分类变量,用于标识发动机的异常程度,共分为四个等级:0代表正常状态,1表示轻微故障,2对应中等故障,3指示严重故障。该列作为分类任务的目标变量,支持基于传感器数据预测故障等级。 运行模式:字符串类型变量,描述发动机当前的工作状态,主要包括:怠速(发动机运转但无负载)、巡航(发动机在常规负载下平稳运行)、重载(发动机承受高负荷或高压工况)。 数据集整体包含1000条记录,每条记录对应特定时刻的发动机性能快照。其中故障状态涵盖从正常到严重故障的四级分类,有助于训练模型实现故障预测与诊断。所有数据均为合成生成,旨在模拟真实的发动机性能变化与典型故障场景,所包含的温度、转速、燃油效率、振动、扭矩及功率输出等关键传感指标,均为影响发动机故障判定的重要因素。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

西皮幽

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值