安装hadoop

先决条件

安装jdk

安装

下载hadoop发布包(apache官网)

解压下载后的压缩包

运行hadoop程序前指定JAVA_HOME,如果系统JAVA_HOME环境变量已经正确设定则无需进行其他配置,通常在/etc/profile启动脚本中设置。

创建一个指向hadoop安装目录的环境变量HADOOP_INSTALL,并将其加入PATH;

输入hadoop -version验证安装是否成功。


配置

hadoop的各个组件均用xml配置:

core-site.xml配置Common组件

hdfs-site.xml配置HDFS属性

mapred-site.xml配置MapReduce属性

这些配置文件在conf子目录中


Hadoop运行模式

独立模式(standalone)

无需任何守护进程,所有程序运行在一个JVM中,调试方便,适用于开发阶段。

伪分布模式(pseudo-distributed model)

Hadoop守护进程运行在本地机器上,模拟一个小规模集群

完全分布式模式(fully-distributed model)

Hadoop守护进程运行在一个集群上。


在特定模式中运行Hadoop,需要关注两个因素:正确设置属性和启动Hadoop守护进程。

在本机模式下使用本地文件系统与本地Mapreduce作业运行器。在分布式模式下启动HDFS和MapReduce守护进程。

不同模式属性设置见下图所示:

本机模式

由于默认配置文件专为本模式所设置,所以无需进行其他设置。

伪分布式模式

分别按上图设置core-site.xml,hdfs-site.xml,mapred-site.xml文件。


配置SSH

在伪分布模式下必须启动守护进程,而启动守护进程的前提是已经安装SSH,Hadoop不区分伪分布模式和完全分布模式,它只是启动集群主机集(slave文件定义)的守护进程:SSH-ing到各个主机并启动一个守护进程。在伪分布模式下,主机就是本地计算机。必须确保可以SSH到本地主机,且不需要密码即可登录。


格式化HDFS文件系统

在使用hadoop前必须格式化一个全新的HDFS。通过创建存储目录和namenode持久化数据结构的初始版本,格式化过程中创建一个空的文件系统。由于namenode管理文件系统的元数据,而datenode可以动态的加入或离开集群,因此格式化过程中不包括datanode。同样,用户也无需关注文件系统规模,集群中datanode的数量决定文件系统的规模。

格式化文件系统键入如下命令:

hadoop namenode -format

启动和终止守护进程

为启动守护进程键入如下命令:

start-dfs.sh

start-mapred.sh

本地计算机将启动三个守护进程:namenode,辅助namenode以及datanode。可以浏览logs目录中的日志文件检查启动是否成功,或通过web页面:在 http://localhost:50030/查看jobtracker或在http://localhost:50070/查看namenode.此外java的jps命令也能查看守护进程是否在运行。

终止守护进程键入如下命令:

stop-dfs.sh

stop-mapred.sh

内容概要:本文介绍了ENVI Deep Learning V1.0的操作教程,重点讲解了如何利用ENVI软件进行深度学习模型的训练与应用,以实现遥感图像中特定目标(如集装箱)的自动提取。教程涵盖了从数据准备、标签图像创建、模型初始化与训练,到执行分类及结果优化的完整流程,并介绍了精度评价与通过ENVI Modeler实现一键化建模的方法。系统基于TensorFlow框架,采用ENVINet5(U-Net变体)架构,支持通过点、线、面ROI或分类图生成标签数据,适用于多/高光谱影像的单一类别特征提取。; 适合人群:具备遥感图像处理基础,熟悉ENVI软件操作,从事地理信息、测绘、环境监测等相关领域的技术人员或研究人员,尤其是希望将深度学习技术应用于遥感目标识别的初学者与实践者。; 使用场景及目标:①在遥感影像中自动识别和提取特定地物目标(如车辆、建筑、道路、集装箱等);②掌握ENVI环境下深度学习模型的训练流程与关键参数设置(如Patch Size、Epochs、Class Weight等);③通过模型调优与结果反馈提升分类精度,实现高效自动化信息提取。; 阅读建议:建议结合实际遥感项目边学边练,重点关注标签数据制作、模型参数配置与结果后处理环节,充分利用ENVI Modeler进行自动化建模与参数优化,同时注意软硬件环境(特别是NVIDIA GPU)的配置要求以保障训练效率。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值