Window10下安装配置Hadoop-2.9.2

Hadoop在window下安装实践 Hadoop在window下的安装教程 阅读详情


一、资源下载

1.下载Hadoop-2.9.2

下载地址:http://archive.apache.org/dist/hadoop/core

2.下载Window环境Bin目录文件

下载地址:https://github.com/steveloughran/winutils

二、安装配置

1.安装文件

将下载到的文件hadoop-2.9.2.tar.gz解压到e:\hadoop-2.9.2

将winutils-master.zip文件中hadoop-2.8.3\Bin目录中的文件解压到e:\hadoop-2.9.2\Bin目录

创建Hadoop存储目录
e:\hadoop-2.9.2\data
e:\hadoop-2.9.2\data\dfs
e:\hadoop-2.9.2\data\dfs\datanode
e:\hadoop-2.9.2\data\dfs\namenode

将e:\hadoop-2.9.2\share\hadoop\yarn\timelineservice\hadoop-yarn-server-timelineservice-2.9.2.jar文件复制到e:\hadoop-2.9.2\share\hadoop\yarn\lib目录下(否则YARN Resourc Manager服务会报错)

2.配置环境变量

配置环境变量HADOOP_HOME
在这里插入图片描述

配置环境变量JAVA_HOME
在这里插入图片描述

配置环境变量PATH
在这里插入图片描述

2.配置Hadoop配置文件

配置e:\hadoop-2.9.2\etc\hadoop\core-site.xml文件

<configuration>
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://localhost:9000</value>
	</property>
</configuration>

配置E:\hadoop-2.9.2\etc\hadoop\hdfs-site.xml文件

<configuration>
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
	<property> 
     	<name>dfs.permissions</name> 
     	<value>false</value> 
    </property>
	<property>
		<name>dfs.namenode.http-address</name>
		<value>localhost:50070</value>
	</property>
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>/E:/hadoop-2.9.2/data/dfs/namenode</value>
	</property>
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>/E:/hadoop-2.9.2/data/dfs/datanode</value>
	</property>
</configuration>

配置e:\hadoop-2.9.2\etc\hadoop\mapred-site.xml文件
将e:\hadoop-2.9.2\etc\hadoop\mapred-site.xml.template文件重命名为mapred-site.xml

<configuration>
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	<property>
		<name>mapred.job.tracker</name>
		<value>hdfs://localhost:9001</value>
	</property>
</configuration>

配置e:\hadoop-2.9.2\etc\hadoop\yarn-site.xml文件

<configuration>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	<property>
		<name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
		<value>org.apache.hadoop.mapred.ShuffleHandler</value>
	</property>
</configuration>

编辑e:\hadoop-2.9.2\etc\hadoop\hadoop-env.cmd文件

set JAVA_HOME=C:\Progra~1\Java\jre1.8.0_192

三、启动服务

格式化HDFS(调出命令行窗口,输入命令hdfs namenode -format)

在这里插入图片描述
启动Hadoop服务(在命令行窗口执行e:\hadoop-2.9.2\sbin>start-all.cmd)
在这里插入图片描述

停止Hadoop服务(在命令行窗口执行e:\hadoop-2.9.2\sbin>stop-all.cmd)
在这里插入图片描述

四、测试服务

在浏览器地址栏中输入:http://localhost:50070查看Hadoop状态
在这里插入图片描述

在浏览器地址栏中输入:http://localhost:8088查看Hadoop集群状态
在这里插入图片描述

创建目录(utilities/ Browse the file system)

在这里插入图片描述

在这里插入图片描述

上传文件
在这里插入图片描述

在这里插入图片描述

Window10安装hadoop分布式配置 第一章 概述 安装jkd1.8 安装hadoop-2.8.5;用hadoop-3.2.1没有安装成功,可能是winutils版本匹配问题; 下载winutils 分布式部署配置四个site.xml文件 格式化namenode 启动hadoop 关闭hadoop 第二章 安装hadoop 下载安装文件 https://mirrors.tuna.tsinghua.edu.cn/apac... 阅读详情

相关推荐

Window(win10)下安装Hadoop3.0.0安装步骤介绍

本文章将详细介绍再win10下安装hadoop3.0.0得详细过程,以及安装成功后,简单得启动和使用,图文并茂。 一、准备工作 1、下载Hadoop3.0.0安装包 Hadoop安装包官网下载地址:http://hadoop.apache.org/releases.html 点进去后如下图,可以看到并没有最新是3.3.0版本,并没有3.0.0.版本的,然后点击红色框框标注的位置。进入Hadoop版本库下载3.0.0版本: 如下版本库: 选择3.0.0版本点进去,下载安装包: 二、解

caopeng721210的博客 2431

Hadoop2.9.2在windows上的安装

1、下载hadoop-2.9.2.tar.gz 官网下载地址:http://archive.apache.org/dist/hadoop/common/hadoop-2.9.2/hadoop-2.9.2.tar.gz hadoop-2.9.2官网文档:https://hadoop.apache.org/docs/r2.9.2 下载完之后,将hadoop-2.9.2.tar.gz 放到任意文件夹(路径别有中文),并解压 2、配置HADOOP_HOME环境变量 3、配置Path环境变量 ..

懵懂无知的蜗牛的博客 3578

Windows 10 安装和配置Hadoop

Windows 10 安装和配置Hadoop 下载最新的Hadoop包。这里假设Java已经安装成功了,各种环境变量也都设置好了。 把文件解压。最好找一个长度短点的路径,不然有时路径里的空格也会引起问题。解压好了就算是安装了。 设置环境变量。新手一定不能因为好多的路径就跳过去这一步,这个是必不可少的。 首先设置名为HADOOP_HOME的System variables (新建点击New...

OdysLL的博客 2699

Hadoop 2.9.2集群安装部署

备前提: 1,关闭防火墙 2,关闭selinux 3,安装jdk 4,修改hosts文件 5,修改主机名与ip的对应关系 6,配置免密登入 需要三台(或以上)能够互相访问到的Linux主机 本实验中的三台主机为同一子网下的三台主机,分别为: 192.168.100.251:作为master,运行namenode、datanode结点 192.168.100.252:作为slave1,运行datanode结点 192.168.100.253:作为slave2,运行datanode结点 本次实验使用的是hado

weixin_44519124的博客 1499

Hadoop学习之——hadoop2.9.2插件编译(已过时)

背景:   Hadoop课上,老师推荐了 hadoop eclipse plugin, 感觉挺方便的。通过一个插件访问HDFS, 比API, HDFS Shell 方式方便许多,当然,它的功能也比较简单。   对于2.9.2版本,网上的资源相对较少,参考了一些文章之后,折腾了几天,终于搞定。本文总结了一些个人经验,希望有所帮助。 主要参考了这两篇: hadoop2.9.2插件编译以及安装 【四...

须尽欢 1066

window环境hadoop客户端安装

一、 安装hadoop2.5.2 下载hadoop2.5.2.tar.gz ,并解压到你想要的目录下,我放在D:\dev\hadoop-2.5.2  二、配置hadoop环境变量 1.windows环境变量配置 右键单击我的电脑 –&gt;属性 –&gt;高级环境变量配置 –&gt;高级选项卡 –&gt;环境变量 –&gt; 单击新建HADOOP_HOME,如下图  2.接着编辑环境变量...

华中师范大学 叶智(Java) 4161

window10安装Hadoop3.1.3

最近做实验需要在Linux系统安装Hadoop,由于我之前就想在window上安装,所以借此机会先在window上安装再在Linux安装。 个人比较喜欢安装比较新的东西,所以选择Hadoop3.1.3 准备工具 : 1、jdk8,这里不要用其他jdk了,会出现一些其他问题的,我用jdk11有些包就找不到,好像jdk9都不行 2、Hadoop3.1.3,官网下载,也可以下载其他的3.0以上的版本,3...

qq_40059532的博客 1万+

Hadoop下载 hadoop-2.9.2.tar.gz

摘要 Hadoop 是一个处理、存储和分析海量的分布式、非结构化数据的开源框架。最初由 Yahoo 的工程师 Doug Cutting 和 Mike Cafarella Hadoop 是一个处理、存储和分析海量的分布式、非结构化数据的开源框架。最初由 Yahoo 的工程师 Doug Cutting 和 Mike Cafarella 在 2005 年合作开发。后来,Hadoop 被贡献给了 Apache 基金会,成为 Apache 基金会的开源项目。 Hadoop 是一种分析和处理大数据的软件平台,是一个用 Java 语言实现的 Apache 的开源软件框架,在大量计算机组成的集群中实现了对海量数据的分布式计算。 Hadoop 采用 MapReduce 分布式计算框架,根据 GFS 原理开发了 HDFS(分布式文件系统),并根据 BigTable 原理开发了 HBase 数据存储系统。 Hadoop 和 Google 内部使用的分布式计算系统原理相同,其开源特性使其成为分布式计算系统的事实上的国际标准。 Yahoo、Facebook、Amazon,以及国内的百度、阿里巴巴等众多

Windows10环境安装hadoop及配置

Windows10环境安装hadoop及配置 一. Windows10环境下安装 1. 下载安装JDK1.8,并配置环境变量,注意:jdk路径不要包含空格,C盘中的Program Files目录名称可用PROGRA~1代替即 2. 下载Hadoop镜像安装文件,下载地址:https://hadoop.apache.org/releases.html 3. 解压Hadoop镜像文件到磁盘目录下,注意:可以解压在非C盘下,存储目录不要包含中文和空格 4...

qq_40278285的博客 1万+

hadoop-2.9.2.tar.gz

Hadoop是Apache的一款开源框架,使用java语言编写,可以通过编写简单的程序来实现大规模数据集合的分布式计算。工作在Hadoop框架上的应用可以工作在分布式存储和计算机集群计算的环境上面。 Hadoop具有高扩展性,其集群能够从单台机器扩展到数千台机器。 Hadoop 采用的是Apache v2协议,Hadoop基于Google发布的MapReduce论文实现,并且应用了函数式编程的思想。

hadoop-2.9.2-src:hadoop

hadoop-2.9.2-src:hadoop源码

Window10安装Hadoop 配置步骤

步骤目录为Hadoop准备Java环境下载Hadoop添加Hadoop到系统变量下载便捷配置文件hadooponwindows-masterHadoop配置etc/hadoop/core-site.xmlhdfs-site.xmlyarn-site.xmlmapred-site.xmlhadoop-env.cmd测试运行格式化HDFS启动! 题前话:Hadoop官方认定Hadoop环境最好还是运行...

他的博客 1400

Ansys Lumerical FDTD仿真加速策略与高性能硬件选型指南

本文深入探讨了Ansys Lumerical FDTD仿真的核心加速策略,涵盖算法优化与硬件选型两大维度。通过合理运用非均匀网格、对称边界条件等算法技巧,并精准匹配CPU/GPU计算资源与高性能硬件配置,可显著提升仿真效率,将计算时间从数天缩短至数小时。

a0b1c2d3的专栏 605

Windows 环境下 Hadoop 的安装和配置

Windows环境下Hadoop的安装和配置

ProgramNovice的博客 5623

Stata实战:RCS限制立方样条非线性关系建模与P值解读全攻略

本文详细介绍了在Stata中使用RCS限制立方样条进行非线性关系建模的全过程,包括数据准备、节点设置、COX回归模型构建、结果可视化及P值解读。通过乳腺癌临床数据实例,展示了如何捕捉年龄与死亡风险之间的复杂非线性关系,并提供了实用的Stata代码和图形优化技巧。

weixin_30650039的博客 471

Eplan P8 API二次开发--插入符号(Symbol)功能(Function)并定义属性

1、目的 使用Eplan API在页中自动插入某个符号并按约定规则自动设置好属性 2. 步骤 一、基础信息 比如要在Eplan中自动插入一个电机的符号并定制属性,我们先要确定要插入的符号名,可以在Eplan中获取如下符号(Symbol)信息 可以知道我们待插入的符号名称为M3_1, 接下来,使用Visual Studio建立类库项目,并引用Eplan Api库 二、获取符号变量(SymbolVariant) 在Eplan中,当一个符号(Symbol)被插入到页中,这个符号的引用即变为一个(Function

如是道程序人生 4523

大数据Hadoop之——部署hadoop+hive环境(window10)

文章目录一、安装JDK81)JDK下载地址2)验证二、Hadoop安装1)下载Hadoop3.1.32)配置环境变量3)配置相关配置文件 一、安装JDK8 1)JDK下载地址 http://www.oracle.com/technetwork/java/javase/downloads/index.html 按正常下载是需要先登录的,这里提供一个不用登录下载的方法 连接如下:https://www.oracle.com/webapps/redirect/signon?nexturl=https://d

匠人精神,持之以恒! 5856

别再死记硬背了!用LabVIEW串口通信的3个真实项目案例,手把手教你从调试到部署

本文通过3个真实项目案例,详细讲解LabVIEW串口通信从调试到部署的全过程。涵盖Arduino温湿度监控、西门子PLC Modbus通信以及高可靠性通信框架设计,提供实用技巧和常见问题解决方案,帮助工程师快速掌握LabVIEW串口通信的实战应用。

weixin_30485379的博客 522

hadoop安装(window10)

一、下载和winutils 1.下载:http://archive.apache.org/dist/hadoop/core/ 官网下载:http://hadoop.apache.org/releases.html (提供最新的几个版本) https://github.com/steveloughran/winutils(windows安装需要) 如果出现“Bandwidth limit exceeded”-限制下载,可以用迅雷下载,本人直接用迅雷下载; 或者参考:https://blog...

manmanlu2006的博客 4188

产品竞争策略方法论:构建“差异化 + 结构化 + 系统化”的竞争优势

本文系统探讨了IoT产品竞争策略,指出当前企业普遍存在硬件能力强但商业竞争能力不足的问题。文章构建了五层竞争模型(产品层、体验层、服务层、数据层、生态层),提出五大核心竞争策略(成本领先、差异化竞争、聚焦竞争、生态竞争、数据驱动竞争),并详细阐述了差异化设计方法。通过行业案例分析(小米、苹果、特斯拉)和五步落地方法,强调从硬件竞争向系统优势转变的重要性。文章指出IoT竞争胜负关键在后半场的数据运营和服务延伸,建议企业通过构建差异化能力、完善服务体系、建立数据体系、逐步构建生态来避免价格战陷阱,实现从跟随到领

专注智能硬件软硬件产品经理成长与实战,分享从需求定义到量产落地的真实日记。涵盖IoT趋势洞察、研发协作经验、产品方法论与工具箱,用轻松有趣的“汪式”视角,陪伴产品经理成长、避坑与升级。 359

论文阅读:arxiv 2023 EduChat: A Large-Scale Language Model-based Chatbot System for Intelligent Education

EduChat是一个基于大规模语言模型(LLM)的教育领域聊天机器人系统,旨在为教师、学生和家长提供个性化、公平且富有同理心的智能教育服务。该系统通过在教育语料库上进行预训练和特定任务微调,强化了开放式问答、作文评估、苏格拉底式教学和情感支持等教育功能。为解决领域知识不足和知识更新问题,EduChat采用了检索增强技术,并融入心理学和教育学理论。该项目已开源,提供代码、数据和模型参数,推动LLM在智能教育中的应用发展。

CSPhD-winston的博客 1039

Win10安装配置Hadoop2.10环境

win10安装haddop 2.10.1出现HDFS50070可以访问,yarn8088不能访问,报错yarn java.lang.NoClassDefFoundError 关于timelineservice找不到类的问题。 缺少对应jar包导致,可以找打hadoop-yarn-server-timelineservice-2.10.1 对应版本放入yarn/lib目标即可。 hadoop-2.10.1\share\hadoop\yarn\lib ...

x3553457的博客 1695

YOLO26改进策略【损失函数篇】| AAAI 2025 SD Loss,基于目标尺度动态调整尺度损失和位置损失的影响系数,减少 IoU 标签波动

在红外小目标检测任务里,基于交并比的损失存在波动问题,像边界框(BBox)标签的IoU损失波动最高可达86%,较小目标的IoU损失稳定性更差,严重影响模型稳定性和回归效果。同时,现有损失函数没有充分考虑不同目标尺度下对尺度和位置的敏感度差异,,并且掩码标签的位置损失在处理漏检物体时难以收敛,容易产生误报。这些问题限制了模型在不同尺度目标上的检测性能,为解决这些问题,提出了损失函数。

Limiiiing的博客 393

hadoop2.9安装及配置_安装 Hadoop 2.9.1 on Windows 10 64 bit

1. Java下载Java 1.8 64位版本https://java.com/en/download/. 如果不是64位java,在启动资源节点管理器时会出现错误Java 安装自选目录, 必须是中间不带空格的目录结构:比如 C:\java64安装完成后,使用“java -version”命令在命令行中确认运行了正确的版本C:\Users>java -versionjava version ...

weixin_32572129的博客 475

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

3.Hadoop环境搭建之Hadoop的安装和配置

创建目录name:mkdir /home/hadoop/hadoop-2.7.4/hdfs/name。创建目录data:mkdir /home/hadoop/hadoop-2.7.4/hdfs/data。到指定目录:cd /home/hadoop/hadoop-2.7.4/etc/hadoop。到指定目录:cd /home/hadoop/hadoop-2.7.4/etc/hadoop。创建目录hdfs:mkdir /home/hadoop/hadoop-2.7.4/hdfs。安装包需要提前准备好。

2401_83253656的博客 3734

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

下一篇: SQL Server透视表(PIVOT语法的使用)
wangbin1008
博客等级 码龄22年 2粉丝 7原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值