hadoop windows安装

Hadoop在window下安装实践 Hadoop在window下的安装教程 阅读详情

 jdk 安装

注意,jdk的安装目录一定不要带空格。如果带了空格,在后面的hadoop,spark安装时会导致他们不识别jdk环境。出现错误。当然,是否带空格对javac,java -version 这类命令没有影响。

如果已经安装完成并且已经带了空格,那么

C:\Program Files\Java\jdk1.8.0_121

变成

C:\Progra~1\Java\jdk1.8.0_121

重开cmd,能够看见启动完成

 

hadoop 安装

hadoop 所有版本

1.选择你想要安装的版本,下载,当然这下载速度可不要说太慢。建议用迅雷或者去找找别的资源。

2.下载hadoop在windows 环境运行所需要的工具。在git上。https://github.com/steveloughran/winutils。

当然在git上下载也不要太折磨人。建议选择码云。https://blog.youkuaiyun.com/a1439775520/article/details/105155813/

这篇博客详细写了如何使用码云下载git代码。当然,如果你网速够好,当我没说。

把工具中的bin目录替换haoop中的bin目录。 并且找到hadoop.dll 放到C:\Windows\System32 下面。

3.把hadoop的bin目录地址加入环境变量。

在path中加入

4.修改etc\haoop下的配置文件

1.core-site.xml

<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>


2.hdfs-site.xml namenode 与datanode目录会自动创建


<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/hadoop/data/dfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/hadoop/data/dfs/datanode</value>
</property>
</configuration>




3.mapred-site.xml.template 变成 mapred-site.xml


<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>



4.yarn-site.xml


<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
</configuration>




5.hadoop-env.cmd   

set JAVA_HOME=C:\Progra~1\Java\jdk1.8.0_121

5.  进入bin目录执行 hadoop namenode -format

6. 进入sbin,执行start-all.cmd

7.进入http://localhost:50070/ 查看

8.在sbin 目录下执行 stop-all.cmd

Spark 安装

https://www.cnblogs.com/chevin/p/11064854.html

看起来写的比我好,坑了。有缘再写 。

Windows环境下安装hadoop (1) hadoop安装包清华园镜像:下载 tar.gz(2) 第三方包 winutils如果报nativeio异常,可以将此包解压至hadoop的bin目录下。 阅读详情

相关推荐

Windows下安装spark+Hadoop

Spark作为一个基于内存的开源计算框架,在这个大数据时代背景下,受到越来越多的开发者的喜爱,相对于Hadoop,Spark拥有对大量数据更快的处理速度,并且易于使用(支持多种开发语言)。比Hadoop具有更多的优点,怎能不让人想去尝试一下Spark的魅力呢? 了解Spark的都知道Spark是用Scala写的,那么要想在windows下来运行Spark少不了的就要先安装Scala。 首先的...

wenyusuran的专栏 5903

【Hadoop】Windows下安装Hadoop(手把手包成功安装)

【实操】Windows下安装Hadoop(手把手包成功安装)

tttzzzqqq2018的博客 5万+

Windows平台Hadoop安装指南

Hadoop是一个由Apache基金会开发的开源分布式存储和计算框架,它被广泛地应用于大数据的存储和处理中。Hadoop的主要特点包括可扩展性强、成本低廉、容错性好、易于扩展。它使得开发者能够轻松地处理大量的非结构化数据,这对于大数据处理具有重要意义。Hadoop命令行工具的使用首先需要掌握其基本命令。这里列举了一些常用的基本命令及其简单示例。hadoop fs:这是一个非常重要的命令集,用于操作Hadoop分布式文件系统(HDFS)。示例:列出HDFS根目录下的所有文件和目录。

weixin_42577735的博客 1154

9个步骤,手把手教你在Windows上安装Hadoop

在Windows上安装Hadoop时经常会出现许多错误,很多用户使用基于Linux的操作系统。本文详细讲述如何在Windows上安装和运行Apache Hadoop,如果遇到了问题,可以参考文章中的步骤进行解决。

u013643074的博客 6981

Windows下的Hadoop安装指南

Hadoop是一个由Apache基金会开发的分布式系统基础架构。它被设计用来从单一服务器到数千台机器上存储和处理大数据。它的核心是Hadoop分布式文件系统(HDFS),它能够存储大量数据,并且能够跨多个计算节点进行并行处理。Hadoop还包含了MapReduce编程模型,用于处理数据的分布式计算。Hadoop采用Master/Slave架构,其中包含NameNode和DataNode两种类型的节点。NameNode负责管理文件系统的命名空间,而DataNode则负责存储实际的数据。

weixin_30820933的博客 797

Windows平台Hadoop安装与配置教程

本文还有配套的精品资源,点击获取 简介:本教程旨在指导用户如何在Windows系统上安装Hadoop,并针对安装过程中常见的"sshd服务启动失败"问题提供解决方案。Hadoop是一个用于处理和存储大数据的开源框架,采用分布式计算模型提升数据处理效率。教程内容涵盖从环境配置、依赖工具安装到服务启动和管理的完整流程,包括设置SSH服务、安装Java开发工具包(JDK)、配置H...

weixin_42124497的博客 1769

大数据开发之windows安装hadoop教程

本文主要介绍如何在windows上安装hadoop

yjjhk的专栏 2330

FOC无刷电机磁编码器机械角度与电角度自动对齐校准及电机极对数自动获取的方法

本文提出磁编码器机械角度与电角度自动对齐校准方法及电机极对数自动获取方案。通过通直流电流使转子定向,读取机械角度并计算电角度偏移量,实现精确对齐;同时利用低速旋转时检测反电动势过零点次数,结合机械角度变化量自动计算极对数。核心算法包括转子定向、偏移量计算、极对数推导等步骤,并提供了基于STM32的C语言实现代码。该方法适用于工业伺服、机器人等高精度控制场景,需注意负载安全、参数调整和误差处理。两种自动化流程可有效解决电机安装调试中的角度对齐和参数识别问题。

qq_29653575的博客 2488

Windows系统下安装Hadoop

前面我们已经讲过了在,还没看过的可以先去了解一下安装流程。今天我们来看一下如何在Window下安装Hadoop,这其实和在Linux下的安装都是大同小异的。下面我们具体来看一下安装步骤。

从事移动开发八年,csdn博客专家,阿里云特邀专家,华为云云享专家,高级网络信息安全工程师,大数据工程师(高级),python技术开发(高级),HarmonyOS 应用开发者高级认证,现在某学校任教。 4万+

数字IC后端PPA优化实战:Innovus中Timing一致性策略与Module Region布局技巧

本文深入探讨了数字IC后端设计中PPA优化的核心挑战,重点解析了Innovus与PrimeTime之间Timing不一致的根本原因。通过实战案例,详细介绍了在Innovus中设置Timing Margin、Derate以及RC Scale Factor等关键策略,以校准时序视图。同时,文章分享了利用Module Region进行物理布局规划的技巧,将关键模块约束在最优区域,并结合Group Path等进阶方法,有效提升时序收敛效率与PPA结果的可预测性。

f9g0h的博客 2687

C语言面试,8道一定会遇到的----关于指针的笔试题详解

C语言面试,8道一定会遇到的----关于指针的笔试题详解

m0_55322924的博客 463

在Windows下安装Hadoop

在Windows下安装Hadoop IT, 技术与技巧 http://blog.openlg.net/index.php/archives/776

Nazarite_wen的专栏 4万+

手把手教你玩转服务器芯片架构​专栏--​​3.5 实战案例:用SystemC搭建一个多核服务器芯片的NoC模型(含流量分配与延迟仿真)​

通过SystemC搭建多核NoC模型,可深入验证流量分配策略与延迟特性。实际工程中需结合FPGA原型验证(如Xilinx Alveo)进行时序收敛分析,并通过参数化设计适配不同服务器芯片需求。

MHD0815的博客 3046

Windows安装Hadoop

1.安装JDK 安装jdk配置环境https://blog.youkuaiyun.com/qq_36535820/article/details/102831841https://blog.youkuaiyun.com/qq_36535820/article/details/102831841 2.安装Hadoop 2.1下载Hadoop 下载Hadoophttps://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/https://mirrors.tuna.tsingh

Vulpes corsac 2012

安卓新奇玩机工具全攻略___联发科MTK v6 限时免费 刷写固件工具操作

摘要:该文介绍一款限时免费的联发科V6刷机工具,支持小米、Vivo、Moto等多品牌设备,包括红米Note14Pro等机型(Klimt/Goya等代码)。工具需注册使用,提供EFS分区备份功能。作者提示工具可能触发杀毒警报,强调禁止非法用途,并说明部分联网工具可能失效。

小马哥的专栏 1318

基于matlab目标雷达横截面建模(附源码)

雷达系统依靠目标反射或散射来检测和识别目标。目标反射越强,雷达接收器返回的回波就越大,从而获得更高的信噪比(SNR)和更高的检测可能性。在雷达系统中,从目标反射的能量由雷达横截面(RCS)决定,定义为sigma代表RCS,R是雷达与目标之间的距离,Es是从目标反射的信号的场强,以及Ei是入射到目标上的信号的场强。通常,目标向各个方向散射能量,RCS是入射角,散射角和信号频率的函数。RCS 取决于目标的形状和构建目标的材料。用于RCS的常用单位包括平方米或dBsm。

珞瑜的博客 3083

hadoop在windows下安装

下载hadoop地址https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/ 这是一个镜像地址,可以找到很多hadoop的版本 我下载的是2.6.5的版本 如果镜像找不到可以换地址找http://hadoop.apache.org(官网) 将下载的hadoop2.6.5解压放在你喜欢的文件夹下 由于在linux和wi...

进行中 7766

A2B V1.0协议学习笔记(A2B System Specification V1.0)

A2B全称是 Automotive Audio Bus 汽车音频总线,主要是解决传统音频总线线多、线重、成本贵等问题。本文是以A2B V1.0规范为准,现在ADI又推出了A2B V2.0,物理层不兼容,采用了QPSK编码方式,后续有时间再更新。A2B总线的优点:支持1主多从的架构(最多10个子节点)支持50Mbps(具体是49.152 Mbps)的高带宽传输以及

qflook的博客 4428

在windows环境下安装hadoop

Hadoop是一个分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。但这个架构是基于java语言开发的,所以要先进行jdk的安装,如果电脑已经配置过jdk或者是曾经运行成功过java文件,那就可以跳过第一步。

m0_51547272的博客 2404

DeepSmote:一种深度SMOTE方法

DeepSmote 一种全新的将深度学习与Smote相结合的过采样方法! 目前在许多领域已经被使用,值得大家关注学习!

走在深度学习前沿的小宋 1447

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

Windows 环境下 Hadoop 的安装和配置

Windows环境下Hadoop的安装和配置

ProgramNovice的博客 5625

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

Windows 系统安装 Hadoop 详细教程

在 Windows 系统下的 Hadoop 安装。可以通过在命令提示符中输入一些 Hadoop 相关的命令来验证安装是否成功,比如等。希望这篇教程对大家在 Windows 系统上安装 Hadoop 有所帮助。如果在安装过程中遇到其他问题,可以在评论区留言讨论。

天冬忘忧的博客 1540

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

Hadoop在Windows下的安装指南

Hadoop在Windows下的安装指南 去发现同类优质开源项目:https://gitcode.com/ 本文详细介绍了如何在Windows系统下安装Hadoop,并确保安装过程顺利完成。通过本指南,您将能够轻松地在Windows环境中配置和启动Hadoop服务。 环境准备 检查Java环境: 确保已安装Java 1.8版本,且安装目录中没有空格。 下载Hadoop相关文件: 下载...

gitblog_06598的博客 1140

Windows环境下安装Hadoop全过程(一条龙服务)

配置完成后,打开终端cmd,进入到进入到hadoop的安装目录:D:\apps\hadoop\hadoop-3.4.1\bin>,输入hadoop version,如果显示Hadoop的版本号,就表示安装成功了。(3)在“系统变量”区域找到名为“Path”的变量,选择它然后点击“编辑”(或鼠标双击它),在“编辑环境变量”窗口中,点击“新建”,然后添加 %JAVA_HOME%\bin。配置完成后,按照本文前面的第1条,“查看是否安装好了Java运行环境(JRE)和java开发工具包(JDK)”,进行验证。

weixin_41612207的博客 5238

windows系统安装hadoop

windows系统安装hadoop 配置环境变量 首先先把hadoop安装包放在指定的目录下,解压之后配置环境变量 右键点击此电脑,选择属性,选择高级系统设置,点击环境变量, 点击新建,然后变量名写上HADOOP_HOME,地址栏里填hadoop安装的路径, 编辑Path路径,新建一条%HADOOP_HOME%\bin,配置完成之后 配置hadoop.dll和winutils.exe 找到对应hadoop版本的winutils.exe和hadoop.dll文件放进hadoop文件里bin目录里

GodXuzzZ的博客 633

windows下安装hadoop

windows下安装hadoop背景环境搭建安装jdk安装Hadoop安装window下编译必须库文件启动Hadoop集群初始化namenode启动HadoopwebUI验证运行wc来进行测试遇见问题 背景 原本使用虚拟机搭建集群,后来因为某些原因,不能使用虚拟机。然后想在一台配置还行的云主机上搭建一下。结果遇见了小坑,希望能给小伙伴搭建的时候提供一些想法。 环境 windows 2019 hadoop 2.9.0 jdk 1.8 搭建 安装jdk 必须依赖jdk,如果已经安装好以及配置好环境变量请跳过

小谷的博客 2649
上一篇: HashMap(红黑树,线程不安全)详解
下一篇: Centos 设置静态ip 并且联网
date-date
博客等级 码龄9年 6粉丝 28原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值