mac配置hadoop伪分布式

Mac下使用homebrew安装Hadoop-3.1.1记录   Mac下使用homebrew安装Hadoop-3.1.1记录   环境说明 macOS Sierra 10.12.6 JDK 1.8.0_101 hadoop 3.1.1 homebrew homebrew安装 HomeBrew 是OSX中的方便的套件管理工具。采用Homebrew安装Hadoop非常简洁方便(中文官网:http://brew.sh/index_zh-cn.ht... 阅读详情

首先先用brew下载hadoop

brew install hadoop

它的xml文件都在/usr/local/Celler/hadoop/2.7.3/libexec/etc/hadoop下
接着一步一步修改文件

  • 修改core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!--
  Licensed under the Apache License, Version 2.0 (the "License");
  you may not use this file except in compliance with the License.
  You may obtain a copy of the License at

    http://www.apache.org/licenses/LICENSE-2.0

  Unless required by applicable law or agreed to in writing, software
  distributed under the License is distributed on an "AS IS" BASIS,
  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  See the License for the specific language governing permissions and
  limitations under the License. See accompanying LICENSE file.
-->

<!-- Put site-specific property overrides in this file. -->

    <configuration>
        <property>
            <name>fs.defaultFS</name>
            <value>hdfs://localhost</value>
        </property>

    </configuration>
  • 修改hdfs-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!--
  Licensed under the Apache License, Version 2.0 (the "License");
  you may not use this file except in compliance with the License.
  You may obtain a copy of the License at

    http://www.apache.org/licenses/LICENSE-2.0

  Unless required by applicable law or agreed to in writing, software
  distributed under the License is distributed on an "AS IS" BASIS,
  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  See the License for the specific language governing permissions and
  limitations under the License. See accompanying LICENSE file.
-->

<!-- Put site-specific property overrides in this file. -->

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>

</configuration>
  • 修改mapred-site.xml,如果没有就自己创建一个
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>
    <property>
        <name>mapred.jpb.tracker</name>
        <value>localhost:8021</value>
    </property>
</configuration>
  • 修改yarn-site.xml
<?xml version="1.0"?>
<!--
  Licensed under the Apache License, Version 2.0 (the "License");
  you may not use this file except in compliance with the License.
  You may obtain a copy of the License at

    http://www.apache.org/licenses/LICENSE-2.0

  Unless required by applicable law or agreed to in writing, software
  distributed under the License is distributed on an "AS IS" BASIS,
  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  See the License for the specific language governing permissions and
  limitations under the License. See accompanying LICENSE file.
-->
<configuration>

<!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.resourcemanager.address</name>
        <value>localhost:8032</value>
    </property>

</configuration>

记得看一看hadoop-env.sh下的JAVA_HOME路径是否正确。

  • 最后通过$ hadoop namenode -format来格式化HDFS文件

  • 最后./usr/local/Cellar/hadoop/2.7.3/libexec/sbin/start-dfs.sh启动守护进程$ ./usr/local/Cellar/hadoop/2.7.3/libexec/sbin/start-yarn.sh启动ResourceManager和NodeManager
    输入:http://localhost:8088进入ResourceManager管理页面
    输入:http://localhost:50070进入HDFS页面
    关闭服务有个./stop-all.sh命令

阿里巴巴-AI Agent工程师面试题精选:10道高频考题+答案解析(附PDF) 阿里巴巴AIAgent技术面试要点摘要(149字) 阿里巴巴在AIAgent领域布局完整,面试重点考察系统架构、幻觉治理、成本优化等核心能力。候选人需掌握分层架构设计、多Agent协作死锁处理、Token成本优化策略等关键技术。面试强调工程落地能力,包括工具调用容错、记忆系统设计、安全防护等实践要点。评估体系需覆盖效果、效率、成本多维度指标。未来趋势关注垂直领域专业化、多模态融合等方向。建议准备实际项目案例,突出技术深度与业务价值的结合,展现系统思维和工程能力。 阅读详情

相关推荐

NAT反向代理技术的实现(外网访问内网)

NAT反向代理技术的实现(外网访问内网)(版权所有,引用 请联系作者,注明出处) NAT技术是网络中的重要应用之一。当有一个场景:内网搭建了服务器,需要外网访问时,可以借助NAT映射来实现。如:单位建立了一个Web服务器,我们希望在员工回家之后,依然可以访问到它,那怎么实现呢? 下面的拓扑图,就用来示范这个应用反面场景的实现过程。 一、题目要求: 地址配置如图。使用静态路由: 1、配置右侧交换机2950T,实现单臂路由; 2、配置路由使网络连通; 3、配置NAT访问,实现外网对风网服务器的

joyousmime的博客 8488

Git fetch代码提示“Permanently added ‘gitlab.xxx.com,10.16.36.43‘ (ECDSA) to the list of known hosts....”

Git fetch代码提示“Permanently added 'gitlab.xxx.com,10.16.36.43' (ECDSA) to the list of known hosts....”

weixin_41666653的博客 6791

国内网络环境下Leaflet加载OpenStreetMap地图的5种替代方案(附可用瓦片地址)

本文针对国内网络环境下Leaflet加载OpenStreetMap地图的常见问题,提供了5种可用的瓦片替代方案,包括OpenStreetMap.fr HOT、OpenStreetMap.de、CartoDB、Stamen和Thunderforest,并附上详细的代码示例和选择建议,帮助开发者解决地图加载问题。

qsc901234的博客 1695

ssh连接亚马逊云报错:Permanently added ‘IP‘ (ECDSA) to the list of known hosts Permission denied

报错详情 在终端下通过ssh连接亚马逊云服务器具体报错如下: # wedo @ mjo in ~/.ssh [10:55:25] C:255 $ ssh -i manjaro.pem ec2-user@xx.xx.xx.xx The authenticity of host 'xx.xx.xx.xx (xx.xx.xx.xx)' can't be established. ECDSA key fingerprint is SHA256:BzknItgds/gHJLtjp6kZ+wnAmlb2Op9ss

lxw1844912514的博客 7920

摄像头模组选型避坑指南:如何根据Sensor和Lens参数匹配最佳组合

本文深入解析摄像头模组选型中Sensor与Lens的核心参数匹配要点。重点阐述了主光线角(CRA)匹配对边缘画质的关键影响,并提供了传感器尺寸、像素尺寸、焦距、光圈等参数的协同选型策略与实战避坑指南,帮助工程师在手机、安防、车载等不同应用场景下实现性能与成本的最佳平衡。

ee345的博客 618

因时机器人-灵巧手配置方案(Ubuntu18.04)

因时机器人-灵巧手配置方案(Ubuntu18.04)

CH_monsy的博客 3848

Hadoop伪分布格式化后启动报错

报错显示: 0.0.0.0: Warning: Permanently added '0.0.0.0' (ECDSA) to the list of known hosts. 0.0.0.0: Error: JAVA_HOME is not set and could not be found. 前面在环境配置时已在 etc/profile中配置了 vim ~/.bashrc 中再一次进行了上面的操作,source /.bashrc 使文件生效 解决了问题 重新启动 在浏览器中...

m0_54266673的博客 981

Qt/C++音视频开发1-vlc解码播放

一、前言 最开始接触视频监控这块的时候,用的就是vlc作为解码的内核,主要是因为vlc使用简单方便,直接传入一个句柄即可,简单几行代码就可以实现一个视频流播放,很适合初学者使用,也推荐初学者用qt+vlc来做播放器,提供的接口还是非常友好的,而且门类特别多,想要获取媒体文件的各种信息比如宽高,设置宽高比等,直接调用接口函数传入参数就能设置。 所有用vlc做视频监控解码的人都会遇到一个问题,那就是鼠标事件被接管拦截了,不能识别鼠标事件,比如双击最大化等,这就很憋屈了,明明很好用的一个东西,怎么突然之间鼠标事件

Qt/C++视频监控/推流/物联网/大屏系统/自定义控件/UI定制/输入法 4939

启动HDFS时报错localhost: Warning: Permanently added ‘localhost‘ (ECDSA)Permission denied

由于本人是新手,网上很多帖子也没看懂。 我按照厦门大学林子雨老师的教程重新装了几遍后发现: 如果配置ssh时没有配置无密码登录,便会出现如上报错,而配成无密码登陆后,便成功了,如下 解决方法如下:(图片来自于厦门大学数据库实验室的教程) 这时在切换回hadoop的安装目录试试吧 希望本文能解决你的问题 特附网址:http://dblab.xmu.edu.cn/blog/2441-2/ ...

good_guy_letmego的博客 1万+

FlexSim:FlexSim软件介绍与安装

在开始安装FlexSim之前,首先需要从FlexSim官方网站下载安装包。FlexSim提供不同版本的软件,包括教育版、专业版等,确保选择适合您需求的版本。下载页面通常会列出系统要求,包括操作系统、处理器、内存和硬盘空间,确保您的计算机满足这些要求。访问FlexSim官方网站。导航至下载页面。选择适合您需求的FlexSim版本。点击下载按钮,开始下载安装包。在开始构建模型之前,首先需要明确模型的目标。模型目标是指导模型设计和分析的核心,它定义了你希望通过模型解决的问题或探索的系统行为。

kkchenjj的博客 5805

OceanSim: 基于Isaac Sim GPU 加速水下机器人感知仿真框架

OceanSim 采用先进的基于物理的渲染技术,对水下视觉和声学传感器进行精确建模。与其他模拟引擎相比,OceanSim 的渲染速度要快得多。作为 NVIDIA Issac Sim 的扩展,OceanSim 采用了多功能设计。通过融入快速发展的 NVIDIA Omniverse 生态系统,我们的模拟器自然而然地在机器人学习和水下机器人技术之间架起了一座桥梁,从而促进了水下应用中体现型人工智能技术的开发和部署。OceanSim 将以开放源码的方式提供,使研究界能够以合作的模式作出贡献。

机器人控制与仿真应用 2051

vscode远程连接虚拟机失败

正常连接教程但是我操作了报错, 我进行了如下操作连接成功,但是不知道是那一步让我成功的,记录一下 1、 报错写入管道不存在,参考了这个博文就只是安装了openssh 2、然后在本地用ssh登录失败 ssh user@host -p 22 连接不了并报错,参考这个博文和这个博文确实用第二个把权限删了,可以在本地登录ssh ,但是在vscode上打不开C:\Users\ASUA.ssh下的config文件 找了教程,让我设置扩展,把路径放进去 然后把config文件设置权限,然后就删除,重新创建,然后根

weixin_42496318的博客 3004

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

mac安装hadoop及配置伪分布式

mac安装hadoop 由于是mac系统,所以这里直接用homebrew安装hadoop,默认安装的位置是/usr/local/Cellar brew install hadoop #查看hadoop的信息 brew info hadoop 伪分布式配置 修改core-site.xml <configuration> <!-- 临时文件目录 --> <property> <name>hadoop.tmp.dir</

weixin_44570264的博客 905

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

mac单节点 Hadoop 安装和伪分布式模式配置(图文教程)

大数据Hadoop

sugar_cookie的博客 1550

Mac Hadoop伪分布式配置

1.core-site.xml <configuration> <property> <name>hadoop.tmp.dir</name> <value>/Users/zzw/Documents/hadoop/hadoop-2.6.5/hadoop_tmp</value> </propert...

zzw_17600691357的博客 229

在Mac上配置Hadoop伪分布式娱乐环境

去年我曾发文记录如何在Ubuntu上配置伪分布式版的Hadoop3娱乐环境:https://fuhailin.github.io/Hadoop-Install/ ,通过配置Hadoop娱乐环境你可以熟悉Hadoop的一些基本概念与操作方式,后来我的Dell被我玩坏了,也就没法在Ubuntu上顺畅娱乐了,后来一狠心入手了现在MacBook Pro,希望它能皮实耐操一点。今天我们继续在MacOS配置一...

赵大宝的博客 547

【hadoop学习】在Mac OS上配置hadoop伪分布式环境【下】

2. 配置mac os 自身环境 这个主要是配置ssh环境。先在terminal里面输入 ssh localhost 会有错误提示信息,表示当前用户没有权限。这个多半是系统为安全考虑,默认设置的。更改设置如下:进入system preference --> sharing --> 勾选remote login,并设置allow access for all users。再次输

xceman1997的专栏 4151

【Hadoop实战】在Mac OS上配置Hadoop伪分布式环境

最近大数据很流行,而Hadoop又 是分析大数据的有力工具,加之工作需要,我近期也在学习hadoop的相关知识。学习归学习,还是要实践;而实践,得先有环境。看到教科书上的一些方法, 都是在linux上配置;mac与linux相近,我就在mac os上实践了。mac os版本是10.8.1,配置的是单机伪分布式环境,目的是学习hadoop程序编写;至于hadoop集群搭建,暂时不感兴趣。   ...

llystar的专栏 340

【hadoop学习】在Mac OS上配置hadoop伪分布式环境【上】

最近大数据很流行,而hadoop又是分析大数据的有力工具,加之工作需要,我近期也在学习hadoop的相关知识。学习归学习,还是要实践;而实践,得先有环境。看到教科书上的一些方法,都是在linux上配置;mac与linux相近,我就在mac os上实践了。mac os版本是10.8.1,配置的是单机伪分布式环境,目的是学习hadoop程序编写;至于hadoop集群搭建,暂时不感兴趣。 主要

xceman1997的专栏 5670

Mac环境下安装配置Hadoop伪分布式

伪分布式需要修改5个配置文件(hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop)  第一个:hadoop-env.sh #vim hadoop-env.sh #第25行,由于新的Mac系统不需要配置java环境变量,所以这里要写入具体路径 export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_11...

weixin_30273175的博客 102

Mac的伪分布式hadoop环境搭建

在mac环境下按照centOS的伪分布式Hadoop搭建流程会出问题,踩了一些坑,记录一下

檐前潜心学种瓜 349

Hadoop 3.3 Spark 3.2 M1 MacOS 伪分布式配置

Hadoop 3.3 + Spark 3.2 + M1 MacOS伪分布式配置 安装Java 8 一开始装了Java 17发现Hadoop没法开启yarn,只好降低版本,适用于M1的Java 8下载:Java Download | Java 8, Java 11, Java 13 - Linux, Windows & macOS (azul.com) Java多版本管理 打开~/.zshrc输入 export JAVA_17_HOME="/Library/Java/JavaVirtualMachin

bear507的博客 3103

Mac环境下搭建Hadoop开发框架

这几天闲来无事,作为一个资深的技术宅,无聊之余准备学习一下Hadoop这个大数据的框架。由于手头只有一台Mac电脑,所以只有在它上面搭建了,但是网上都是一些Window或者Linux的搭建教程,无法参考,就自己摸索着试了一下,之中的曲折不必多说,下面我分享下我的搭建过程,供大家参考。 1、下载软件 首先,我们需要到官方下载hadoop安装包,我下载的是hadoop-2.2.0,这个版本是比较新的

Lucky的专栏 8043

Mac上搭建Hadoop环境(2) — Hadoop下载及安装

在Mac上搭建Hadoop环境(1) — 虚拟机的安装及SSH免密设置中,我们已经配置好了节点之间基本的网络环境,接下来,只要在master(MBP)上下载安装hadoop即可。

m0_67393157的博客 758
上一篇: 57. Insert Interval
下一篇: hive配置
王Clever
博客等级 码龄11年 9粉丝 83原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值