hadoop2.x的编译过程总结

安装Hadoop集群&入门&源码编译 本文介绍了Hadoop完全分布式集群的安装步骤。首先准备三台机器分别部署NameNode、ResourceManager和SecondaryNameNode。安装前需配置SSH免密登录和编写集群分发脚本xsync。随后安装JDK并配置环境变量。接着下载解压Hadoop包并设置相关环境变量。集群部署规划明确了各节点角色,避免资源冲突。最后配置核心文件core-site.xml,指定NameNode地址、数据存储目录等参数。 阅读详情

hadoop2.x的编译过程总结

所有编译过程都可以在说明xml中得到有关信息,要进行编译的目的是,hadoop2.x中的lib包是32位的,而我们实际学习和生产的机器大都是64位,这使得我们要重新进行编译。

1.准备工作

a) hadoop2.x的源码包,这里以hadoop-2.4.1-src.tar.gz为例。
b) apache-maven-3.0.5-bin.tar.gz
c) findbugs-1.3.9.tar.gz
d) protobuf-2.5.0.tar.gz
e) jdk-7u67-linux-x64.tar.gz

通过查看hadoop-2.4.1-src包下的BUILDING.txt文件,可以看到编译有关的详细说明,下面我摘出重点部分一起解读下:
列出的是编译Hadoop所需要的前提准备环境
Build instructions for Hadoop(Hadoop编译说明书)

Requirements:

  • Unix System
  • JDK 1.6+
  • Maven 3.0 or later
  • Findbugs 1.3.9 (if running findbugs)
  • ProtocolBuffer 2.5.0
  • CMake 2.6 or newer (if compiling native code)
  • Internet connection for first build (to fetch all Maven and Hadoop dependencies)

2.开始安装编译环境

2.1编译前安装依赖包:
安装Linux系统包(需连接internet)
a) yum install autoconf automake libtool cmake
b) yum install ncurses-devel
c) yum install openssl-devel
d) yum install lzo-devel zlib-devel gcc gcc-c++

2.2解压步骤1中的所有源码包,在编译hadoop2.x时,需要安装编译环境。
a) JDK编译环境安装
将jdk-7u67-linux-x64.tar.gz 解压至文件夹中,并用root用户配置/etc/profile,添加
    `export JAVA_HOME=/usr/java/jdk1.7.0_67
     export PATH=$PATH:$JAVA_HOME/bin`

b) MAVEN环境安装
将apache-maven-3.0.5-bin.tar.gz 解压至文件夹中,并用root用户配置/etc/profile,添加
    `export MAVEN_HOME=/home/elon/opt/modules/apache-maven-3.0.5
     export PATH=$PATH:$MAVEN_HOME/bin`


c) FINDBUGS环境安装
将findbugs-1.3.9.tar.gz 解压至文件夹中,并用root用户配置/etc/profile,添加
    `export FINDBUGS_HOME=/home/elon/opt/modules/findbugs-1.3.9
     export PATH=$PATH:$FINDBUGS_HOME/bin`


d) PROTOBUF环境安装
将protobuf-2.5.0.tar.gz 解压至文件夹中,并用root用户配置/etc/profile,添加
    `export PROTOBUF_HOME=/home/elon/opt/modules/protobuf-2.5.0`
进入安装目录,进行配置,执行命令:
    ./configure
安装命令:
    make
    make check
    make install

3.编译源码

通过查阅BUILDING.txt,获知编译命令:

Create binary distribution with native code without documentation:
(在本地创建二进制发行版,并携带本地代码以及不包括文档,当机器是64bit时,编译出来的本地库就是适用于64bit机的)
 $ mvn package -Pdist,native -DskipTests -Dtar
Eclipse上搭建hadoop环境【含编译hadoop2x-eclipse-plugin插件】 这里写自定义目录标题 一、在windows下载hadoop并解压 注意:hadoop版本必须与搭建hadoop集群的版本一致 我这里用的是hadoop2.6.1 环境变量的配置 在系统环境变量中添加HADOOP_HOME 在Path中添加 " %HADOOP_HOME%\bin" 配置完成后,运行CMD,输入hadoop -version 成功引来了一个错误! 这个错误是由于Hadoop中ja... 阅读详情

相关推荐

Hadoop-Eclipse-Plugin 安装

写在前面 每次遇到两三天解决不了的问题,我都会在心里说,这个问题要是解决了,我一定要整理出来写成博客。可是问题解决完成之后,就会觉得,原来这么容易就能解决,真不值得一写。 其实这一次,我并没有解决所遇到的问题,只是绕过了问题。而且我知道,接下来还会有很多更难更复杂的问题等着我去解决。我不知道在这个过程中我会卡在哪个问题上以至于前功尽弃。我现在的状态几乎等于还有开始,我这样在心里上给自己打预防针

Ichimaru_Gin_的博客 1万+

Hadoop2.x介绍与源码编译

1、Hadoop 项目的四大模块 Hadoop Common: The common utilities that support the other Hadoop modules.Hadoop Distributed File System (HDFS™): A distributed file system that provides high-throughput access to

以家为家,以乡为乡,以国为国,以天下为天下 5057

hadoop2.x编译实例

hadoop-2.2.0,CentOS 6.5 能上网

hadoop2.X、3.X编译

hadoop2.X、3.X编译一、编译环境软件安装二、下载待编译源码三、编译四、编译完成五、总结 一、编译环境 每个hadoop版本需要的软件版本不全同可自行根据BUILDING.txt自行调整,已经验证下面列表能编译hadoop2.X,3.X CentOS 6.7 x64 java 1.8 apache-ant-1.10.3 apache-maven-3.5.3 cmake-3.4.1 fin...

Running_Tiger的博客 792

深入解析Vivado FIFO的Standard与FWFT模式:性能对比与应用场景

本文深入解析了Vivado FIFO的Standard与FWFT两种工作模式的核心差异。通过对比数据就绪时机、读延迟、控制逻辑和有效深度等关键特性,并结合图像处理、数据包转发等典型应用场景,为FPGA设计者提供了清晰的选择依据和实战配置指南,帮助优化数据流性能与设计效率。

weixin_29219189的博客 257

第四章 汇川技术InoProShop入门之串口自由协议解读

摘要: 串口自由协议是工业自动化中针对特定需求设计的自定义通信协议,具有高度灵活性和针对性,适用于小型设备、实时控制等场景。其核心包括自定义帧结构(起始符、地址码、数据区、校验位等)和通信规则(波特率、交互机制)。相比标准协议,自由协议效率更高但兼容性弱,设计时需注重可靠性、效率和可扩展性,适用于定制化或高实时性需求,如传感器数据采集或老旧设备改造。典型应用需平衡精简帧结构与抗干扰能力,同时预留扩展空间。

zyfucking2010的博客 2218

本地编译Hadoop2.9.1源码总结

目录   一、文档编写的目的 二、编译要求 三、软件安装 3.1 安装JDK 3.2 安装各种库 3.3 安装maven 3.4 安装protocolBuffer 3.5 安装findbugs 四、开始编译 五、编译中可能遇到的问题 一、文档编写的目的 当在Windows平台安装hadoop时,或者添加Hadoop一些额外功能时,需要对Hadoop源码进行编译,本文以Ha...

强者的博客 1609

RTKLIB使用方法(喂饭版)(三)——RTKPOST

应用OTL校正需要在“files”的“ocean loading BLQ format”中配置OTL文件。应用极潮需要在“files”的“EOP data file”配置ERP(地球旋转参数)文件。RAIM FDE:设置是否启用RAIM(接收机自主完整性监控)FDE(故障检测和排除)功能。点击下方的“save”可以把配置保存成文件,点击“load”就可以把配置文件加载出来。4接收机动态模型/地球潮汐矫正:设置流动站接收机动力学模型,只可以使用在DGPS/DGNSS或动态模型中。选择流动站天线的类型。

A2020713的博客 1万+

hadoop2.x编译(一)

手把手完成hadoop2.7.1的64位编译任务

双子涂鸦的专栏 859

Windows服务器SSL漏洞修复实战:如何一键禁用TLS 1.0/1.1避免SWEET32攻击

本文提供了Windows服务器修复SWEET32漏洞的实战指南。通过组策略编辑器,详细讲解如何一键禁用不安全的TLS 1.0/1.1协议,并优化密码套件顺序,以消除由3DES等弱加密算法带来的安全风险。文章还涵盖了应对SQL Server等应用兼容性挑战的解决方案,以及企业级批量部署的脚本化方法,帮助管理员系统性地提升服务器TLS/SSL安全配置。

weixin_29310631的博客 246

3步!Spring Boot+OCR引擎秒提身份证/营业执照?手把手教你从零实现!

OCR技术革新文档识别效率 本文演示了如何利用Spring Boot+Tesseract OCR+OpenCV构建自动化文档识别系统。相比传统人工录入,OCR技术可实现: 5秒极速提取身份证/营业执照关键信息 精准识别中文文本(准确率90%+) 正则过滤自动匹配结构化数据 技术要点: OpenCV图像预处理(灰度化+二值化) Tesseract多语言OCR识别 正则表达式精准提取证件号码 效率提升达100倍,错误率降低90%,适用于金融、政务等需要批量处理证件的场景。

java专栏 906

Hadoop2.X编译安装和实验

1    作业题目 2    编译HADOOP2.X 64BIT 2.1     运行环境说明 2.1.1   硬软件环境 2.1.2   集群网络环境 2.2     环境搭建 2.2.1   JDK安装和Java环境变量配置 2.2.2   安装并设置maven 2.2.3   以root用户使用yum安装svn 2.2.4   以root用户使用yum安装autoconf

刘默默的博客 395

Qt | linux+openCV+Qt6.5.3环境搭建成功版(带例子)

opencv安装 Qt 实战举例

Qt历险记,专注Qt技术,三年医疗设备研发经验,1年机器视觉研发经验,半年柔性传感研发经验。 1885

Ivy安装及编译hadoop2x-eclipse-plugin

之前项目一直采用Maven构建(Maven构建真正的J2EE项目)。最近在github下载一些源码来编译,发现很多项目都开始支持apache Ivy。至此以hadoop2x-eclipse-plugin为例,写篇文章记录一下。 Apache Ivy 是一个优秀的管理(记录、跟踪、解析和报告)项目依赖的工具,可与Apache Ant紧密集成。本篇以2.4.0版本为基础。 Apache Ivy安装...

qianshanding0708的博客 2524

OCR文字识别基础

ocr文字识别

m0_47405013的博客 1755

为什么先进工艺需要check那么多corner?

那么hold slack = launch clock path delay + data path delay - capture_clock_path_delay = -capture_clock_path_delay,也就是说,capture clock path delay越大,hold越难满足。而且,我们在设计的时候,一般clock频率都会过约,所以是有较大的margin的。有的foundry还会对rc的取值范围进行了约束,如cworst_T,采用的是1.5 sigma的取值范围。

芯冰乐 2089

hadoop2.2.0源码编译

hadoop2.x是使用maven构建的,所以首先下载maven 1、下载maven maven.apache.org 我选择的是apache-maven-3.0.5(貌似3.1不行) 解压缩: tar -zxvf apache-maven-3.0.5 配置环境变量:vim /etc/profile                             MAVEN_HOME=/ho

匆匆那些年 611

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

windows编译hadoop 2.x Hadoop-eclipse-plugin插件

Hadoop2.x之后没有Eclipse插件工具,我们就不能在Eclipse上调试代码,我们要把写好的java代码的MapReduce打包成jar然后在Linux上运行,所以这种不方便我们调试代码,所以我们自己编译一个Eclipse插件,方便我们在我们本地上调试,经过hadoop1.x的发展,编译hadoop2.x版本的eclipse插件比之前简单多了。接下来我 们开始编译Hadoop-eclipse-plugin插件,并在Eclipse开发Hadoop

在前进的路上 1万+

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

hadoop 2.x 编译

Hadoop 2.x 编译 编译前准备 (hadoop_src/BUILDING.txt) Requirements: * Unix System * JDK 1.6+ * Maven 3.0 or later   (建议maven 3.0.5) * Findbugs 1.3.9 (if running findbugs) * ProtocolBuffer 2.5.0

gavin的专栏 374

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Hadoop2.x的Eclipse插件编译与安装

Hadoop2.x的Eclipse插件编译与安装 2015-06-16 16:05 by hduhans,142阅读,0评论,收藏,编辑   Eclipse的Hadoop插件在开发hadoop应用程序中可以提供一些很方便的操作,可以直接Eclipse中浏览HDFS上的文件,可以直接新建选择MapReduce项目,项目自动包含所有需要的hadoop jar包,不必再...

weixin_30737433的博客 159

Ubuntu12.04编译hadoop2x-eclipse-plugin-master插件

一、环境搭建 1、Eclipse  (http://www.eclipse.org/downloads/download.php?file=/technology/epp/downloads/release/luna/SR2/eclipse-jee-luna-SR2-linux-gtk-x86_64.tar.gz) 2、JDK  下载安装参见另一篇博文《Ubuntu12.04编译hadoop2

编程爱好者 1470

Hadoop2.x介绍与源代码编译

1、Hadoop项目的四大模块 HadoopCommon:ThecommonutilitiesthatsupporttheotherHadoopmodules.HadoopDistributedFileSystem(HDFS™):Adistributedfilesystemthatprovideshigh-throughputa...

weixin_30548917的博客 129

Hadoop 2.x(YARN)安装配置LZO

今天尝试在Hadoop 2.x(YARN)上安装和配置LZO,遇到了很多坑,网上的资料都是基于Hadoop 1.x的,基本没有对于Hadoop 2.x上应用LZO,我在这边记录整个安装配置过程 1. 安装LZO 下载lzo2.06版本,编译64位版本,同步到集群中 wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.06....

weixin_30315905的博客 181

hadoop2.x的编译 & hadoop-snappy编译 & hadoop2.x 配置 snappy压缩

hadoop2.x 默认没有支持snappy压缩,需要我们自己编译 才能支持snappy的压缩。 查看hadoop2.x 的BUILDING文件 ,  Snappy build options:    Snappy is a compression library that can be utilized by the native code.    It is currently a...

zhiquanliu的专栏 368

Hadoop2.x eclipse plugin插件编译安装配置

本文主要讲解如何编译安装配置 Hadoop2.x eclipse plugin插件的详细过程: 环境参数 编译过程 安装配置 详见: http://www.micmiu.com/bigdata/hadoop/hadoop2-x-eclipse-plugin-build-install/ ...

Michael 181

hadoop2.x的安装

可以自己从官网编译打包也可以直接下载官网的.gz包。自己编译打包的过程如下: 1、查看是否安装cmake、svn、openssl、ncurses,没有的直接安装上 yum list|grep cmake yum list |grep ncurses yum install -y ncurses.i386 ncurses-devel.i386 yum list |grep ...

weixin_30894583的博客 56
上一篇: hadoop2.x 伪分布式环境搭建 | 适用于hadoop伪分布式集群环境搭建
下一篇: 三个月的实习教会了我什么?
gamedev˚
博客等级 码龄12年 280粉丝 293原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值