Ubuntu12.04编译hadoop2.6.0源码与源码导入windows下的Eclipse查看方法

omv系统mysql_树莓派NAS——OMV安装篇(一) 20170902 初成文20180607 更新omv4.x(debian 9 stretch),见文末建议直接使用OMV树莓派官方版镜像,Win32DiskImager写进SD卡,本文是介绍基于Debian8上安装OMV跑nas之前做过大量压力测试,usb外接硬盘(ext4或btrfs;用ntfs是很难满速的,调用ntfs-3g还得占用cpu)读写百兆网卡可以达到满速,可以跑docker,bt/p... 阅读详情

百度谷歌了很多关于编译hadoop2.6.0的文章,没有一篇让我能顺利通过编译的。于是自己摸索,编译成功,现将编译过程和将源码导入Eclipse方法公布如下。

一、Ubuntu12.04 编译Hadoop2.6.0源码

1、编译环境

Ubuntu Server 12.04 precise 64bit

JDK 1.7.0_67

protoc 2.5.0(貌似必须是该版本及其以上版本,否则会报错)

maven 3.0.4

2、安装环境

1)安装jdk

下载

sudo apt-get -o Dpkg::Options::=--force-confdef -o Dpkg::Options::=--force-confold -y install oracle-j2sdk1.7
配置环境

打开配置文件

vim /etc/profile
增加配置文件如下:
export JAVA_HOME=/usr/lib/jvm/java-7-oracle-cloudera
export CLASSPATH=.:JAVA_HOME/lib:$JAVA_HOME/jre/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH
退出并保存,执行下面命令使修改生效

source /etc/profile

将系统默认的jdk修改过来
update-alternatives --install /usr/bin/java java /usr/lib/jvm/java-7-oracle-cloudera/bin/java 300
update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/java-7-oracle-cloudera/bin/javac 300
sudo update-alternatives  --config java
sudo update-alternatives  --config javac
检测配置是否生效
java -version

2)安装maven

sudo apt-get install maven  
mvn --version
显示如下图则成功

3)安装ssh

sudo apt-get install openssh-server
设置root下无密码登陆
ssh-keygen -t rsa -P ''
ssh-copy-id -i /root/.ssh/id_rsa.pub 用户名@域名
4)安装protoc

不能直接通过apt-get安装,版本太低,会报错。在https://github.com/google/protobuf中下载压缩包。

tar -zxf protobuf-2.5.0.tar.gz
假如你希望编译成功后输出的目录为/root/protobuf/ 则输入如下两条命令:
./configure --prefix=/root/protobuf/  
make && make install

编译成功后进入/etc/profile中添加bin路径到PATH中

export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:/root/protobuf/bin:$PATH
检测配置是否完成
protoc --version

5)安装依赖库

sudo apt-get install g++ autoconf automake libtool cmake zlib1g-dev pkg-config libssl-dev
6)编译hadoop2.6.0源代码

进入到hadoop源码包根目录,执行下面命令

 mvn clean package -Pdist,native -DskipTests -Dtar

成功会显示BUILD SUCCESS,编译好的代码在源代码根目录下的/ hadoop-dist/target中。

二、hadoop2.6.0源代码导入Eclipse

1)安装mvn所需插件

 cd /hadoop-2.6.0-src/hadoop-maven-plugins
 mvn install
2)生成eclispe结构
cd /hadoop-2.6.0-src
mvn eclipse:eclipse -DskipTests

3)完成后将整个文件夹打包压缩通过WinSCP上传到windows路径中解压缩,然后打开Eclipse,[File] > [Import] > [Existing Projects into Workspace],目录选择hadoop-2.6.0-src,工程就全部导入进去了。

4)报错处理

a.很多工程会报错,几乎都是tools不对,解决办法就是删除这个tools,然后在windows中的jdk中找到tools添加进去即可。

b.在hadoop-streaming工程里报错如下


解决办法:右击工程hadoop-streaming,Build Path,Source。删除报错的资源,然后再link到hadoop2.6.0-src源码包中的相同路径下,本例中是

D:\hadoop-2.6.0-src\hadoop-yarn-project\hadoop-yarn\hadoop-yarn-server\hadoop-yarn-server-resourcemanager\conf输出路径要保持和原来相同,修改好的包如下所示:



PySpark本地环境安装全指南:Java/Hadoop/Spark版本协同配置 PySpark并非普通Python库,而是Python与JVM深度集成的混合执行引擎,其本地运行依赖Java虚拟机、Hadoop原生库与Spark核心组件的精确版本协同。理解JVM网关机制和Hadoop FileSystem抽象层,是解决‘winutils.exe缺失’‘UnsupportedClassVersionError’等高频报错的关键。技术价值在于构建可复现、可验证的本地开发沙箱,支撑SparkSession初始化、DataFrame计算及Parquet读写等核心能力。典型应用场景包括数据工程本地 阅读详情

相关推荐

Spark本地开发环境搭建:隔离、验证与可扩展的三步闭环法

Apache Spark 是一个分布式计算引擎,其本地开发环境并非简单的软件安装任务,而是一个涉及JDK版本兼容性、Hadoop二进制绑定、Python-JVM通信协议(Py4J)、类路径隔离与配置驱动扩展的系统性工程。理解 Spark 运行时原理——如 Catalyst 优化器触发条件、local[*] 模式下的 Driver 网络绑定机制、以及 spark-sql 模块的依赖树完整性——是规避 ClassNotFoundException、NoSuchMethodError 和 Py4J 通信失败的关键

weixin_30588675的博客 439

基于debian11手动安装omv6

基于Debian11安装omv6

win71的博客 1万+

Spark环境搭建深度指南:从JVM依赖到PySpark配置

Apache Spark并非即装即用的单机库,而是一个强依赖JVM版本、Scala二进制兼容性、SLF4J日志绑定机制及多层环境变量语义的分布式计算引擎。其运行原理根植于Java类加载顺序、进程模型差异(如pyspark与spark-submit的JVM隔离机制)和Hadoop生态契约。技术价值在于规避因Java小版本Bug、GC参数失配或PYTHONPATH污染导致的隐性故障;典型应用场景涵盖本地伪分布式开发、Docker容器化交付及YARN/K8s生产预检。本文聚焦Spark 3.5环境构建中Java

weixin_30642869的博客 373

pkg-config工具的使用

一、编译和连接        一般来说,如果库的头文件不在 /usr/include 目录中,那么在编译的时候需要用 -I 参数指定其路径。由于同一个库在不同系统上可能位于不同的目录下,用户安装库的时候也可以将库安装在不同的目录下,所以即使使用同一个库,由于库的路径的 不同,造成了用 -I 参数指定的头文件的路径也可能不同,其结果就是造成了编译命令界面的不统一。如果使用 -L 参数,也会造成连

1670

【信息科学与工程学】【产品体系】第二十六篇 存储系统及存储服务器中所有学科知识01

存储系统是一门交叉学科,涉及计算机体系结构、分布式系统、编码理论、操作系统、网络等多个领域。编号类型学科/课程/产品存储系统领域的作用(含 AI infra / 存储网络 / 存储服务器 / 存储领域)核心知识点及数学建模/方程式/算法在存储系统中的作用及详细设计方法、时序、流程、模式代表教材/资料/论文 + 链接工业界应用001基础理论计算机体系结构、操作系统决定存储层级(寄存器-L1/L2/L3-内存-SSD-HDD-磁带),是 AI 训练集群、存储服务器、SAN/NAS 的物理底座存储层级模型:访问延

weixin_49199313的博客 49

免安装版JDK 1.8详解:从环境变量配置到Docker镜像实战

在Java开发与部署中,JDK(Java Development Kit)是构建和运行Java应用的基础组件。传统安装包需要写入注册表、占用系统目录,且多版本切换繁琐,而免安装版(绿色版)JDK采用ZIP解压方式,具备可移植性强、环境隔离干净、不残留系统信息等优点。其核心原理在于通过JAVA_HOME与PATH环境变量指定JDK根目录和可执行程序路径,实现即解压即用。这种方案在本地开发、服务器批量部署以及容器化场景中尤为实用,尤其当需要在JDK 8、11、17等版本间灵活切换时,只需调整JAVA_HOME指

weixin_34214500的博客 410

Linux下源码编译hadoop2.6.0

 Hadoop不提供64位编译好的版本,只能用源码自行编译64位版本。学习一项技术从安装开始,学习hadoop要从编译开始。 1.操作系统编译环境 yum install cmake lzo-devel zlib-devel gcc gcc-c++ autoconf automake libtool ncurses-devel openssl-devel libXtst  2.安装JD

张林旺的专栏 1766

步进电机励磁模式

1. 励磁模式 步进电机的基本操作模式称为 励磁模式,能够使步进电机工作在全步模式,半步模式和微步模式,其中微步模式能够有效的降低步进电机相电流的噪声,能够改善步进电机固有的噪声震动问题。下面将介绍 3 种励磁模式。 2. 全步励磁模式 所谓全步模式,就是依据电机固有结构设计固定的步距角工作,一个电脉冲,步进电机前进一个步距角。这个步距角使电机设计结构所决定的,也可以理解为电机以最大的步距角旋转。 3. 半步励磁模式 半步模式是以电机固有的结构决定的步距角的一半角度进行步进旋转。如下图所示,步进

zhbi98 的技术 Blogs 5550

搭建Hadoop环境(在winodws环境下用虚拟机虚拟两个ubuntu系统进行搭建)

这是我2010年写的hadoop搭建过程,现在重新发出来,当作hadoop学习的开始。 俗话说的好:计划赶不上变化,这几天还真在我身上应验了。原计划4小时完成,结果40小时才... 不写篇日志,简直对不起我的一片苦心。 这周五计划搭建Hadoop环境(在winodws环境下用虚拟机虚拟两个ubuntu系统进行搭建)。 先介绍下准备工作:   1:   Hadoop 0.20.2 (官网

jackydai987的专栏 3815

IROS 2025机器人技术解析:从诡异设计到硬核应用

机器人技术正从传统的结构化环境应用,迈向复杂非结构化场景的深度交互。其核心原理在于通过仿生设计、多模态感知与智能控制算法,赋予机器人类似生物的适应性与交互能力。这一技术演进的价值在于突破传统机器人在极端环境、精密操作和自然交互中的瓶颈。例如,结合深度强化学习的全身动力学控制,使机器人能在废墟、管道等复杂地形中自主导航;而软体机器人技术则通过材料变形实现安全、柔顺的抓取操作。这些技术最终服务于极端环境巡检、精密装配和高端陪护等刚性应用场景,推动机器人从功能实现迈向与环境、人进行深度、智能交互的新阶段。

weixin_34006468的博客 452

告别测序污染:手把手教你用Decontam+SCRUB+FEAST完成微生物组数据清洗全流程

本文详细解析了使用Decontam、SCRUB和FEAST三大工具完成微生物组数据清洗的全流程。从环境准备、数据导入到污染物识别、样本间污染校正及溯源分析,提供了一套可复用的污染校正工作流,帮助研究者提升数据质量,确保后续分析的可靠性。

weixin_33462927的博客 317

win7下Eclipse连接虚拟机中的ubuntu下的hadoop

2014.07.02 在win7 + vmware + ubuntu10.04上chong搭建Hadoop

songyuejs的专栏 767

拯救者Y9000P 2022双系统实战:Ubuntu22.04分区优化与驱动避坑指南

本文提供联想拯救者Y9000P 2022款安装Ubuntu 22.04双系统的详细实战指南。重点讲解针对该机型的磁盘分区优化方案、NVIDIA显卡驱动安装避坑技巧,以及安装后的网络、时间同步等必备配置,帮助用户高效完成双系统部署并提升使用体验。

weixin_29208327的博客 425

ubuntu 12.04 安装 Cloudera Manager 4.8.2

Cloudera可以简化Hadoop的安装配置过程,自动在集群节点上安装hadoop相关组件,创建用户。Cloudera是Hadoop生态系统中,规模最大、知名度最高的公司 1.准备 系统版本 1 iflab@cdh1:~$ uname -a 2 Linux cdh1 3.11.0-15-gener

aliushuo的专栏 679

Oracle EBS Interface/API(43) -自定义AP发票状态说明API

在某项目,客户需求获得AP发票的状态说明,例如对账系统或者某些报表。由于标准系统未提供状态说明,需要通过AP发票的标准Form获得相关业务逻辑,然后自定义AP发票状态说明API。

陈显平的专栏-Oracle EBS 607

6.6kW的车载充电器(On-Board Charger, OBC)电路分析

图片展示了6.6kW的车载充电器(On-Board Charger, OBC)电路,其中包含双向和单向两种拓扑结构。接下来我们将深入分析每个模块的设计、原理及其优势,以帮助理解不同结构在实际应用中的选型和应用。

weixin_43199439的博客 5673

VmWare虚拟机设置ubuntu和windows之间的共享文件夹

一般在进行编程作业的时候,我们会采用“开发在Windows中编辑源代码,在linux中编译、执行源代码。这往往需要需要将在Windows下编辑好的源代码上传到linux系统种进行编译。怎么来进行上传呢? 其实通过VMWare的共享文件夹就可以轻松实现: 1 先在Windows中创建一个文件夹,注意要使用英文名称,例如"shared_folders"。 2 然后在VMWare中,依次点击菜单栏 VM...

Leon的博客 2739

实战:批量抓取免费代理IP全流程(附自动验证+失效剔除,爬虫抗封必备)

本文分享了一套从免费代理IP中筛选可用高匿代理的实用方案。作者通过半年实践,总结出"批量抓取+精准验证+动态维护"的方法,能从2000条免费IP中筛选出30-50条可用代理,满足中小规模爬虫需求。 方案包含四个核心环节: 多源代理抓取:针对快代理、西刺代理等不同网站定制解析规则 三层验证机制:检查有效性、匿名度和响应速度 代理池自动维护:实时淘汰失效IP Scrapy整合实战:提供可直接复用的代码 文章特别指出免费代理的三大痛点:存活率低(80%10分钟内失效)、匿名性差(仅5%是高匿代

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 1602

CDH遇到问题点滴记录

关于CDH和ClouderaManager CDH (Cloudera's Distribution,including Apache Hadoop),是hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的ApacheHadoop构建,并集成了很多补丁,可直接用于生产环境。   Cloudera Manager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监

ping550的专栏 496

电机控制基础,小白入门篇

电机,这个藏在风扇、电动车、机器人里的“动力心脏”,如何精准控制它的转速、方向甚至力量?这篇博客专为完全零基础的小白打造,用“说人话”的方式拆解电机控制的底层逻辑,帮你从“看不懂电路图”到“能调个简单电机”。 电机控制不是“大神专属”,只要掌握“电生磁、磁生力”的底层逻辑,加上动手实践,小白也能快速入门。这篇博客会陪你从“看电机转”到“让电机听话”,把复杂的控制原理变成能上手玩的“小实验”。准备好你的面包板和电机,我们一起开启“电控之旅”吧!

汽车电子软件领域知识分享 5615

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Ubuntu14.04 编译 hadoop2.6.0源码以及把源码导入eclipse

1.下载源码http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.6/ 2.编译环境准备: * JDK 1.7(楼主试过JDK1.8,编译会报错) * Maven 3.1.1  * Findbugs 1.3.9 * ProtocolBuffer 2.5.0 * CMake 2.8.5 * Zlib devel (if

spark专栏 1317

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

编译ant compile-native遇到的一些问题

环境: Ubuntu Server12.04 Hadoop1.2.1

编程爱好者 2843

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

Ubuntu12.04编译hadoop2x-eclipse-plugin-master插件

一、环境搭建 1、Eclipse  (http://www.eclipse.org/downloads/download.php?file=/technology/epp/downloads/release/luna/SR2/eclipse-jee-luna-SR2-linux-gtk-x86_64.tar.gz) 2、JDK  下载安装参见另一篇博文《Ubuntu12.04编译hadoop2

编程爱好者 1470

Web上传文件到HDFS报错java.io.IOException: File xx could only be written to 0 of the

问题描述 HDFS部署在阿里云服务器,使用web上传文件到阿里云服务器的HDFS中报错:java.io.IOException: File /17035041/服务器测试/test4.txt could only be written to 0 of the 1 minReplication nodes. There are 1 datanode(s) running and 1 node(s) are excluded in this operation. 报错如下图: 2020-06-30 18:22:

编程爱好者 1217
上一篇: 用Eclipse对Hadoop文件进行压缩和解压缩编译过程中遇到的问题
下一篇: Ubuntu12.04编译hadoop2x-eclipse-plugin-master插件
我心明月
博客等级 码龄15年 7粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值