centos 7编译hadoop 2.7.3

CentOS7环境下编译Hadoop3.2.1源码 1.环境搭建 镜像版本:CentOS-7-x86_64-DVD-1908.iso SOFTWARE SELECTION:GNOME Desktio 阅读详情
Build instructions for Hadoop


----------------------------------------------------------------------------------
Requirements:


* Unix System
* JDK 1.7+
* Maven 3.0 or later
* Findbugs 1.3.9 (if running findbugs)
* ProtocolBuffer 2.5.0
* CMake 2.6 or newer (if compiling native code), must be 3.0 or newer on Mac
* Zlib devel (if compiling native code)
* openssl devel ( if compiling native hadoop-pipes and to get the best HDFS encryption performance )
* Linux FUSE (Filesystem in Userspace) version 2.6 or above ( if compiling fuse_dfs )
* Internet connection for first build (to fetch all Maven and Hadoop dependencies)


----------------------------------------------------------------------------------
Installing required packages for clean install of Ubuntu 14.04 LTS Desktop:


* Oracle JDK 1.7 (preferred)
  $ sudo apt-get purge openjdk*
  $ sudo apt-get install software-properties-common
  $ sudo add-apt-repository ppa:webupd8team/java
  $ sudo apt-get update
  $ sudo apt-get install oracle-java7-installer
* Maven
  $ sudo apt-get -y install maven
* Native libraries
  $ sudo apt-get -y install build-essential autoconf automake libtool cmake zlib1g-dev pkg-config libssl-dev
* ProtocolBuffer 2.5.0 (required)
  $ sudo apt-get -y install libprotobuf-dev protobuf-compiler


Optional packages:


* Snappy compression
  $ sudo apt-get install snappy libsnappy-dev
* Bzip2
  $ sudo apt-get install bzip2 libbz2-dev
* Jansson (C Library for JSON)
  $ sudo apt-get install libjansson-dev
* Linux FUSE

  $ sudo apt-get install fuse libfuse-dev




上面是编译后产生的文件

下面开始总结

-----------------

安装jdk

hadoop java写的这是必须的


安装ssh

ssh  一种加密网络协议,安装这个目的是为了在不同节点通信的时候不用麻烦的输入密码

生成密钥
ssh-keygen -t rsa -P ""  
执行后会在.ssh目录下生成id_rsa和id_rsa.pub两个文件
进入.ssh目录,并将id_rsa.pub追加到authorized_keys文件中
cd ./.ssh  
cat id_rsa.pub >> authorized_keys   
chmod 600 authorized_keys # 修改用户权限


安装Maven

maven 用来构建hadoop 的,毕竟hadoop中的内容是好几个大公司写的

Maven 和 Ant 针对构建问题的两个不同方面。

Ant 为 Java 技术开发项目提供跨平台构建任务。

Maven 本身描述项目的高级方面,它从 Ant 借用了绝大多数构建任务。

因此,由于 Maven 和 Ant代表两个差异很大的工具

这个好像系统自带的有,不用我自己动手了


安装 Findbugs

静态分析工具,在编译源码的时候用来发现错误的

# vim /etc/profile
export FINDBUGS_HOME=/usr/local/findbugs/findbugs-3.0.0
export PATH=$PATH:$FINDBUGS_HOME/bin

下载、安装配置环境


安装protocolbuffers

这个东西估计就是来序列化数据的吧,在hadoop也有一个序列化的avro  不知道二者有什么关系,现在说的是安装,分析等看到的时候再来

Protocol Buffers 是一种轻便高效的结构化数据存储格式,可以用于结构化数据串行化,很适合做数据存储或 RPC 数据交换格式。它可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式。

这个我是看着说明文件安装的,装了三遍才好

在解压后的文件中执行

  $ ./configure
  $ make
  $ make check
  $ make install

这样安装环境就好了


编译hadoop

先解压源码

# mvn package -Pdist,native -DskipTests -Dtar

这是我编译的时间

根据网速的

上次用ubuntu

 

难受啊

到最后还不能用


还好从中得到的不仅仅是错误还有经验。

祝你好运!



centos中Hadoop2.7.1 hbase1.3编译snappy 一、准备编译所需组件: 1. hadoop-2.7.1-src.tar.gz, 官网自行下载 2. snappy-1.1.3.tar.gz,wget https://github.com/google/snappy/releases/download/1.1.3/snappy-1.1.3.tar.gz 3. protobuf-2.5.0.tar.gz, 下载地址https://github. 阅读详情

相关推荐

社区疫苗接种管理系统设计与实现:数字化升级实践

疫苗接种管理系统是医疗信息化的典型应用,通过数字化手段解决传统人工管理的效率瓶颈。系统基于规则引擎实现智能提醒,采用结构化数据存储确保接种记录可追溯,并利用实时监控技术提升管理透明度。在技术实现上,结合Django框架快速开发特性与Redis缓存优化性能,同时兼顾老旧设备的浏览器兼容性。这类系统在公共卫生领域具有重要价值,特别是在疫情后时代,疫苗追溯和接种率监控需求激增的背景下。通过OCR识别、消息队列等技术,系统显著提升了社区疫苗接种工作的准确性和覆盖率,为类似健康管理项目提供了可复用的技术方案。

weixin_33875564的博客 205

CentOS7安装Hadoop集群完整步骤

1. 安装3台centos7服务器 1.1.配置名字hadoop01\hadoop02\hadoop03 hostnamectl set-hostname hadoop01 hostnamectl set-hostname hadoop02 hostnamectl set-hostname hadoop03 1.2.修改hosts文件 vi /etc/hosts 文件末尾添加以下内容: hadoop01的ip地址 hadoop01 hadoop02的ip地址 hadoop02 ha

weixin_55076626的博客 1万+

基于CentOS 7.2的CDH 6.3.2 Flink编译源码

基于CentOS 7.2的CDH6.3.2离线安装 https://blog.csdn.net/qq_40180229/article/details/108755530 基于CentOS 7.2的CDH 6.3.2完整集群添加 https://blog.csdn.net/qq_40180229/article/details/108756561 基于CentOS 7.2的CDH 6.3.2 Hadoop配置 https://blog.csdn.net/qq_40180229/article/details

SmallScorpion 795

Hadoop源码编译

准备前期工作 1、CentOS联网 使用能连接外网的CentOS系统虚拟机,使用root用户进行编译,避免出现文件夹权限问题。 2、Jar包准备 从官网下载以下安装包 (1)hadoop-3.1.3-src.tar.gz (2)jdk-8u212-linux-x64.tar.gz (3)apache-maven-3.6.3-bin.tar.gz (4)protobuf-2.5.0.tar.gz(序列化的框架) (5)cmake-3.13.1.tar.gz Jar包安装 1、上传软件包到指定的目录,例如 /o

weixin_40173707的博客 1710

centos7.4安装+hadoop2.7.6编译

centos7.4在VMware详细安装文档,以及hadoop2.7.6编译环境安装和编译。

linux 32位操作系统 源码编译后hadoop-2.7.7 centos-i686 hadoop-2.7.7.tar.gz

提供源码编译后的hadoop 2.7.7的包,系统版本内核是Linux 3.10.0-957.el7.centos.plus.i686

CentOs7下安装Hadoop详细步骤

一、安装虚拟机 版本(CentOS7) 二、修改主机名(当前虚拟机的主机名) 1.查看当前的主机名 hostname 2.修改主机名 vi /etc/hostname (1)一定要在vi的命令模式下(在编辑模式下按esc键) :wq #保存退出 :wq! #强制保存退出 :q #退出 :q! #强制退出 (2)编辑模式下:i当前光标所在的位置。 3.启动命令: reboot -h now 补充:第二种修改主机名的方式 Hostnamectl set-hostname <自己编写的主机名&g

weixin_58941637的博客 5774

多智能体强化学习论文——SEAC(NIPS 2020)

存在的问题&研究动机&研究思路 在稀疏奖励的环境下,多智能体的exploration存在效率不足等问题。 在IAC的基础上尝试加入重要性采样,使得每次更新智能体iii的参数时,不再仅仅使用智能体iii的数据,而是使用所有智能体的数据进行智能体iii数据的更新。 对于原始的IAC算法是on-policy的,而SEAC则是off-poligy的。 创新点 在每个智能体iii的actoriactor_iactori​和criticicritic_icritici​的更新过程中,都加入了重要性

我的AI笔记 1207

centos编译hadoop源码包

centos编译hadoop源码包

Button的博客 489

基于Simulink/Matlab的VSG并网系统单相接地与相间短路故障仿真建模与特性分析

本文详细介绍了基于Simulink/Matlab搭建虚拟同步发电机(VSG)并网系统仿真模型的方法,并重点分析了单相接地与相间短路故障下的系统特性。通过设置三相故障模块参数,模拟了故障发生时的电压、电流变化及VSG动态响应,为理解故障机理、优化控制策略及设计继电保护提供了仿真依据与实践指导。

t8u9v0w1x的博客 514

linux 内核vxlan收发包流程

1.vxlan口收包处理流程 前面几章详细介绍了vxlan接口的使用,而且已经知道vxlan是 MAC IN UDP中的封装,因此,在解封装之前,一切按照原有流程走,在此复习一下内核收发包流程(驱动层的数据处理这次不再解析,直接从__netif_receive_skb_core开始) #物理网卡处理中断,触发softirq i40e_intr └─napi_schedule_irqoff #i40e softirq把包放到per cpu backlog,触发softirq i40e_napi_p

魏言华的博客 3826

centos编译hadoop

一、 准备的资料 源码根目录下有个BUILDINT.txt,打开即可看见里面关于编译hadoop的一些环境要求   64位linux系统CentOS 6.7。 JDK 1.7+。 maven-3.2.5。 一个项目管理综合工具, 使用标准的目录结构和默认构建生命周期 protobuf 2.5.0google的一种数据交换的格式,它独立于语言,独立于平台 hadoo...

heima201907的博客 282

2022年电赛E题声源定位跟踪系统

电赛声源定位

qq_53357019的博客 2万+

CentOS7下Hadoop-3.2.1源码编译

CentOS7 Hadoop源码编译

qq_42908756的博客 642

YOLOv11改进,YOLOv11添加DCNv4可变性卷积(windows系统成功编译),二次创新C3k2结构,全网最详细教程

引入了可变形卷积 v4 (DCNv4),这是一种为广泛视觉应用设计的高效且有效的操作算子。DCNv4通过两项关键增强解决了其前身DCNv3的局限性:1. 移除空间聚合中的softmax归一化,以增强其动态特性和表达能力;2. 优化内存访问以最小化冗余操作,从而加速计算。这些改进使得DCNv4相比DCNv3显著加快了收敛速度,并且处理速度大幅提升,前向传播速度超过三倍。DCNv4在多个任务中表现出色,包括图像分类、实例和语义分割,特别是在图像生成方面表现突出。

在职AI算法工程师,擅长计算机视觉,YOLO目标检测、分割等,擅长web、pyqt界面可视化,好内容持续更新中,来这里跟大家一起学习,共同进步 2665

【原创】关于西门子S120 的电气图纸设计

我们首先要了解一下模块的基本信息:SINAMICS 功率模块 PM240-2 三相交流380-480V+10/-10% 47-63Hz;至此,我们选择的驱动系统配置的资料都已经查找完毕,接下来就是根据每个部件的功能接口和我们需要实现的功能画出接线连接图,这样关于伺服电机控制,硬件部分设计就完成了。2)FSA - FSC 型功率模块 PM240-2 的屏蔽连接板外形尺寸图,所有数据以毫米(英寸)为单位。1)FSA 型功率模块 PM240-2 的外形尺寸图,所有数据以毫米(英寸)为单位。

Qinmingyue13的博客 2640

Hadoop编译安装2.7.3(CentOS7)

Hadoop编译安装指南(centos 7) 1 hadoop编译 1.1 为什么需要编译?          我们都知道hadoop使用JAVA语言来编写的,而官方提供的是.java文件,我们需要编译成能够被JVM可执行的.class文件。才能够再JVM上运行,才能够正常安装。 1.2我们需要准备哪些工具? 1.2.1 protobuf 1.2.1.1 protobuf简介 pro

奋斗的佘先生丶 4793

QT上位机开发(掌握一点c++基础)

【 声明:版权所有,欢迎转载,请勿用于商业用途。 联系信箱:feixiaoxing @163.com】 c++是c语言的补充和扩展,本身的语法构成也是在一直迭代中。相信很多同学上大学读书的时候,或多或少对c语言有所了解,对它的变量、指针、函数也应该不陌生。既然大家都有c语言基础的话,那么在这方面稍微拓展一下的话,就可以学会c++了。当然c++本身的内容很多,很多方面还很琐碎,但我们学习的时候还是应该把精力放在那些经常使用到的语法上面。

嵌入式-老费,一个分享专业嵌入式知识的blog 1131

CentOS 7.x 编译hadoop 3.1.2

编译hadoop 3.1.2 前提:假设CentOS已经安装完成,并且以下操作全部使用root账户 第一步 配置环境 安装并配置好JDK、MAVEN、ANT 注意,如果是自己下载好的JDK gz包,然后自己配置的话,需要先yum remove java*删除所有系统自带的JDK。 为了在最后一步编译Hadoop时能够快点,请自己在Maven配置文件中配置好国内的镜像源。 命令参考(如果...

Alisebeast的博客 947

SAP 系统间 SSO 的真正价值,从 SM59 到可信 RFC 的安全设计

SAP S/4HANA系统间Single Sign-On(SSO)的核心价值在于集中管理通信身份与信任关系,而非仅减少密码输入。传统固定账号密码方式在系统规模扩大后会面临密码管理、审计追踪等挑战。通过SM59配置可信RFC目标系统,结合SSL证书或SAP Trusted System等强认证机制,能有效降低安全凭据暴露风险。SSO配置需配合授权对象、角色管理等建立清晰的信任边界,实现系统间安全通信的同时保持可审计性。这种方案特别适用于Fiori前端与S/4HANA后端等场景,通过可信RFC传递用户身份,避免

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 1063

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

centos7编译hadoop2.7.3

转自:http://www.cnblogs.com/duking1991/p/6104304.html 文中所需工具下载地址:http://download.csdn.net/detail/wzq6578702/9817101 1.工具准备,最靠谱的是hadoop说明文档里要求具备的那些工具。到hadoop官网,点击source下载hadoop-2.7.3-src.tar.gz。解压之tar -

wzq6578702的专栏 703

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Hadoop2.7.3源码编译

环境: CentOS release 6.5 jdk1.8 maven3.5.0 Hadoop2.7.3 protocbuf 2.5.0 这里选择的Linux环境下面编译,因为这个Windows下面出现了很多问题1、环境安装 这里 jdk maven 这些的安装 不在做介绍了,这里重点介绍一下protocbuf的安装安装依赖库(重要), 这个必须安装,不同操作系统安装不一样,如果不安

Xlucas的博客 875

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

CentOS7.3编译Hadoop2.7.4

一、  背景 Hadoop官网提供的编译包如hadoop-2.7.4.tar.gz为Linux32位环境编译,其中native library在64位环境中运行会出现异常。因而在64位生产环境中使用的Hadoop是需要下载源代码并在64位系统中进行成功编译后的版本。   二、  环境 CentOS Linux release 7.3.1611 JDK 1.8_144 MAVEN 3.5

技术日志 677

CentOS7下编译Hadoop-2.7.3全过程详解

1.工具准备,最靠谱的是hadoop说明文档里要求具备的那些工具。 到hadoop官网,点击source下载hadoop-2.7.3-src.tar.gz。 解压...

一个有趣、有料、有内涵的地方! 313

CentOS6.5上编译Hadoop2.6.4、2.7.3

64位centos 下编译 hadoop 2.6.4、2.7.3 源码

梓纾的专栏 1904

hadoop 2.6 java 1.8_编译hadoop2.7.3-亲自在centos7+jdk1.8上测试过

2.安装maventar -zxvf apache-maven-3.3.3-bin.tar.gz -C /usr/local/src/mv apache-maven-3.3.3-bin maven4.安装protobuf编译依赖,为了编译安装protoc,需要使用YUM下载几个依赖的工具yum install -y gcc gcc-c++ make cmake5.解压安装protobuftar -...

weixin_36331580的博客 145
上一篇: hadoop 伪分布式配置关键点
下一篇: UML基础
go_sparrow
博客等级 码龄11年 25粉丝 257原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值