Ambari 2.7.5+HDP 3.1.5.0部署

大数据平台HDP3.1 安装及常见问题处理 HDP平台、大数据平台运维 阅读详情

HDP(Hortonworks Data Platform)3.1.5和Ambari(Apache Ambari)2.7.5是开源的大数据平台软件。它们本身没有特别限制使用的限制,可以在符合其运行要求的计算机上自由安装和使用。

但是需要注意的是,使用这些软件可能涉及到一些许可证和法律条款方面的问题。例如,如果您在商业环境中使用HDP和Ambari,则需要了解相关的商业许可证费用和条件。此外,在某些国家或地区,可能有禁止或限制使用此类软件的法规。

因此,建议在使用HDP和Ambari之前,仔细阅读相应的许可证和法律条款,并遵守相关规定。

环境准备

yum update

配置主机名和/etc/hosts文件

cat >> /etc/hosts << EOF
192.168.110.134 hdp0.itcast.cn hdp0
192.168.110.135 hdp1.itcast.cn hdp1
192.168.110.136 hdp2.itcast.cn hdp2
EOF

使用 hostname -f 检查是否能够映射FQDN主机名

禁用selinux firewalld

setenforce 0
sed -i 's/SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config
systemctl disable --now firewalld

设置umask

为当前登录session设置umask:
umask 0022
检查设置:
umask
为每个用户设置:
echo umask 0022 >> /etc/profile

UMASK(用户掩码或用户文件创建MASK)设置在Linux计算机上创建新文件或文件夹时授予的默认权限或基本权限。
大多数Linux发行版(发行版)都将022设置为默认的umask值。
umask值为022,为新文件或文件夹授予755的读取,写入和执行权限。
umask值027为新文件或文件夹授予750读取,写入和执行权限。
Ambari,HDP和HDF支持umask值022(0022在功能上等效),027(0027在功能上等效)。
必须在所有主机上设置这些值。

主机互信(可选)

yum install -y sshpass
ssh-keygen -f /root/.ssh/id_rsa -P ''
export IP="192.168.110.134 192.168.110.135 192.168.110.136"
export SSHPASS=Unique#2022
for HOST in $IP;do
     sshpass -e ssh-copy-id -o StrictHostKeyChecking=no $HOST
done

cat ssh_key.sh

#!/bin/bash

COLOR="echo -e \\033[01;31m"
END='\033[0m'

NET_NAME=`ip addr |awk -F"[: ]" '/^2: e.*/{print $3}'`
IP=`ip addr show ${NET_NAME}| awk -F" +|/" '/global/{print $3}'`
export SSHPASS=Unique#2022
HOSTS="
192.168.10.134
192.168.10.135
192.168.10.136"

os(){
    OS_ID=`sed -rn '/^NAME=/s@.*="([[:alpha:]]+).*"$@\1@p' /etc/os-release`
}

ssh_key_push(){
    rm -f ~/.ssh/id_rsa*
    ssh-keygen -f /root/.ssh/id_rsa -P '' &> /dev/null
    if [ ${OS_ID} == "CentOS" -o ${OS_ID} == "Rocky" ] &> /dev/null;then
        rpm -q sshpass &> /dev/null || { ${COLOR}"安装sshpass软件包"${END};yum -y install sshpass &> /dev/null; }
    else
        dpkg -S sshpass &> /dev/null || { ${COLOR}"安装sshpass软件包"${END};apt -y install sshpass &> /dev/null; }
    fi
    sshpass -e ssh-copy-id -o StrictHostKeyChecking=no ${IP} &> /dev/null
    [ $? -eq 0 ] && echo ${IP} is finished || echo ${IP} is false

    for i in ${HOSTS};do
        sshpass -e scp -o StrictHostKeyChecking=no -r /root/.ssh root@${i}: &> /dev/null
        [ $? -eq 0 ] && echo ${i} is finished || echo ${i} is false
    done

    for i in ${HOSTS};do
        scp /root/.ssh/known_hosts ${i}:.ssh/ &> /dev/null
        [ $? -eq 0 ] && echo ${i} is finished || echo ${i} is false
    done
}

main(){
    os
    ssh_key_push
}

main

配置ulimt

ulimit -SHn 65535

时间同步

yum -y install chrony tree
systemctl enable --now chronyd
chronyc sources

设置swap

echo vm.swappiness = 1 >> /etc/sysctl.conf
sysctl vm.swappiness=1
sysctl -p

安装jdk1.8

tar xf jdk-8u341-linux-x64.tar.gz -C /opt/
cat >> /etc/profile.d/java.sh << EOF
JAVA_HOME=/opt/jdk1.8.0_341
PATH=\$PATH:\$JAVA_HOME/bin:\$JAVA_HOME/sbin
EOF
source /etc/profile
java -version

安装ambari

配置httpd

yum -y install httpd
tar xf ambari-2.7.5.0-centos7.tar.gz -C /var/www/html/
tar xf HDP-3.1.5.0-centos7-rpm.tar.gz -C /var/www/html/
tar xf HDP-GPL-3.1.5.0-centos7-gpl.tar.gz -C /var/www/html/
tar xf HDP-UTILS-1.1.0.22-centos7.tar.gz -C /var/www/html/

mkdir /var/www/html/libtirpc
mv libtirpc-0.2.4-0.16.el7.x86_64.rpm libtirpc-devel-0.2.4-0.16.el7.x86_64.rpm /var/www/html/libtirpc/
yum -y install createrepo
createrepo /var/www/html/libtirpc/

systemctl enable --now httpd

http://192.168.10.134/ambari/
http://192.168.10.134/HDP/
http://192.168.10.134/HDP-GPL/
http://192.168.10.134/HDP-UTILS/
http://192.168.10.134/libtirpc/

配置repo

rm -f /etc/yum.repos.d/{ambari.repo,HDP.repo,libtirpc.repo}

cat >> /etc/yum.repos.d/ambari.repo << EOF
[Ambari-2.7.5.0]
name=Ambari-2.7.5.0
baseurl=http://192.168.10.134/ambari/centos7/2.7.5.0-72/
gpgcheck=0
enabled=1
priority=1
EOF

cat >> /etc/yum.repos.d/HDP.repo << EOF
[HDP-3.1.5.0]
name=HDP Version - HDP-3.1.5.0
baseurl=http://192.168.10.134/HDP/centos7/3.1.5.0-152/
gpgcheck=0
enabled=1
priority=1

[HDP-UTILS-1.1.0.22]
name=HDP-UTILS Version - HDP-UTILS-1.1.0.22
baseurl=http://192.168.10.134/HDP-UTILS/centos7/1.1.0.22/
gpgcheck=0
enabled=1
priority=1

[HDP-GPL-3.1.5.0]
name=HDP-GPL Version - HDP-GPL-3.1.5.0
baseurl=http://192.168.10.134/HDP-GPL/centos7/3.1.5.0-152
gpgcheck=0
enabled=1
priority=1
EOF

cat >> /etc/yum.repos.d/libtirpc.repo << EOF
[libtirpc_repo]
name=libtirpc-0.2.4-0.16
baseurl=http://192.168.10.134/libtirpc/
gpgcheck=0
enabled=1
priority=1
EOF
yum makecache
yum repolist

安装ambari-server

yum -y install ambari-server
ambari-server setup
Using python  /usr/bin/python
Setup ambari-server
Checking SELinux...
SELinux status is 'disabled'
Customize user account for ambari-server daemon [y/n] (n)? y
Enter user account for ambari-server daemon (root):ambari
Adjusting ambari-server permissions and ownership...
Checking firewall status...
Checking JDK...
[1] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[2] Custom JDK
==============================================================================
Enter choice (1): 2                  
WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/jdk1.8.0_341
Validating JDK on Ambari Server...done.
Check JDK version for Ambari Server...
JDK version found: 8
Minimum JDK version is 8 for Ambari. Skipping to setup different JDK for Ambari Server.
Checking GPL software agreement...
GPL License for LZO: https://www.gnu.org/licenses/old-licenses/gpl-2.0.en.html
Enable Ambari Server to download and install GPL Licensed LZO packages [y/n] (n)? y
Completing setup...
Configuring database...
Enter advanced database configuration [y/n] (n)? 
Configuring database...
Default properties detected. Using built-in database.
Configuring ambari database...
Checking PostgreSQL...
Running initdb: This may take up to a minute.
Initializing database ... OK


About to start PostgreSQL
Configuring local database...
Configuring PostgreSQL...
Restarting PostgreSQL
Creating schema and user...
done.
Creating tables...
done.
Extracting system views...
ambari-admin-2.7.5.0.72.jar
....
Ambari repo file doesn't contain latest json url, skipping repoinfos modification
Adjusting ambari-server permissions and ownership...
Ambari Server 'setup' completed successfully.

ambari-server start
HDP3.1.5.0+Ambari2.7.5安装部署(Centos7.2) Centos7.2下载地址:http://archive.kernel.org/centos-vault/7.2.1511/isos/x86_64/CentOS-7-x86_64-DVD-1511.isoCentos7.2安装教程:http://1130739.blog.51cto.com/1120739/1738791附:CentOS官网历史发行版本下载地址:http://archive.ker... 阅读详情

相关推荐

Ambari-2.7.4和HDP-3.1.4安装(附Ambari和HDP安装包)

文章目录1. 环境及软件准备2. 准备工作2.1 关闭防火墙2.2 配置域名映射2.3 配置免密2.4 时间同步2.4.1 时间服务器配置(root用户)2.4.2 其他服务器配置(root用户)2.5 安装JDK(所有节点)2.6 安装MySQL2.7 关闭SELinux3. 安装ambari3.1 配置ambari和hdp的yum源3.1.1 安装http3.1.2 开始配置ambari和hdp源3.2 配置和安装ambari-server3.2.1 安装ambari-server3.2.2 配置数据库

AnameJL的博客 8891

【大数据】大数据 Hadoop 管理工具 Apache Ambari(HDP)

Apache Ambari 是 Hortonworks 贡献给Apache开源社区的顶级项目,它是一个基于web的工具,用于安装、配置、管理和监视 Hadoop 集群。 Ambari 目前已支持大多数 Hadoop 组件,包括 HDFS、MapReduce、Hive、Pig、 Hbase、Zookeper、Sqoop 和 Hcatalog 等。

匠人精神,持之以恒! 6003

Ambari2.7+HDP3.0安装(基于Centos7)

1.Ambari简介 Apache Ambari项目旨在通过开发用于配置,管理和监视Apache Hadoop集群的软件来简化Hadoop管理。Ambari通过其RESTful API提供了直观,易于使用的Hadoop管理Web UI。 Ambari使系统管理员可以: 设置Hadoop集群 Ambari提供了用于在任意数量的主机上安装Hadoop服务的分步向导。 Ambari处理群集的Hadoop服务的配置。 管理Hadoop集群 Ambari提供了用于在整个集群中启动,停止和重新配置Hado

小宇的博客 8826

HDP3.1.5+Ambari2.7.5安装

第一步:搭建环境准备 系统使用CentOS 7 64位 服务器节点三台: 192.168.88.166 node1 192.168.88.167 node2 192.168.88.168 node3 配置:单台8核10G 关闭防火墙与selinux vi /etc/sysconfig/selinux SELINUX=disabled systemctl stop firewalld.service systemctl disable firewalld.service systemctl statu

别人笑我太疯癫,我笑他人看不穿。 5205

HDP 3.1.4定制版HBase 2.0.2离线部署与头歌实验适配指南

HBase 是构建在 HDFS 和 ZooKeeper 之上的分布式列式存储系统,其核心原理在于通过 RegionServer 分片管理、ZooKeeper 协调元数据、WAL 与 MemStore 保障写入一致性。该技术具备高吞吐写入、毫秒级随机读、强一致性和水平扩展能力,广泛应用于实时日志分析、用户行为存储、时序数据平台等场景。针对教学与实验环境,HDP 3.1.4 打包的 HBase 2.0.2.3.1.4.0-315 版本提供了 Ambari 预集成、Java 类路径硬编码、头歌(EduCoder)

weixin_29046035的博客 206

HDP3.1.5源码下载—hadoop hbase hive

HDP3.1.5源码下载—hadoop hbase hive

HDP3.1.5.0+Ambari2.7.5安装部署(Centos7.2)所需的三台Ambari镜像

HDP3.1.5.0+Ambari2.7.5安装部署(Centos7.2)所需的三台Ambari镜像 去发现同类优质开源项目:https://gitcode.com/ 此仓库包含了在Centos7.2系统中安装部署HDP3.1.5.0和Ambari2.7.5所需的三台Ambari镜像文件。这些镜像文件为安装过程提供了必要的组件和依赖,确保了安装的顺利进行。 文件说明 Ambari Server ...

gitblog_06767的博客 374

大数据HDPAmbari2.7.7ambari-agent-2.7.7.0-0.x86-64.rpm

[大数据][HDP][Ambari][2.7.7]ambari-agent-2.7.7.0-0.x86_64.rpm Apache Ambari 是一个用于配置、管理和监控 Apache Hadoop 集群的工具。Ambari 由一组 RESTful API 和一个基于浏览器的管理界面组成。 ambari-agent是用于管理群集节点的代理器。详细安装步骤参考https://github.com/apache/ambari/

HDP3.1.5.0+Ambari2.7.5安装部署Centos7.2所需的三台Ambari镜像:大数据环境的利器

HDP3.1.5.0+Ambari2.7.5安装部署Centos7.2所需的三台Ambari镜像:大数据环境的利器 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 在现代企业中,大数据技术的应用已成为提升效率和决策质量的关键。HDP3.1.5.0+Ambari2.7.5作为大数据处理的重要工具,配合Centos7.2系统,构建了一个稳定、高效的数据处理平台。本项目提供了...

gitblog_06738的博客 373

Ambari2.75安装及HDP3.1.5集群搭建.pdf

Ambari2.75安装及HDP3.1.5集群搭建.pdf

Ambari 2.7.5及其配套的HDP和HDF资源包

包含集群部署所需的: ambari-2.7.5.0-centos7.tar.gz HDP-3.1.5.6091-centos7-rpm.tar.gz HDF-3.4.1.1-centos7-rpm.tar.gz HDP-GPL-3.1.5.0-centos7-gpl.tar.gz hdf-ambari-mpack-3.4.1.1-4.tar.gz HDP-UTILS-1.1.0.22-centos7.tar.gz jdk-8u112-linux-x64.tar jce_policy-8.zip

Ambari-2.7.5.0与HDP-3.1.5.0离线包资源介绍

Ambari-2.7.5.0与HDP-3.1.5.0离线包资源介绍 【下载地址】Ambari-2.7.5.0与HDP-3.1.5.0离线包资源介绍 本项目提供Ambari-2.7.5.0和HDP-3.1.5.0的完整离线安装包,专为CentOS 7系统设计,包含核心组件及其依赖。资源包涵盖Ambari、HDP、HDP-G...

gitblog_06703的博客 500

Ambari2.7.5+HDP3.1.5 离线安装网盘下载地址

免费的。还有HDP3.2.1等资源,欢迎下载,转发,收藏,点赞!

CentOS 7离线安装Ambari 2.7.3.0搭建大数据平台实战记录

大数据平台的建设与运维,离不开集群部署的支撑。在离线或内网隔离环境中,由于无法访问外部软件仓库,传统在线安装工具链往往失效,这给Hadoop集群的构建带来极大挑战。Ambari作为Hadoop分布式集群的一站式管理工具,其离线安装方案成为运维工程师关注的焦点。文章从基础概念切入,剖析Ambari 2.7.3.0在CentOS 7下离线部署的技术原理,重点覆盖本地yum仓库搭建、MySQL与JDK初始化、Ambari Server与Agent配置等关键环节,并结合真实工程实践,总结常见问题与排查路径,可为团队

weixin_32678995的博客 219

【论文泛读|附源码】如何进行动力学重构? 神经网络自动编码器结合SINDy发现数据背后蕴含的方程

这一篇文章叫做 **数据驱动**的**坐标发现与方程发现算法**。想回答的问题很简单,就是根据数据写方程。 想想牛顿的处境,如何根据各种不同物体下落的数据,写出万有引力的数学公式的。这篇文章就是来做这件事的。当然,这篇论文并没有从牛顿视角,完全去思考牛顿所想。而是利用现有的**深度学习技术** 和 **动力学重构的方法** 。提出了一种框架,基于现有的计算机技术,去发现物质运动背后的物理规律。 这里直接给出这篇方法的核心思路图,我们后面会逐个讲解。

qq5q13638的博客 2456

OCR模型轻量化新思路:用ONNX Runtime加速PP-OCRv4推理(附性能对比测试)

本文详细介绍了如何利用ONNX Runtime对PP-OCRv4模型进行轻量化部署与推理加速。通过模型导出优化、动态量化、线程绑定及内存复用等技巧,在树莓派、RK3588等边缘设备上实现了超过50%的性能提升,并显著降低了内存占用,为移动端OCR部署提供了完整的优化方案和实测数据对比。

weixin_29063979的博客 496

2021-08-25

Ambari2.7.5+HDP3.1.5集群部署安装包 Ambari2.7.5+HDP3.1.5集群部署安装包官网连接,用到的软件包全部整理在这里,下载连接: HDP-GPL-3.1.5 HDP-3.1.5 HDP-UTILS-1.1.0.22 Ambari-2.7.5.0 现在官网下载已经不能使用了,需要注册、收费。 下载备用链接:百度网盘 提取码:1315 ...

weixin_50413350的博客 65

从立创商城到Cadence:手把手教你实现封装格式的精准迁移

本文详细介绍了如何从立创商城获取元器件封装并精准迁移至Cadence Allegro的全流程。通过实战案例MAX31865ATP+T芯片,逐步解析Altium Designer格式转换、Cadence环境配置、封装导入验证等关键步骤,提供常见问题解决方案和效率提升技巧,帮助硬件工程师实现封装格式的高效迁移。

weixin_42519985的博客 216

PrestoSQL-345集群连接Phoenix5.0.0-HBase2.0.0-未成功

文章目录1.Phoenix/HBase服务启动2.Presto 配置 1.Phoenix/HBase服务启动 Ambari部署HBase组件之后,可以安装 PHOENIX QUERY 服务器。 把 hbase-site.xml 从 Ambari 集群下载到 Presto 集群节点 /opt/hadoopConfig/hbase-site.xml。 2.Presto 配置 vim etc/catalog/phoenix.properties connector.name=phoenix phoenix.co

TT-Learning 1278

PC网站实现微信扫码登录功能(二)

上篇我们介绍了怎么申请账号以及最后拿到appId和appSecret,如果有不清楚的可以看一下 PC网站实现微信扫码登录功能(一) 下面我就来说一下怎样在PC端怎么实现扫码登录功能。 一、进入官方文档网站 https://developers.weixin.qq.com/doc/oplatform/Website_App/WeChat_Login/Wechat_Login.html 其实官网对过程描述的已经非常细致了。并且提供了两种扫码方式。一种是跳转二维码扫描页面,另一种是内嵌式二维码。大家可以

qq_35771266的博客 3万+

DataGrip 2023.3 Windows版激活保姆级教程:从下载脚本到输入激活码,一次搞定

本文提供DataGrip 2023.3 Windows版的完整安装与授权指南,从环境准备到数据库连接管理,再到高效开发技巧与高级功能扩展,帮助开发者快速掌握这一专业数据库管理工具。内容涵盖安装步骤、初始配置、常见问题解决及性能调优技巧,适合数据库开发新手和专业人士。

weixin_30275415的博客 641

离线环境安装Ambari并替换Spark版本集成CarbonData实战

大数据组件的版本兼容性管理是集群运维中的常见挑战,尤其在物理隔离的内网离线环境中。HDP生态中Ambari虽能提供集中的监控与配置管理,但其内置Spark版本往往无法满足特定存储引擎的需求。CarbonData作为高效的列式存储格式,对Spark版本有严格适配要求,版本错配极易引发NoSuchMethodError等问题。本文从离线yum源搭建出发,详解Ambari安装要点,并通过rsync替换Spark二进制目录、保留Ambari管理能力的方式实现版本平滑切换,最后完成CarbonData jar部署与S

weixin_34189116的博客 407

【无人机编队】基于matlab虚拟leader无人机编队仿真【含Matlab源码 3279期】

虚拟leader无人机编队仿真 完整代码,包运行;可提供运行操作视频!适合小白!

订阅付费专栏Matlab(奶茶价版),可赠送奶茶价版付费专栏指定代码1份; 837

关于Centos7.3安装Ambari2.4.2+HDP2.5.3搭建大数据集群的笔记(上)

主机环境: Centos7.3(一台) Ambari2.4.2 HDP2.5.3 正常安装Centos7.3操作系统,相关教程很多,在此不多作描述。 1.安装后登录root用户,进行权限认证: vim /etc/gdm/custom.conf 在[daemon]下方进行添加: AutomaticLoginEnable=true A...

彬正的博客 435

Python 爬虫实战:亚马逊 + eBay 商品信息跨平台抓取(价格 / 销量 / 评价对比)

亚马逊和 eBay 是全球知名的电商平台,拥有海量的商品信息。对于消费者来说,比较不同平台上的商品价格、销量和用户评价可以帮助他们找到性价比最高的商品。对于商家而言,了解竞争对手的商品信息有助于优化自身的产品策略和定价策略。然而,手动在两个平台上逐一比较商品信息是非常耗时且低效的。因此,开发一个能够自动抓取并对比这两个平台商品信息的爬虫工具具有重要的实际意义。

yansideyucsdn的博客 617

【WLAN】【基础知识】WIFI那些事儿之信道和频谱(涵盖2.4G、5G、6G,全网最全)

- 从事WIFI相关开发或测试工作,经常要和信道、频宽、频率等打交道,本文仅将平时涉及的2.4G、5G、6G的信道、频宽、频率等做一总结。 - 一图胜万言,本文汇总了工作中经常用到的频谱图,保证全网最全!!! - 本博客地址,https://blog.csdn.net/qxhgd,欢迎各位关注,转发请注明出处。

一介草民,只为生活。 1万+
上一篇: Prometheus+Grafana监控部署
下一篇: docker-compose部署ELK
wxwopt
博客等级 码龄7年 1粉丝 4原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值