cm+cdh集群配置

OpenGauss6.0+CM集群搭建 openGauss+CM集群一主两备高可用搭建,可实现主备切换,故障恢复; 阅读详情

1.集群规划

3台主机 版本TencentOS Server2.4

2.部署前准备工作
1.修改hosts文件,添加主机映射(集群每个主机的,新增自后需要修改)
vim /etc/hosts

3.配置新用户免密(待完善,大家自己找教程吧)

ssh-keygen -t rsa  # 生成
ssh-copy-id # 配置免密
ssh-copy-id -i ~/.ssh/id_rsa.pub alice@kf-191-107 # 复制到用户

4.时钟同步(==注意123端口是否能够连通==)

yum -y install ntp                   #安装ntp
vim /etc/ntp.conf                    #修改配置 设置
#注释掉所有server *.*.*的指向,新添加一条可连接的ntp服务器  我使用的是阿里云的NTP服务器
server ntp1.aliyun.com iburst
#在其他节点上把ntp指向master服务器地址即可
server 192.168.158.10 iburst
#安装完成后设置ntp开机启动并启动ntp
systemctl enable ntpd
systemctl start ntpd
#查看状态
systemctl status ntpd

5.mysql 安装
版本不要超过5.x,除非你的cm版本更高

#官网下载安装包,版本低一些

在这里插入图片描述

6.关闭防火墙
7.关闭selinux

vi /etc/selinux/config
#修改配置项:SELINUX=disabled,默认:#SELINUX=enforcing

8.安装需要的包

yum install -y bind-utils libxslt cyrus-sasl-plain  portmap fuse-libs /lib/lsb/init-functions httpd mod_ssl openssl-devel python-psycopg2 Mysql-python fuse php-devel php-pear httpd-devel krb5-devel cyrus-sasl-gssapi cyrus-sasl-deve libxml2-devel libxslt-devel openldap-devel python-devel python-simplejson sqlite-devel

9.上传驱动到/usr/share/java 这是默认路径

10.安装java(就用yum安装吧 不然老是版本不适配,真是醉了)

yum -y install java-1.8.0-openjdk
yum install java-1.8.0-openjdk-devel.x86_64 #扩展包 
3.cm安装
3.1.解压安装
tar -xvf cm6.3.1-redhat7.tar 
mv cm6.3.1 cm6
cd /opt/soft/cm6/RPMS/x86_64
#所有机器都要安装
rpm -ivh cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm --nodeps --force
#仅sever
rpm -ivh cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm --nodeps --force
#所有agent
rpm -ivh cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm --nodeps --force
3.2.初始化数据库
#数据库不在一个机器上就用远程登录命令写 参数分别是: 数据库 用户名 密码 ,跟后面db.properties保持一致
cd /opt/cloudera/cm/schema
./scm_prepare_database.sh mysql -uroot -proot cmf cmf cmf
3.3.修改agnet配置文件
vim /etc/cloudera-scm-agent/config.ini 
# Hostname of the CM server.
# 修改server_host=主机名
3.4.修改server配置文件
vim /etc/cloudera-scm-server/db.properties
#修改元数据库信息
4.上传离线parcel-6.3.2

ps:有的会sha1结尾的文件,名字把1去掉(下图第二个)

/opt/cloudera/parcel-repo  #server机器
# 启动服务后,等待.torrent文件出现就代表parcel识别到了,然后就可以开始配置集群了

在这里插入图片描述

5.启动
# server
systemctl status cloudera-scm-server
systemctl start cloudera-scm-server
systemctl stop cloudera-scm-server

#agent
systemctl start cloudera-scm-agent
systemctl status cloudera-scm-agent
systemctl stop cloudera-scm-agent
6.开始配置集群
6.1 配置parcel

在这里插入图片描述

6.2 点配置,修改为5分钟一次,直接点检查好像没用(可能需要扫描吧),等到服务器上.torrent文件出现

在这里插入图片描述

6.3 接下来就添加集群

在这里插入图片描述
02.
在这里插入图片描述

03.选免费
在这里插入图片描述

04.等待一会儿进入如下界面,继续

05.起个名字
在这里插入图片描述
06.因为我们已经手动安装了配置了agent和server,这里选择管理主机,如果你的agent不在里面,查找日志或者配置,正常都在
在这里插入图片描述
07.继续
在这里插入图片描述
08.等待(腾讯云 TencentOS Server 有没有用过的😭😭😭 卡住了草)
在这里插入图片描述

【我和openGauss的故事】openGauss特性CM支持两节点部署特性 CM(Cluster Manager)是一款数据库管理模块。支持自定义资源监控,提供了数据库主备的状态监控、网络通信故障监控、文件系统故障监控、故障自动主备切换等能力。提供了丰富的数据库管理能力,如节点、实例级的启停,数据库实例状态查询、主备切换、日志管理等。提供了通过REST接口远程查询和接收集群状态的能力。 阅读详情

相关推荐

(史上最全傻瓜式教程)CM+CDH安装搭建全过程

一、安装前准备 1.1、官网教程 文档地址: https://docs.cloudera.com/documentation/enterprise/6/6.3/topics/install_cm_cdh.html 1.2、安装环境 主机名 操作系统 角色 IP地址 cdh100 Centos 7.6 主节点 192.168.3.10

Pizza_great的博客 8927

CDH-集群部署

这里写目录标题一、前期准备1、集群准备1.1 准备三台设备1.2 修改三台设备的主机名1.3 修改IP地址(其他两台设备同时设置)2、系统环境搭建2.1 修改hosts域名映射2.1 免密登录2.3 防火墙、selinux关闭2.4 安装JDK2.5 安装NTP(只需要在cdh1)2.6 修改系统参数(cdh1)2.7 安装httpd3、下载第三方依赖包(每台都装)4、安装MySQL(cdh3)4.1首先查看自己的集群中是否安装mysql数据库4.2 依次安装4.3 进入mysql数据库![在这里插入图片描

L先生 2645

CM 5.10离线安装实战:从环境配置到CDH集群部署避坑指南

大数据平台的稳定运行离不开高效的集群管理工具,而Cloudera Manager(CM)作为经典的CDH管理中枢,在离线内网环境下的部署一直是运维同学的关注焦点。CM 5.10作为成熟版本,其离线安装方式不仅适用于隔离网络搭建测试环境,也是老集群迁移回滚的可靠选择。文章中详细梳理了CentOS 7系统下JDK版本选择、MySQL配置、SELinux设置等前置准备,解释了从解压离线安装包、初始化数据库到启动Server/Agent的完整链路,并针对Parcel分发、角色分配等关键步骤提供了可复用的参数建议。通

weixin_29054245的博客 189

CM操作是什么

CM操作是什么

大连赵哥的博客 589

CM_CDH大数据集群搭建总结.zip

集群运维搭建,搭建hdfs,hadoop,hbase,spark,oozie,sqoop,MR,zookeeper,hive

CM5和CDH5 搭建Hadoop 集群

详细安装过程,各种报错和问题的解决方法。步骤很清晰。

CDH快速入门系列(2) | CM集群安装

  此篇为大家带来的是CM集群安装。 目录一. 提前准备1.1 下载第三方依赖1.2 创建CM用的数据库二. CM安装部署2.1 解压cloudera-manager-el6-cm5.12.1_x86_64.tar.gz2.2 创建用户cloudera-scm(所有节点)2.3 配置CM Agent2.4 配置CM的数据库2.5 分发cloudera-manager2.6 启动和关闭CM Server&Agent 服务2.7 web端查看 一. 提前准备 1.1 下载第三方依赖 //在三台节点(所

不温卜火 6469

Vectorless dynamic动态功耗分析——Voltus

power 计算工具会根据设计信息和用户提供的activity和switching约束来生成虚拟的worst-case的power vector,难点在于哪些instances视为switching,在没有仿真的前提下如何确定开关的时间,使用timing文件(TWF)

qq_44347276的博客 2790

从已有CDH集群中配置CM HA

Hadoop的很多组件都是具有高可用性的,NameNode有HA,Zookeeper一般也是配置多个奇数个节点保证高可用,HBase Master可以配置多个做HA,DataNode、RegionServer等一般情况下都是配置成多个,保证数据的三副本。 大多数据情况下,我们在安装Cloudera集群的时候对于Cloudere Manager这块可能只会默认装在一个节点,且一般情况下会安装在根目录。由于根目录磁盘一般会配置成RAID1,所以即使根目录磁盘坏了一块,也不影响CM服务。 不过在某些特殊的情况下,

数据源的港湾 1366

别再手动算K值了!ZEMAX中两种锥透镜建模方法详解(标准面 vs. 轴锥面)

本文详细解析了ZEMAX中锥透镜的两种建模方法:标准面与轴锥面。通过对比两者的精度、计算效率和适用场景,帮助工程师在激光整形、光束匀化等应用中做出最优选择,并提供了参数设置和异常排查的实用技巧。

weixin_42548874的博客 323

Linux 系统管理员必备:Chrome 企业版离线部署全攻略(含 RPM/DEB 双版本)

本文详细介绍了Linux系统管理员如何离线部署Chrome企业版,涵盖RPM和DEB双版本。从获取官方离线安装包到静默安装、权限配置及企业级策略管理,提供全流程解决方案,特别适合Ubuntu等DEB系系统管理员参考。

f9g0h的博客 490

ansible安装部署CDH集群,与手动安装部署CDH集群,及CM配置和用户权限配置

前言 CDH大数据平台 CDH是Cloudera发布的一个自己封装的Hadoop商业版软件发行包,里面不仅包含了Cloudera的商业版Hadoop,能够十分方便地对Hadoop集群进行安装,部署和管理,同时CDH中也包含了各类常用的开源数据处理与存储框架,如Spark,Hive,HBase等。 部署Hadoop集群的时候,可以选择Cloudera Express免费版本。这个版本包含了CDH以及Cloudera Manager核心功能,提供了对集群的管理功能,比如自动化部署,中心化管理,监控,诊断功

阿啄debugIT 1390

手把手教你搭建离线语音助手:FunASR+DeepSeek+TTS保姆级教程

本文详细介绍了如何利用FunASR、DeepSeek和TTS技术搭建离线语音助手系统。从环境配置、模型部署到唤醒词检测优化、语音识别与语义理解联调,再到语音合成与系统集成,提供全链路实战教程。特别适合智能家居控制、企业内部知识问答等需要数据隔离的场景,实现高响应、低延迟的离线语音交互体验。

weixin_30316097的博客 476

CM和CDH

零、前言-CM和CDH的区别 1.Cloudera Manager包括server端和agent;server端主要作用是监控集群,分发配置集群等,agent端主管集群各节点 2.CDH是CM的安装包,本地或者云端,其中包括hadoop的生态系统需要的所有组件,通过Cloudera Manager统一管理和安装 3.CDH除了可以通过cm安装也可以通过yum,tar,rpm安装 一、Clo...

yang灬仔 2722

innovus中path group 的策略和应用(上)

在所有的后端工具里边,有三个重要的引擎:auto-place,CTS,auto-route三个。这里边的auto-place是决断了整个设计时序的基点。。当然,就算是到了CTS/route阶段后,也可以继续利用auto-place数据优化的功能,在数据库上做数据路径增量优化(optDesign -increment)。可以说,数据路径的优化手段,实际上是贯穿在整个后端流程上的。。看看这其中的奥妙和有趣的事情。ICer GO!

i_chip_backend的博客 4220

Google Earth Engine(GEE)——全球影像数据正确下载方式和注意事项

今天看到有人担心全球影像能不能下载的问题? 有时候我们会用到全球的数据,但是如何下载全球的数据呢? 首先如果没有全球的矢量边界我们会不会无法下载全球的数据,答案当然是可以的,因为我们在边界筛选的过程中filterBounds(),就是为了筛选边界,当我们不进行边界筛选的时候,自然而然默认的边界范围就是全球的,但是紧接着会面临其他两个问题:1如何下载?2如何在不缩小分辨率的情况下下载成功? 对于第一个问题我们如何下载?还是按照正常的逻辑利用export直接倒出到Google硬盘当中, 代码:

此星光明博客 3772

使用CM安装部署CDH集群的一个总结

第一 安装mysql,和 java jdbc-mysql 的一个jar包 添加到 java 中 第二 2.1安装Cloudera Manager Server 三个包 [root@h1 cloudera-scm-server]# yum search cloudera =========================== N/S matched: cloudera ============================ cloudera-manager-agent.x86_64 : Th..

Axel_Fran的博客 824

YOLO11 锚框机制全解析:从改进 K-means 聚类到自适应优化,附多场景实战(附代码)

摘要 YOLO11的锚框机制采用"自适应、动态化、场景感知"的设计理念,通过数据驱动的锚框生成、多尺度感知分配和实时优化策略,显著提升目标检测性能。相较于早期YOLO版本,YOLO11的锚框完全基于训练集目标分布自适应生成,并引入智能分配策略,使不同尺寸目标获得最优匹配。技术架构包含自适应锚框生成、多尺度分配器和动态优化模块,通过改进的K-means聚类和交并比计算实现精准匹配。YOLO11锚框机制在检测精度、训练稳定性和场景适应性方面均有显著提升,为复杂场景下的目标检测提供更优解决方案

本博客聚焦 YOLOv11 全流程落地,涵盖架构优化、数据集处理、训练技巧与多场景部署,兼及国产数据库、Java 开发与 AI 模型应用,内容兼顾理论与工程实践,为开发者提供系统干货,助力高效提升技术能力。 1321

CDH大数据集群搭建

目录简介1. 软件环境2. 虚拟机配置2.1 设置网络IP(NAT模式)2.2 关闭防火墙2.3 永久修改设置主机名2.4 配置映射文件2.5 配置ssh免密登录2.6 安装jdk2.7 关闭selinux 安全模块3.环境准备3.1 私有网络软件仓库3.1.1 上传镜像3.1.2 挂载镜像3.1.3 安装http(如果已经安装可以省略,但是需要启动,一b般最小化安装不会安装此服务)3.1.4 安...

dfyBlog的博客 1010

一文弄懂Word2Vec之skip-gram(含详细代码)

目录 前言 一、什么是Skip-gram算法 二、目标是什么 三、定义表示法 3.1 one-hot向量 3.2 词向量(word vector) 3.3 单词矩阵 3.4 单词相似度 3.5 softmax函数 3.6算法过程 3.7 求softmax 四、skipgram代码实现 4.1 如何把词转换为向量 4.2 CBOW和Skip-gram的算法实现 Skip-gram的理想实现 Skip-gram的实际实现 4.3 使用Pytorch实现Skip-gram .

Python,数据分析,机器学习,深度学习 1万+

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

CDH集群配置目录汇总

CDH集群配置目录汇总1、CDH目录汇总2、CM详解2.1 Service Monitor:2.2 Host Monitor:2.3 server/agent配置目录2.4 server/agent日志目录2.5 Parcels包安装目录2.5.1 服务软件包数据(parcels)2.5.2 服务软件包缓存数据2.6 CDH配置数据库连接信息脚本目录3、CDH安装路径4、CDH组件详解4.1 组件安装目录4.2 组件配置路径4.3 组件shell客户端命令4.4 组件日志目录4.5 服务运行时所有组件的配置

Tate的博客 6883

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

CDH6.2.1安装步骤

1.CM部署准备 1.1 连接服务器 1.2 修改hosts文件 [root@hadoop001 ~]# vim /etc/hosts 127.0.0.1 localhost localhost ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 172.17.138.24...

weixin_43956381的博客 3945

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

CDH集群离线部署(CM6.3.1 + CDH6.3.2 + CentOS7)

CDH集群部署 1.1原生Hadoop的问题 版本管理过于混乱 部署过程较为繁琐,升级难度较大 兼容性差 安全性低 1.2CDH和CM(ClouderaManager) CDH(Cloudera’s Distribution Including Apache Hadoop),是Hadoop众多分中的一种,由Cloudera公司维护,基于稳定版本的ApacheHadoop构建,并集成了很多补丁,可以直接用于生产环境。就是Hadoop等大数据安装包的第三方版本的集合,提供了Hadoop等大数据服..

小宇的博客 9166

大数据CDH安装详细教程

CDH安装

weixin_43998265的博客 2333

KeyarchOS安装CM5.13.0和CDH5.13.0

CDH提供以下特性:灵活性:能够存储各种类型的数据,并使用各种不同的计算框架进行操作,包括批处理、交互式sql、文本搜索、机器学习和统计计算。CM通过对CDH集群的各部分提供精细的可视化和控制,建立了企业级部署的标准,增强了操作人员的能力以提升性能、提升服务质量、提高合规性、降低管理成本。(将下面的三个文件按照安装前下载到这个目录下/opt/cloudera/parcel-repo),用以安装CDH5,创建parcel-repo仓库目录。12、创建parcels目录、创建/usr/share/java/

Zhuzhustu的博客 169

CM和CDH安装

CDH安装 文章目录CDH安装1、虚拟机配置2、安装包和yum准备2.1 yum配置2.2 安装准备3、前置操作3.1 host配置3.1.1 修改hostname3.1.2 修改hosts文件(所有节点都一致)3.2 防火墙配置3.2.1 关闭防火墙3.2.2 关闭selinux3.3 免密登陆配置3.4 NTP配置3.4.1 NTP client安装3.4 JDK安装3.4.1 检查并卸载自带jdk3.4.2 安装jdk3.5 安装http和repo3.6 安装mysql3.6.1 安装mysql8的驱

weixin_42507440的博客 3811
上一篇: NLP学习开始
下一篇: DataSophon部署问题汇总
Aronup
博客等级 码龄7年 75粉丝 35原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值