Read note of HDFS User Guide

HDFS集群版本升级执行步骤 1 概述本文档用于没有配置高可用的HDFS集群版本升级执行的详细步骤说明,版本由2.7.3升级到2.9.0。2 前提条件假设已有安装配置好整合了Kerberos的HDFS集群和YARN,本文使用5台服务器,角色分别为:hadoop0:NameNode、SecondaryNameNode、ResourceManagerhadoop1:DataNode、NodeManagerhadoop2:DataN... 阅读详情

CheckPoint Node:

The Checkpoint node's memory requirements are on the same order as the NameNode. The Checkpoint node is started by (execute on checkpoint node)

bin/hdfs namenode -checkpoint 

two configuration parameters

  • dfs.namenode.checkpoint.period, set to 1 hour by default, specifies the maximum delay between two consecutive checkpoints
  • dfs.namenode.checkpoint.txns, set to 1 million by default, defines the number of uncheckpointed transactions on the NameNode which will force an urgent checkpoint, even if the checkpoint period has not been reached.

Backup Node:

As the Backup node maintains a copy of the namespace in memory,its RAM requirements are the same as the NameNode.

The NameNode supports one Backup node at a time.No Checkpoint nodes may be registered if a Backup node is in use. 

The Backup node is started by (execute on Backup node)

bin/hdfs namenode -backup

Import CheckPoint

The latest checkpoint can be imported to the NameNode if all other copies of the image and the edits files are lost. In order to do that one should:

  • Create an empty directory specified in the dfs.namenode.name.dir configuration variable;
  • Specify the location of the checkpoint directory in the configuration variable dfs.namenode.checkpoint.dir;
  • and start the NameNode with -importCheckpoint option.


Balancer all datanode

To start: 
       bin/hadoop-daemon.sh start balancer [-threshold <threshold>] 
       Example: 

bin/hadoop-daemon.sh start balancer
start the balancer with a default threshold of 10% 
bin/hadoop-daemon.sh start balancer -threshold 5
start the balancer with a threshold of 5% 

To stop: 

bin/hadoop-daemon.sh stop balancer

Recovery mode

However, what can you do if the only storage locations available are corrupt? In this case, there is a special NameNode startup mode called Recovery mode that may allow you to recover most of your data.

You can start the NameNode in recovery mode like so: namenode -recover

Recovery mode can cause you to lose data, you should always back up your edit log and fsimage before using it.


HDFS Upgrade and RollBack

Before upgrading, administrators need to remove existing backup using bin/hadoop dfsadmin -finalizeUpgrade command. The following briefly describes the typical upgrade procedure:

  • Before upgrading Hadoop software, finalize if there an existing backup. dfsadmin -upgradeProgress status can tell if the cluster needs to be finalized.
  • Stop the cluster and distribute new version of Hadoop.
  • Run the new version with -upgrade option (bin/start-dfs.sh -upgrade).
  • Most of the time, cluster works just fine. Once the new HDFS is considered working well (may be after a few days of operation), finalize the upgrade.Note that until the cluster is finalized, deleting the files that existed before the upgrade does not free up real disk space on the DataNodes.
  • If there is a need to move back to the old version,
    • stop the cluster and distribute earlier version of Hadoop.
    • start the cluster with rollback option. (bin/start-dfs.h -rollback).









 

性能测试 hive Use ANALYZE table columns 测试记录数: 346804534  数据大小:20GB select eventchannel from event8 where pdate = '2015-09-01' and lower(eventchannel) rlike 'window' and eventsourcemachine rlike 'changhong' group by eventchannel having 阅读详情

相关推荐

SPARK & HIVE现在ACID的支持现状

在讨论之前,先介绍ACID是什么。 原子性(Atomicity) 原子性是指事务是一个不可分割的工作单位,事务中的操作要么都发生,要么都不发生。 一致性(Consistency) 事务前后数据的完整性必须保持一致。 隔离性(Isolation) 事务的隔离性是多个用户并发访问数据库时,数据库为每一个用户开启的事务,不能被其他事务的操作数据所干扰,多个并发事务之间要相互隔离。 持久性(...

Kelvin Liang Study Footprint 1518

HDFS集群常见异常及排查步骤

HDFS集群常见异常及排查步骤

qq_38472451的博客 224

【信息科学与工程学】【数据中心】第三十五篇 云计算数据中心的学科知识04

编号学科(课程)核心知识点在云计算/云存储/云网络/云安全/云MaaS中的作用代表教材/资料/论文 + 数学方程式列表工业界应用D1421​云原生数据库:TiDB​HTAP(混合事务/分析处理)、分布式SQL、水平扩展、强一致(Raft)、自动故障恢复、与MySQL兼容、TiFlash列式引擎提供弹性扩展的分布式数据库;支撑高并发在线交易与实时分析教材:《TiDB in Action》PingCAP(2020) 论文:《TiDB: A Raft-based HTAP Database》(2017)

weixin_49199313的博客 397

HDFS安装和启动出错的修复步骤

HDFS安装和启动出错的修复步骤 问题: 对于HDFS的安装过程中,导致HDFS不能正常启动,表现为 NameNode is not format,或者clusterId不匹配。对于这种情况,随意地格式化NameNode不一定能解决问题,因为NameNode格式化会生成新的clusterId,导致集群中的其他服务器的ID与其不匹配,不能进行连接。 步骤 1.start all journalnode journalnode 是复制集群之间的通信,必须启动它,保证集群之间的正常交互。 2.stop all d

呼吸 1267

从OFED到rdma-core:手把手带你搞定Linux下RDMA开发环境的选型与搭建

本文详细介绍了在Linux系统下搭建RDMA开发环境的完整流程,涵盖OFED与rdma-core的选型对比及分步安装指南。针对高性能计算和分布式存储需求,解析RDMA技术栈的核心组件,提供环境验证与性能测试方法,帮助开发者快速构建稳定高效的开发环境。特别适合需要优化网络性能的工程师参考。

weixin_26905487的博客 225

从零构建:ESP32S3无线DAP-Link调试器的硬件与软件协同设计

本文详细介绍了基于ESP32S3的无线DAP-Link调试器的硬件与软件协同设计,涵盖关键元器件选型、无线通信协议优化、双核任务处理及低功耗调试方案。通过ESP-NOW协议实现低延迟无线调试,结合USB协议栈与双核协同,为嵌入式开发提供高效灵活的调试解决方案。

gitlab7runner的博客 857

生产调优HDFS—故障排除

生产调优HDFS—故障排除 注意:采用三台服务器即可,恢复到 Yarn 开始的服务器快照。 NameNode 故障处理 1)需求: NameNode 进程挂了并且存储的数据也丢失了,如何恢复 NameNode 2)故障模拟 (1)kill -9 NameNode 进程 (2)删除 NameNode 存储的数据(/opt/module/hadoop-3.1.3/data/tmp/dfs/name) rm -rf /opt/module/hadoop3.1.3/data/dfs/name/* 3)问题解决

weixin_44966780的博客 791

从工创赛实战到开源:一个高鲁棒性智能物流视觉系统的构建与优化

本文分享了从工创赛实战中构建高鲁棒性智能物流视觉系统的完整经验。针对赛场复杂光线环境,详细阐述了摄像头选型、基于CLAHE和形态学梯度的抗干扰色环识别算法、卡尔曼滤波状态估计以及多线程串口通讯与任务调度等核心优化策略,旨在打造一个稳定可靠的视觉系统,并已将相关代码开源。

weixin_29046035的博客 315

Hadoop 系统管理 (Administering Hadoop)

1.  HDFS 1.1 永久性数据结构( Persistent Data Structures ) 作为管理员,对 HDFS 组件 ———— the namenode, the secondary namenode, and the datanodes 等在磁盘上如何组织它们的持久化数据有一个基本理解是非常重要的。     Namenode 的目录结构( Namenode direct...

devalone 的专栏 905

Dify安装使用说明

dify可以说是一个功能不错的LLMOps,可以通过dify集中管理模型,可以通过界面创建AI应用,可以上传文档形成知识库,可以创建自定义工具(API),并可以对外提供API。相关功能类似Openai的GPTs或智谱的智能体,其他大厂的大模型也有类似功能,不过貌似只有dify是开源的。这就为个人本地部署AI应用提供了便利。

龙井茶的Sky 1万+

彻底解决JDK安装包点击后无反应

jdk双击无法安装,jdk双击没反应,jdk安装包双击后没反应。

renkai721的专栏 8937

HDFS 用户手册(Apache Hadoop 2.1.1-beta)

(Apache Hadoop 2.1.1-beta,摘自http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsUserGuide.html) 目的 概述 先决条件 Web接口 Shell命令 DFS管理命令 备用NameNode Checkpoint节点 Backup节点 引入检查点

guxch的专栏 5123

YOLO26-seg分割优化:轻量化卷积魔改 | 新的partial convolution(PConv)结合C3k2 | CVPR2023

​​​​​摘要:本研究对Ultralytics YOLO26进行了全面分析,重点阐述了其关键架构改进及其在实时边缘目标检测中的性能基准测试。YOLO26于2025年9月发布,是YOLO系列最新、最先进的成员,专为在边缘及低功耗设备上实现高效、精确且易于部署的目标而构建。本文依次详述了YOLO26的架构创新,包括:移除了分布焦点损失(DFL);采用端到端的无NMS推理;集成了渐进损失(ProgLoss)与小目标感知标签分配(STAL);以及引入了用于稳定收敛的MuSGD优化器。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 149

hadoop-HA集群搭建,启动DataNode,检测启动状态,执行HDFS命令,启动YARN,HDFS权限配置,C++客户端编程,常见错误...

本篇博文为整理网络上Hadoop-HA搭建后出来的博客,参考网址为:http://blog.chinaunix.net/uid-196700-id-5751309.html 3.部署 3.1.机器列表 共5台机器(zookeeper部署在这5台机器上),部署如下表所示: NameNode JournalNode DataNode ZooK...

weixin_34392843的博客 944

NVIDIA Jetson之远程控制软件NoMachine安装使用

参考:https://www.bilibili.com/video/BV1cg4y1i776?t=12 0 背景

ZONGXP的博客 1万+

有道龙虾LobsterAI vs. OpenClaw:对比与安装部署攻略

LobsterAI是"中国版OpenClaw",更注重易用性和中文场景适配;OpenClaw是技术极客的玩具,需要大量命令行操作。

lpfasd123的博客 2393

Ambari 操作指南 (Ambari Operations) 之四

继  (Ambari 操作 (Ambari Operations) 之三 :      https://blog.youkuaiyun.com/devalone/article/details/80813176 )8 启用服务自动启动 (Managing Alerts and Notifications)-----------------------------------------------------...

devalone 的专栏 1万+

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

hdfs增加ns之后,重启DN报clusterId不匹配错误

在测试环境准备测试FastCopy,因为之前只有一个NS,准备增加一个NS也便于测试,一切都准备妥当之后,重启DN,但是DN死活连接不上新的NN,报以下错误:

快乐程序员的专栏 3190

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

impala+hue

下载impala 和 hue http://www.cloudera.com/documentation/enterprise/latest/topics/cdh_vd_cdh_package_tarball.html https://archive.cloudera.com/cdh5/redhat/7/x86_64/cdh/5.5.0/RPMS/x86_64/ impala  i

Kelvin Liang Study Footprint 3012

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

说说我对spark-sql的job的参数调优

首先要说的是机器配置 namenode/datanode:  cpu : 8core  memory: 56G 我现在是基于yarn+spark的架构来说。 现在设置 yarn.nodemanager.resource.memory-mb =51200 (50GB)  --每个node可以最多使用50GB作为 container 的分配 yarn.scheduler.minimum

Kelvin Liang Study Footprint 2736

Experience on Namenode backup and restore --- checkpoint......

Hadoop version: Hadoop 2.2.0.2.0.6.0-0009 Well, We can do this by building Secondary Namenode, Checkpoint node or Backup node. Example: Assuming you have a Secondary Namenode. 1. Check secondary n

Kelvin Liang Study Footprint 1315

Experience on Namenode backup and restore --- checkpoint

Hadoop version: Hadoop 2.2.0.2.0.6.0-0009 Well, We can do this by building Secondary Namenode, Checkpoint node or Backup node. Example: Assuming you have a Secondary Namenode. 1. Check sec

Kelvin Liang Study Footprint 1287

CentOS7安装篇(hadoop平台搭建)

为了更好学习大数据,需要搭建一个学习的环境。有误的地方希望大家共同指教。 首先介绍下我的硬件: 2台pc机, 酷睿i7 ,16G 内存, 2T 硬盘 =============================================================================== 安装虚拟机VMware 10.0 在VMware上安装系统 CentOS7

Kelvin Liang Study Footprint 1274

restore hadoop primary namenode from secondary namenode checkpoint step by step

senario  1) install namenode

Kelvin Liang Study Footprint 988

HDFS daily maintenance,, useful command

Hadoop version: Hadoop 2.2.0.2.0.6.0-0009 1.datanode report cmd>%hadoop_home%/bin/hdfs dfsadmin -report2.datanode balancer cmd>%hadoop_home%/bin/hdfs balancer -threshold 5 -policy datanode 3. Re

Kelvin Liang Study Footprint 862
上一篇: Some note on using Hivesdfwq-0.123312.0.2.0.6.0-0009
下一篇: Experience on Namenode backup and restore --- checkpoint......
Kelvin-Liang
博客等级 码龄18年 9粉丝 32原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值