
hadoop
文章平均质量分 52
IT小鸟鸟
抽空整理一下自己学习心得,倒空自己。学点儿新东西,就码出来
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
hadoop中的各个模块及其作用
hadoop中的各个模块及其作用hdfs的组成yarn的组成hdfs的组成namenode(nn):存放元数据信息,存储文件名称,文件属性,文件块列表,所在dn节点列表。datanode(dn):存放具体的block块,检验文件。secondarynamenode(2nn):降低namenode压力,辅助作用。yarn的组成ResourceManager(rm):整个集群的资源调...原创 2019-12-11 10:10:31 · 3392 阅读 · 0 评论 -
自己会用到的一些命令
一些常用命令单独启动namenode:hadoop-deamon.sh start namenode将一个表从一个数据库移动到另一个数据库:use old_database;alter table table_a rename to new_database.table_a...原创 2019-12-05 12:50:43 · 109 阅读 · 0 评论 -
大数据入门及集群搭建(3个节点做示范)
1.大数据1.1 什么是大数据传统处理方式无法解决的大而且复杂的数据集(存储和计算)1.2 大数据的四个特性数据量大种类多速度快: 产生数据的速度快,要求时延小价值高: 整体价值,单条记录没有价值1.3 大数据价值应用2.Hadoop2.1.什么是hadoop 大数据存储和计算的一整套解决方案,软件平台2.2.hadoop的核心组件 * Common(基础设施...原创 2019-10-31 10:58:12 · 2412 阅读 · 0 评论 -
hadoop HA (高可用 high available)的搭建
为什么要搭建hadoop HA?在hadoop 2.0之前,整个hdfs集群中只有一个nn,所以一旦nn节点宕机,则整个集群无法使用。这种现象称为单点故障。解决办法: 设置2种namenodeActive namenode:只能有一个,正在活跃的,处理dn,客户端等。Standby namenode:Active nomenode的热备。...原创 2019-09-09 23:03:08 · 330 阅读 · 0 评论