2020-11-25

本文介绍了Hadoop分布式计算系统,它主要用于处理大于1TB的海量数据,采用Java语言开发,是Google MapReduce核心技术的开源实现。其核心模块包括HDFS和MapReduce,实现了计算和存储的高度融合。还介绍了HDFS的原型、构成、元数据,以及MapReduce的特点和适用场景。


Hadop分布式任算系统
1.主要用于对大于ITB的海量数据的处理
2.Haop采用Java语言开发.是对Goole sMnp Reluce核心技术的开系实现。
3.Halop的核心换块包括系统HDFS和分布式计算框架MopRelce,这一结构实现了计算和存储的高度精合,十分有利于面向数据的系统架构,因此已成为大数据技术领域的事实标准._
4.文件系统是Hladoop系统的重要组成部分,也是Padaop实现自动并行架的基础,Hadoope收能我为IDBB
5.HDFS原型→GFS
6.G好为分布式争统,也是一个高度各清网络文件系统,主要由一个Maate和众多chunkserver(大块设备)拘成的
Master保存着三类元数据 :
1.文件多和块的名字空间
2.从文件到快的映射
3.副本位置
主从式是云计算系统的一种方式
HDFB1.略副事略2.分块事略 在对一个文件进行存的时的重要和略
MapReduce是一种处理大数器集的编程模式
Mpeare平架能类现基于数据切分的自动并行计算
mapredc特点
1、需要在集群条件下使用
2.需要有相应的分布式文件系统的支持
3.可以在商品化集群条件下了,不需要特别的硬件友慢
4.做设节点的失效为正常情况
5.适言对大数据进行处理
6.计算向东迁移
7. 计算效率变最慢的MaP任务影响

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值