2020-10-11【学习笔记】【企业数据湖】九、基于Apache Hadoop存储数据(3)

本文介绍了Hadoop及其生态系统中的关键组件,包括数据访问/处理工具如Apache Pig和Hive,数据存储解决方案HBase,以及监控和管理工具Zookeeper等。此外还概述了Hadoop支持的主要数据格式和几种流行的Hadoop发行版。

四、Hadoop生态系统

除了核心组件外,hadoop还包括了许多构建在核心组件之上的工具和库,统称为Hadoop生态系统

Hadoop生态系统中的组件可以按照其功能进行分类,:

数据访问/处理组件(Apache Pig、Hive)

数据存储组件(Hbase)

监控、管理和协调组件(Zookeeper,Oozie,Ambari)

数据集成组件(sqoop,Flume)

五、Hadoop发行版

  • CDH(Cloudera Data Platform)
  • HDP(Hortonwork Data Platform)
  • MapR
  • Altiscale
  • Amazon Elastic mapReduce

六、HDFS和数据格式

  • Hadoop支持存储多种传统格式的文件,但是更倾向于一些特定的格式:
  • 文本存储(csv,TSV,JSON,JavaScript等)
  • Avro
  • 序列文件
  • 列式文件格式
  • Parquet
  • RCFile
  • ORCFile
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值