Hadoop权威指南_读书笔记_第1章 初识Hadoop

Hadoop权威指南(第4版)-OReilly 2016 读书笔记 Hadoop权威指南(第4版)-OReilly 2016-ReadingNotes.md 初识Hadoop 关于MapReduce mapper和reducercombiner* HDFS p48 Hadoop2: HA,备用namenode2种HA共享存储: NFS过滤器QJM(quorum journal manager) p73 副本怎么放 由近到 阅读详情

第1章 初识Hadoop

  • 1. why hadoop?为什么不能用配有大量硬盘的数据库进行大规模数据分析

    • 答案来自于计算机硬盘的另一个发展趋势:寻址时间的提升远远不敌于传输速率的提升。寻址是将磁头移动到特定硬盘位置,进行读/写操作的过程。 它是导致硬盘操作延迟的主要原因,而传输速率取决于硬盘的带宽。
    • 如果数据访问模式中包含大量的硬盘寻址,那么读取大量数据集就必然会花费更长的时间。如果数据库系统只更新一小部分记录,那么传统的B树就更有优势。但是如果数据库有大量数据更新的时候,B树的效率就明显落后于MapReduce。
    • 通常情况下,将MapReduce视为关系型数据库的补充。
  • 2. 数据本地化

    • Hadoop尽量在计算节点上存储数据,以实现数据的本地访问。数据本地化特性是Hadoop数据处理的核心。数据处理应该在离数据本身较近的地方进行,因为这样有利于降低成本,尤其是网络带宽消费所造成的成本。
  • 3. Hadoop得名

    • Hadoop不是缩写,是生造出来的。Hadoop之父Doug Cutting 用他孩子的毛绒象玩具名取的。
  • 4. Hadoop起源

    • 谷歌2003发表的论文 “The Google File System”
Hadoop权威指南笔记1——第1章:初始Hadoop 第1章:初识Hadoop 1.1 数据!数据! ​ 我们生活在一个大数据的时代。各处都是数据 1.2 数据的存储与分析 ​ 硬盘容量在扩大,但是读写数据没有改变。就会导致读取大数据,数据变慢 ​ 那么就需要并行读取,但是会存在两个问题。 ​ 第一个问题: 硬件故障问题,故障容易照成数据丢失,所以需要进行备份。例如RAID、Hadoop的HDFS ​ 第二个问题:不同磁盘的数据需要相互结合来完成计算,这里就需要用到Hadoop的MapReduce ​ 所以,Hadoop解决了上面两个问题 1.3 查询所有数据 阅读详情

相关推荐

《Hadoop权威指南》实战教程

随着数据量的指数级增长,传统的数据处理方法已无法满足企业需求。Hadoop,作为一个开源的分布式计算框架,应运而生,旨在高效地处理大规模数据集。本章将介绍Hadoop的起源、它如何解决大规模数据存储和处理问题以及它的核心价值。Hadoop由Apache软件基金会支持,它将大数据处理任务分散到由廉价的商用硬件组成的集群上,从而提供了高可靠性、可扩展性和高效率。在Hadoop的生态系统中,数据不再依赖于单一的故障点,降低了数据存储和处理的成本。

weixin_28888459的博客 834

Hadoop学习第一章_初识Hadoop

Apache软件基金会开发的分布式计算平台 —核心—>HDFS(分布式文件系统)和MapReduce(Google MR开源实现)

红苹果乐园 1933

《Hadoop权威指南》中文版全解

Hadoop是一个由Apache基金会开发的开源框架,用于存储和处理大数据。它主要包含多个核心组件,这些组件协同工作,为用户提供了一个高度可扩展的系统来处理海量数据集。Hadoop生态系统的核心组件包括HDFS、MapReduce、YARN等,各自承担着数据存储、计算和资源管理等关键角色。YARN(Yet Another Resource Negotiator)是Hadoop的资源管理平台,它为处理大数据应用提供了更加灵活和强大的资源管理能力。

weixin_30995917的博客 1112

《Hadoop权威指南4》第1章 初识Hadoop

Hadoop权威指南4第1章 初识Hadoop1.1 数据!数据!1.2 数据的存储和分析1.3 查询所有数据1.4 不仅仅是批处理1.5 相较于其他系统的优势1.5.1 关系型数据库管理系统1.5.2 网格计算(grid computing)1.5.3志愿计算1.6 Apache Hadoop发展简史1.7 本书包含的内容 第1章 初识Hadoop 1.1 数据!数据! 未来的数据很大,个人,公...

bgdx520的博客 410

当我们谈论Unidbg时我们在谈什么

文章目录一、前言二、使用Unidbg的工作量是什么三、补环境补的是什么3.1 运行环境缺失3.2 上下文缺失四、Unidbg 不是所有情况下最优的解决方案五、Unidbg在大多数情况下是好的方案六、Unidbg和风控无关七、尾声 一、前言 这是一篇漫谈Unidbg的文章,我对Unidbg的使用和理解都还很浅,日后会更新或修改看法,欢迎大佬指点,也期待同侪讨论。 二、使用Unidbg的工作量是什么 我们常规使用Frida + IDA的动静态分析中,工作可能是这样的 找线索→Frida Hook验证→验证成功继

lilac的博客 5788

STM32使用 jansson 处理 Json格式字符

STM32 Json 字符的创建和解析1、Json简介2、jansson库的下载安装和报错解决2.1、下载安装2.2、STM32工程文件中导入jansson库2.3、报错解决2.4、修改堆栈空间3、Json 字符的创建4、Json 字符的解析4.1 纯键值对4.2、键的值是一个对象4.3、键的值是一个数组   STM32处理json字符串一般不常见,大部分都是不需要处理的数据,但是在一些通信中需要处理上传或者下传的数据,就别比如在物联网中,有一部分数据就是以json格式传输的,那么就需要对数据经行解析。我简

青烨慕容 7418

Hadoop权威指南-读书笔记-01-初识Hadoop

读书笔记

喻师傅的学习笔记 1405

Playwright自动化测试实战:攻克日历时间控件三大策略与Java实现

在Web自动化测试领域,元素定位与交互模拟是核心技术基础,其原理在于通过程序精确识别并操作页面中的DOM元素,以模拟真实用户行为。这项技术的核心价值在于提升测试效率、确保交互逻辑的覆盖度与可靠性,广泛应用于电商、金融、OA等系统的功能验证。日历时间控件作为典型的复杂交互组件,常涉及动态弹出层、多级导航与状态同步,是自动化测试中的常见难点。本文聚焦于使用Playwright工具,针对此类控件深入剖析了三种核心解决策略:从最高效的直接赋值、到全面模拟用户交互的主流方法,再到利用组件特性的混合定位方案,并结合Ja

weixin_28835551的博客 311

探索Hadoop的权威指南:《Hadoop权威指南(第四版)》资源推荐

探索Hadoop的权威指南:《Hadoop权威指南(第四版)》资源推荐 【下载地址】Hadoop权威指南第四版资源下载分享 本仓库提供《Hadoop权威指南(第四版)》的中文PDF、英文PDF以及配套源代码的下载。该书由Tom White编写,王海、华东、刘喻、吕粤海等人翻译,是学习Hadoop生态系统的经典著作 ...

gitblog_06523的博客 481

使用DevExpress22.X(Patch)控件库在VisualStudio2022使用C#进行Winform、WPF应用的开发,看这一篇就够了!

写在开头,Dev Express是个十分强大的控件库(下文简称Dev),但碍于其高昂的使用费用,“出于学习目的”,我们一般使用的都是Patch版本(在版权意识日趋加强的当下,不要提那两个字,现在加上那些字,百度都搜不出内容)。

平凡之路 2万+

Android Studio运行报错: failed to load include path ……\platforms\android-35\android.jar的最细解决方案

【代码】Android Studio运行报错: failed to load include path ……\platforms\android-35\android.jar的最细解决方案。

2401_86789230的博客 2万+

Hadoop权威指南-读书笔记-02-关于MapReduce

读书笔记~

喻师傅的学习笔记 1586

网规第三版:第4章网络资源设备(完结)

第 4 章 网络资源设备 调整内容: 更新主流网络设备(交换机、路由器、防火墙)的技术参数与选型标准 增加国产化网络设备与信创产品的相关内容 精简已淘汰的设备类型与技术指标

鹿鸣天涯 268

Hadoop权威指南-读书笔记-04-关于YARN

YARN

喻师傅的学习笔记 1069

Office 365中的Assigned Access详细功能介绍

本文系统介绍了Office365中AssignedAccess功能的应用与管理。作为Windows系统的重要安全特性,AssignedAccess可将设备锁定为单应用模式,有效防范未授权访问。文章详细阐述了其核心功能、技术架构及配置方法,包括UWP/Win32应用支持、多用户配置、与AzureAD集成等。通过MicrosoftEndpointManager可实现批量部署和远程监控,适用于公共终端、零售设备等场景。该功能为企业数字化转型提供了安全、可控的终端管理方案,在保障数据安全的同时优化用户体验。

xueyunshengling的博客 227

OpenSpec 完全指南 config.yaml文件

不管是项目内还是全局存放,自定义工作流都要遵守以下规则,否则会导致OpenSpec无法识别,新手一定要记牢:一个文件夹 = 一个工作流:工作流文件夹的名称,就是中schema字段要填写的名称;每个工作流文件夹必须包含:这是工作流的核心定义文件,没有它,OpenSpec无法识别这个工作流;模板文件统一放templates/目录:如果需要自定义生成文件的模板(比如统一的提案模板、任务模板),就放在工作流文件夹下的templates/里,OpenSpec会自动识别;

h a 6 6 6 c k 为 你解决复杂难题! 1421

Hadoop权威指南笔记-第1章-初识hadoop

1.1 数据数据 数据越来越多 1.2 数据的存储和分析 硬盘存储容量不断提升,也变得便宜。但是访问速度并没有得到提升。 1990年一块硬盘可以存储1370m,传输速度是4.4m/s。 五分钟可以遍历完 2010年一块硬盘 1T,速度是100m/s,需要 1024*1024/100 约等于10240秒=3个小时左右 于是我们考虑对多个硬盘并行读写,以加快速度。但是遇到...

linqichen的博客 481

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

读书笔记:Hadoop权威指南 简介

数据来自美国国家气候数据中心(National Climatic Data Center,简称NCDC)。这些数据按行并以ASCII格式存储,其中一行是一条记录。下面显示了一行采样数据,为了给读者了解字段,拆分解释。 从1901年到2001年,每一年都有一个目录,每个目录中包含各个气象站该年气象数据的打包文件及说明文件。 MapReduce任务过程分为凉饿处理阶段:map阶段和reduce阶段...

肥叔菌的博客 9247

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

《Hadoop 权威指南》读书笔记之五 — Chapter 5

《Hadoop 权威指南》读书笔记之五 — Chapter 5 1.分布式数据处理中哪些方面使用到了 Serialization(序列化)? for interprocess communication for persistne storage 2.在Hadoop 中, 节点间不同进程的通信的方式是:RPCs 3.RPC 的主要特点如下: 01.Compact 带宽是分布式系统中的瓶颈,所以...

说文科技,做有态度的研究。 1489

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

Hadoop权威指南PDF分享

Hadoop权威指南PDF分享 链接:https://pan.baidu.com/s/1oF0HPcePFc2pWF29LXsO1Q 提取码:tqxt 如果链接失效,加我领取:yp2595809239

十二 4490

Hadoop权威指南读书笔记

mapreduce数据本地化(核心特征)、无共享。    1  HDFS的设计 为了存储超大文件 流式访问(一次写入多次读取)商用硬件(不需要超豪华的机器)    2  数据快(block) 磁盘一般是512字节 HDFS默认是64M 但与其他文件系统不同的是小于一个块大小的文件不会占用整个块的空间。块为什么设置这么大?(最小化寻址开销)块抽象带来的好处(一个文件的

xia_yu_mao_fa的专栏 3388

第1章:初识hadoop

学习hadoop你需要了解哪些: mapreduce HDFS YARN 简介: 当前是数据大爆发的时代,数的生成速度正在不断加快。 通过良好的设计,在同等算力下使得问题能够更快的解决。 随着数据量的不断膨胀,我们不再局限于将数据精准记录快速检查、更新的事务性数据库(关系型数据库),更希望能从全量数据中挖掘潜在价值,hadoop应运而生,haoop不仅可以对结构化的数据进行存储分析、更适用于半结构化、非结构化数据。 他相对于传统数据库而言有着明显的优势,是对传统数据库的补充。 他们相互弥补。 haoop

沉迷数据无法自拔 1085

Hadoop权威指南

1、Hadoop基础知识 第1章 初识Hadoop Hadoop代替配有大量硬盘的数据库来进行大规模数据分析的原因是: 传输速率(取决于硬盘的带宽)的提升远大于寻址时间(将磁头移动到特定硬盘位置进行读/写操作的过程)的提升,而数据库采用的是硬盘寻址数据访问模式,其相较于流数据读取模式(主要取决于传输速率)会花费更多时间; 关系型数据库使用的数据结构是B树(受限于寻址的速率),当其只更新一小部分数据时更有优势;但遇到大规模数据时,因为需要使用**”排序/合并“来重建数据库,所以B树**的效率会明显落后于M

weixin_43177696的博客 2674

【免费下载】 Hadoop权威指南(第四版)资源下载

Hadoop权威指南(第四版)资源下载 【下载地址】Hadoop权威指南第四版资源下载分享 本仓库提供《Hadoop权威指南(第四版)》的中文PDF、英文PDF以及配套源代码的下载。该书由Tom White编写,王海、华东、刘喻、吕粤海等人翻译,是学习Hadoop生态系统的经典著作 ...

gitblog_06555的博客 1568

《Hadoop权威指南》读书笔记之六 — Chapter 6

《Hadoop权威指南》读书笔记之六 — Chapter 6 1.xml文件的读取 01.添加在resources文件夹中 02.使用Configuration 类的 addResource()文件 03.获取.xml 文件中的属性 04. .xml文件可以通过 variable expansion 的方式进行设置。 但是这个设置值的顺序是不是得有个先后呢? 这个定义值的顺序是没有先后关系要求的,...

说文科技,做有态度的研究。 741

学习_010_Hadoop权威指南

课程说明 项 内容 课程类型 书籍 内容类型 Hadoop 课程名称 Hadoop权威指南 地址 https://item.jd.com/12109713.html 页数 700 费用 110 学习心得 课程目录和概要 ...

钱锋的数据仓库经验与思考 334
上一篇: 深入理解kafka核心设计与实践原理_读书笔记 第8章 可靠性探究
下一篇: Hadoop权威指南_读书笔记_第2章 关于MapReduce
lightupworld
博客等级 码龄7年 112粉丝 93原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值