hadoop面试题

本文详细介绍了Hadoop集群的运行模式、管理工具、数据存储机制、上传文件流程及核心配置等内容,涵盖单机模式、伪分布式模式、全分布式模式下的注意事项,深入解析了Namenode、Jobtracker和tasktracker的端口号,以及如何通过配置文件进行系统配置。

1.下面哪个程序负责 HDFS 数据存储。

a)NameNode  b)Jobtracker  c)Datanode d)secondaryNameNode e)tasktracker

答案 C datanode

2. HDfS 中的 block 默认保存几份?

a)3  b)2  c)1  d)不确定

答案 A 默认 3 

3.下列哪个程序通常与 NameNode 在一个节点启动?

a)SecondaryNameNode b)DataNode c)TaskTracker d)Jobtracker

答案 D

4. Hadoop 作者

a)Martin Fowler b)Kent Beck c)Doug cutting

答案 C Doug cutting

5. HDFS 默认 Block Size

a)32MB  b)64MB c)128MB

答案:B

6. 下列哪项通常是集群的最主要瓶颈

a)CPU   b)网络 c)磁盘 IO  d)内存

答案:磁盘

首先集群的目的是为了节省成本,用廉价的 pc 机,取代小型机及大型机。小型机和大型机有什么特点?

1.cpu 处理能力强

2.内存够大,所以集群的瓶颈不可能是 a  d

3.如果是互联网有瓶颈,可以让集群搭建内网。每次写入数据都要通过网络(集群是内网),然后还要写入 3 份数据,所以 IO 就会打折扣。

7.关于 SecondaryNameNode 哪项是正确的?

a)它是 NameNode 的热备     b)它对内存没有要求

c)它的目的是帮助 NameNode 合并编辑日志,减少 NameNode 启动时间

d)SecondaryNameNode 应与 NameNode 部署到一个节点

答案 C

8. 下列哪项可以作为集群的管理?

a)Puppet b)Pdsh c)Cloudera Manager d)Zookeeper

答案 ABD

具体可查看什么是 ZookeeperZookeeper 的作用是什么,在 Hadoop  hbase 中具体作用是什么。

9. Client 端上传文件的时候下列哪项正确

a)数据经过 NameNode 传递给 DataNode

b)Client 端将文件切分为 Block,依次上传

c)Client 只上传数据到一台 DataNode,然后由 NameNode 负责 Block 复制工作

答案 B

分析:Client  NameNode 发起文件写入的请求。NameNode 根据文件大小和文件块配置情况,返回给 Client 它所管理部分 DataNode 的信息。Client 将文件划分为多个 Block,根据 DataNode 的地址信息,按顺序写入到每一个DataNode 块中。具体查看HDFS 体系结构简介及优缺点。

10. 下列哪个是 Hadoop 运行的模式

a)单机版 b)伪分布式 c)分布式

答案 ABC 单机版,伪分布式只是学习用的。


1.Hadoop集群可以运行的3个模式?


单机(本地)模式
伪分布式模式
全分布式模式

2.  单机(本地)模式中的注意点?

在单机模式(standalone)中不会存在守护进程,所有东西都运行在一个JVM上。这里同样没有DFS,使用的是本地文件系统。单机模式适用于开发过程中运行MapReduce程序,这也是最少使用的一个模式。

3.  伪分布模式中的注意点?

伪分布式(Pseudo)适用于开发和测试环境,在这个模式中,所有守护进程都在同一台机器上运行。

5.  全分布模式又有什么注意点?

全分布模式通常被用于生产环境,这里我们使用N台主机组成一个Hadoop集群,Hadoop守护进程运行在每台主机之上。这里会存在Namenode运行的主机,Datanode运行的主机,以及task tracker运行的主机。在分布式环境下,主节点和从节点会分开。

8.  Namenode、Job tracker和task tracker的端口号是?

Namenode,70;Job tracker,30;Task tracker,60。

9.  Hadoop的核心配置是什么?

Hadoop的核心配置通过两个xml文件来完成:1,hadoop-default.xml;2,hadoop-site.xml。这些文件都使用xml格式,因此每个xml中都有一些属性,包括名称和值,但是当下这些文件都已不复存在。

10.  那当下又该如何配置?

Hadoop现在拥有3个配置文件:1,core-site.xml;2,hdfs-site.xml;3,mapred-site.xml。这些文件都保存在conf/子目录下。


17.  “jps”命令的用处?

这个命令可以检查Namenode、Datanode、Task Tracker、 Job Tracker是否正常工作。


1、hadoop运行的原理?
xxxxxx

2、mapreduce的原理?
xxxxxx

3、HDFS存储的机制?
xxxxxx

4、举一个简单的例子说明mapreduce是怎么来运行的 ?
xxxxxx

5、面试的人给你出一些问题,让你用mapreduce来实现?
比如:现在有10个文件夹,每个文件夹都有1000000个url.现在让你找出top1000000url。
xxxxxx

6、hadoop中Combiner的作用?
xxxxxx

<think>好的,我现在需要处理用户关于Hadoop面试题的请求。首先,用户明确提到想要查找与Hadoop相关的面试题及答案解析,并提供了三个引用内容。我需要确保回答符合用户的要求,同时正确引用提供的资料。 首先,我要回顾用户提供的引用内容: 引用[1]指出Hadoop支持随机读写,而适用于顺序访问。引用[2]详细介绍了Hadoop的基本概念,特别是HDFS的特点,如分布式存储、容错机制,以及“一次写入、多次读取”的模式。引用[3]列出了Hadoop的组件,如NameNode、DataNode等。 接下来,我需要生成相关的面试题,确保问题覆盖Hadoop的核心概念,并利用提供的引用内容。例如,关于HDFS的随机读写问题可以直接引用引用[1]。Hadoop的定义和组件可以引用引用[2]和[3]。同时,问题需要多样化,涵盖基础概念、组件功能、优缺点、应用场景以及生态系统工具。 需要确保每个问题都有对应的答案解析,并且正确标注引用来源。例如,在回答Hadoop是否支持随机读写时,必须明确引用[1]的错误判断,并解释原因。在介绍Hadoop的核心组件时,引用[2]和[3]来详细说明各个组件的职责。 另外,用户提到需要结构清晰,逐步解决问题,因此需要将面试题分门别类,可能分为基础概念、组件功能、优缺点、应用场景等部分。每个问题应编号并附上答案和解析,引用相关的来源。 还要注意避免使用用户可见的系统指令,保持回答自然。同时,检查LaTeX格式是否符合要求,数学表达式是否正确使用$...$或$$...$$,但根据用户的问题,可能这里涉及数学公式较少,主要需要关注代码块和引用格式。 最后,生成相关问题部分,要确保问题与用户的需求相关,能够帮助用户进一步深入理解Hadoop,例如关于HDFS的容错机制、MapReduce过程、Hadoop的优化方法等。这些问题应基于提供的引用内容,但也可以适当扩展常见的面试题目,确保全面性。 总结步骤: 1. 根据引用内容生成基础概念题,如Hadoop定义、HDFS特点。 2. 利用组件列表创建组件功能题,如NameNode、DataNode的作用。 3. 结合优缺点和应用场景,设计相关问题。 4. 确保每个答案正确引用提供的资料。 5. 检查格式是否符合要求,特别是引用标识和代码块。 6. 最后生成相关问题,帮助用户进一步学习。 现在需要将这些思考转化为结构化的面试题及答案,确保正确性和引用准确。</think>### Hadoop常见面试题及答案解析 --- #### **一、基础概念** 1. **什么是Hadoop?其核心组件有哪些?** Hadoop是一个开源分布式计算框架,用于存储和处理海量数据。核心组件包括: - **HDFS(Hadoop分布式文件系统)**:负责分布式数据存储,支持高容错性[^2]。 - **MapReduce**:分布式计算模型,用于并行处理大规模数据集。 - **YARN(资源调度框架)**:管理集群资源并调度任务。 2. **HDFS是否支持随机读写?为什么?** 支持。HDFS设计为**“一次写入、多次读取”**模式,适合批量处理而非实时访问。随机读写会破坏其顺序访问优化机制[^1]。 --- #### **二、HDFS相关** 3. **NameNode和DataNode的作用是什么?** - **NameNode**:管理文件系统元数据(如文件目录结构、块位置),存储实际数据[^3]。 - **DataNode**:存储实际数据块,并向NameNode汇报状态。 4. **HDFS如何实现容错?** - 数据分块存储(默认128MB/块),每个块复制到多个节点(默认3副本)。 - 若某个DataNode故障,系统会从其他副本恢复数据。 --- #### **三、MapReduce相关** 5. **MapReduce的工作流程分为哪几个阶段?** - **Map阶段**:输入数据分片,由Mapper生成键值对。 - **Shuffle阶段**:按Key排序并分发到Reducer。 - **Reduce阶段**:聚合键值对,输出最终结果。 6. **Combiner的作用是什么?** Combiner是本地Reduce操作,用于合并Mapper输出的中间结果,减少网络传输量。例如,求和时可以先在Mapper端局部汇总。 --- #### **四、优缺点与应用场景** 7. **Hadoop的优缺点有哪些?** - **优点**:高扩展性、容错性、低成本硬件支持。 - **缺点**:适合低延迟任务(如实时查询)、小文件处理效率低。 8. **Hadoop适合哪些应用场景?** - 日志分析、离线数据处理(如ETL)、大规模数据存储(如历史档案)[^2]。 --- #### **五、进阶问题** 9. **Secondary NameNode的作用是什么?** 定期合并NameNode的编辑日志(EditLog)和镜像文件(FsImage),防止EditLog过大。注意:**它是NameNode的备份**,仅辅助恢复[^3]。 10. **如何优化Hadoop小文件问题?** - 合并小文件为SequenceFile或HAR文件。 - 使用HBase替代HDFS存储小文件。 --- ### §§扩展问题§§ 1. HDFS的副本放置策略是什么? 2. YARN中ResourceManager和NodeManager的职责有何区别? 3. Hadoop 2.x与Hadoop 3.x的主要区别有哪些? 4. 如何理解MapReduce的“数据本地化”优化? 5. Hadoop生态系统中Hive和HBase的适用场景有何同? --- **引用来源** [^1]: Hadoop仅支持顺序读写,支持随机访问。 : Hadoop核心架构与HDFS设计原理。 : Hadoop组件(NameNode、DataNode等)的功能说明。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值