Hadoop 各参数优化

 

 

<property>

                        <name>mapred.tasktracker.map.tasks.maximum</name>

                        <value>4</value>

</property> // 单机Map端最大可执行的Map任务数

 

 

<property>

                        <name>mapred.tasktracker.reduce.tasks.maximum</name>

                        <value>6</value>

</property> // 单机Reduce端最大可执行的Reduce任务数目

 

<property>

  <name>mapred.local.dir</name>

  <value>${hadoop.tmp.dir}/mapred/local</value>

  <description>The local directory where MapReduce stores intermediate

  data files.  May be a comma-separated list of

  directories on different devices in order to spread disk i/o.

  Directories that do not exist are ignored.

  </description> // MapReduce 执行过程的本地临时存储目录,多个目录逗号分隔。(多个目录可以提高磁盘IO,多个目录最好分属于不同的磁盘)

</property>

 

<property>

  <name>hadoop.tmp.dir</name>

  <value>/tmp/hadoop-${user.name}</value> // 默认在/tmp 目录下,这个最好进行更改,/tmp目录在重启系统的时候会被清除

  <description>A base for other temporary directories.</description>

</property> // Hadoop 系统的临时存储目录(本地*inux文件系统)

 

 

 

 

待解答问题:

1. Map的数目和什么条件相关 ?

 

 

2. Reduce的数据和什么条件相关 ? 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值