向MR申请的内存默认是1024,但不想用默认的内存分配,如何配置?
内存分配配置
在mapred-site.xml中增加如下配置:
<property>
<name>yarn.app.mapreduce.am.resource.mb</name>
<value>1200</value>
<description>表示MRAppMaster需要的总内存大小,默认是1536</description>
</property>
<property>
<name>yarn.app.mapreduce.am.command-opts</name>
<value>-Xmx800m</value>
<description>表示MRAppMaster需要的堆内存大小,默认是:-Xmx1024m</description>
</property>
<property>
<name>yarn.app.mapreduce.am.resource.cpu-vcores</name>
<value>1</value>
<description>表示MRAppMaster需要的的虚拟cpu数量,默认是:1</description>
</property>
<property>
<name>mapreduce.map.memory.mb</name>
<value>512</value>
<description>表示MapTask需要的总内存大小,默认是1024</description>
</property>
<property>
<name>mapreduce.map.java.opts</name>
<value>-Xmx300m</value>
<description>表示MapTask需要的堆内存大小,默认是-Xmx200m</description>
</property>
<property>
<name>mapreduce.map.cpu.vcores</name>
<value>1</value>
<description>表示MapTask需要的虚拟cpu大小,默认是1</description>
</property>
<property>
<name>mapreduce.reduce.memory.mb</name>
<value>512</value>
<description>表示ReduceTask需要的总内存大小,默认是1024</description>
</property>
<property>
<name>mapreduce.reduce.java.opts</name>
<value>-Xmx300m</value>
<description>表示ReduceTask需要的堆内存大小,默认是-Xmx200m</description>
</property>
<property>
<name>mapreduce.reduce.cpu.vcores</name>
<value>1</value>
<description>表示ReduceTask需要的虚拟cpu大小,默认是1</description>
</property>
同步: scp mapred-site.xml hadoop-twq@slave1:~/bigdata/hadoop-2.7.5/etc/hadoop/
scp mapred-site.xml hadoop-twq@slave2:~/bigdata/hadoop-2.7.5/etc/hadoop/
重新运行jar包