hadoop对小文件问题

小文件的影响：

（1）影响NameNode的寿命，因为文件元数据存储在NameNode的内存中

（2）影响计算引擎的任务数量，比如每个小的文件都会生成一个Map任务

小文件的优化：

对小文件进行归档和压缩，（对外是整体，对内是一个一个文件）（小文件主要减少namenode存储空间（默认是150字节））。减少jvm的重用（小文件在处理时需要不停开关jvm,这样都在开关时间比运行时间还长一直开启，所以开启jvm的重用），还有小文件处理时还用conbinfileinputformat,这个作用是为了将多个小文件看成一个切片，开启一个maptask,减少maptask的个数。

更清晰的总结

（1）合并小文件：对小文件进行归档（Har）、自定义Inputformat将小文件存储成SequenceFile文件。

（2）采用ConbinFileInputFormat来作为输入，解决输入端大量小文件场景。

（3）对于大量小文件Job，可以开启JVM重用。

2）Map阶段

（1）增大环形缓冲区大小。由默认100m，扩大到200m

（2）增大环形缓冲区溢写的比例。由默认80%，扩大到90%

（3）减少对溢写文件的merge次数默认10个。

（4）不影响实际业务的前提下，采用Combiner提前合并，减少 I/O。

3）Reduce阶段

（1）合理设置Map和Reduce数：两个都不能设置太少，也不能设置太多。太少，会导致Task等待，延长处理时间；太多，会导致 Map、Reduce任务间竞争资源，造成处理超时等错误。

（2）设置Map、Reduce共存：调整slowstart.completedmaps参数，使Map运行到一定程度后，Reduce也开始运行，减少Reduce的等待时间。

（3）规避使用Reduce，Reduce在用于连接数据集的时候将会产生大量的网络消耗。

（4）增加每个Reduce去Map中拿数据的并行数，默认5个。

（5）集群性能可以的前提下，增大Reduce端存储数据内存的大小。

（6）Reduce端Buffer缓存中的数据达到多少比例开始写入磁盘。默认值0.66。

（7）Reduce端Buffer缓存大小占Reduce可用内存的比例。默认值0.7

 

4）IO传输

（1）采用数据压缩的方式，减少网络IO的的时间。安装Snappy和LZOP压缩编码器。

（2）使用SequenceFile二进制文件

5）整体

（1）MapTask和ReduceTask默认内存大小为1G，可以增加内存大小为4-5g

（2）可以增加MapTask的cpu核数，增加ReduceTask的CPU核数默认1个

（3）增加每个Container分配的最小内存和最大内存，默认值：1024和8192

（4）Container申请的最小CPU核数和最大CPU核数，默认值：1和32

（5）调整每个Map Task和Reduce Task最大重试次数，默认4个。