对于大数据来说内存远远不够的,所以要进行排序时待排序的记录存储在外存储器上面了,而待排序的文件无法一次性全部装入内存,需要一点点的在内存和外部存储器之间进行交换,以此达到整个文件排序的目的。外部排序最常用的算法是多路归并排序,将待排序的源文一次分解成多个小文件,这些小文件单个都能装入内存,然后分别把每一部分调入文件进行排序。然后对已经排好序的各个小文件进行归并排序。
如果不能将两个有序段同时放到内存中,即不能再内存中进行归并排序。则可以1)同时分别读取两个数据段中的一个数据,将较小的写入文件2)写入的文件指针后移,然后进行第一步。直到一个文件数据读取完毕,然后将另一个文件中的数据读取完毕写入归并的文件中。也就是说直接读文件进行归并。
关于外部排序如何进行分段,进行平均分段,每段刚好能占用最大的内存,然后对每段进行内部排序,写入外存。再将读取外存进行归并排序。
如果不能将两个有序段同时放到内存中,即不能再内存中进行归并排序。则可以1)同时分别读取两个数据段中的一个数据,将较小的写入文件2)写入的文件指针后移,然后进行第一步。直到一个文件数据读取完毕,然后将另一个文件中的数据读取完毕写入归并的文件中。也就是说直接读文件进行归并。
关于外部排序如何进行分段,进行平均分段,每段刚好能占用最大的内存,然后对每段进行内部排序,写入外存。再将读取外存进行归并排序。