排序算法精讲-优快云博客

本文链接：https://blog.youkuaiyun.com/dreaming_coder/article/details/108424578

0. 排序算法概述

常见排序算法可以分为两大类：

比较类排序：通过比较来决定元素间的相对次序，由于其时间复杂度不能突破 $O (n l o g n)$ ，因此也称为非线性时间比较类排序
非比较类排序：不通过比较来决定元素间的相对次序，它可以突破基于比较排序的时间下界，以线性时间运行，因此也称为线性时间非比较类排序。

常见的算法复杂度如下：

排序方法	时间复杂度（平均）	时间复杂度（最坏）	时间复杂度（最好）	空间复杂度	稳定性
冒泡排序	$O(n^2)$	$O(n^2)$	$O(n^2)$	$O (1)$	稳定
快速排序	$O(n\log n)$	$O(n^2)$	$O(n\log n)$	$O(n\log n)$	不稳定
插入排序	$O(n^2)$	$O(n^2)$	$O (n)$	$O (1)$	稳定
希尔排序	$O(n^{1.3})$	$O(n^2)$	$O (n)$	$O (1)$	不稳定
选择排序	$O(n^2)$	$O(n^2)$	$O(n^2)$	$O (1)$	不稳定
堆排序	$O(n\log n)$	$O(n\log n)$	$O(n\log n)$	$O (1)$	不稳定
归并排序	$O(n\log n)$	$O(n\log n)$	$O(n\log n)$	$O (n)$	稳定
计数排序	$O (n + k)$	$O (n + k)$	$O (n + k)$	$O (n + k)$	稳定
桶排序	$O (n + k)$	$O(n^2)$	$O (n)$	$O (n + k)$	稳定
基数排序	$O (n * k)$	$O (n * k)$	$O (n * k)$	$O (n + k)$	稳定

1. 冒泡排序

冒泡排序是一种简单的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。

1.1 算法描述

比较相邻的元素，如果第一个比第二个大，就交换它们两个
对每一对相邻元素作同样的工作，从开始第一对到结尾的最后一对，这样在最后的元素应该会是最大的数
针对所有的元素重复以上的步骤，除了最后一个
重复步骤 1~3，直到排序完成。

1.2 算法伪代码描述

在这里插入图片描述

1.3 动图演示

在这里插入图片描述

1.4 复杂度分析

冒泡排序不管什么情况，执行流程都是一样的，因为都要比较大小，所以复杂度为：

在这里插入图片描述

2. 快速排序

快速排序算法由于它的方便和高效，在实践中一直得到广泛应用。快速排序的基本思想是，通过一趟排序将待排记录分隔成独立的两部分，其中一部分记录的关键字均比另一部分的关键字小，则可分别对这两部分记录继续进行排序，最终达到整个序列有序。

2.1 算法描述

从数组中跳出一个元素，称为基准(pivot)，一般用首元素
根据基准将数组划分为前、后两部分，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以到任一边）。在这个分区退出之后，该基准就处于数列的中间位置。这个称为分区（partition）操作
递归地（recursive）把小于基准值元素的子数列和大于基准值元素的子数列排序

算法的关键在于怎样划分数组，将其规约成两个子问题

2.2 算法伪代码描述

在这里插入图片描述

其中，Partition的伪代码描述为：

在这里插入图片描述

注意，经过Partition()之后，数组本身已经划分好了，此处数组A是传址调用

2.3 动图演示

在这里插入图片描述

2.4 复杂度分析

首先说明划分过程的工作量是 $O (n)$ ，因为每个元素都要和首元素比较一次

2.4.1 最好情况

对于分治问题，将其规约成规模相当的子问题时，效率最高，也就是有如下递推方程：

在这里插入图片描述

根据主定理， $T(n)=n\log{n}$

2.4.2 最坏情况

显然，最坏情况下，每次划分都有一个子问题的规模是 $0$ 。递推方程如下：

在这里插入图片描述

根据迭代归纳， $T(n)=O(n^2)$

2.5.3 平均情况

假定划分的子问题的规模每种可能性均相等，则递推方程如下：

在这里插入图片描述

利用差消法，可以求出 $T(n)=O(n\log n)$

3. 简单插入排序

3.1 算法描述

插入排序（Insertion-Sort）的算法描述是一种简单直观的排序算法。它的工作原理是通过构建有序序列，对于未排序数据，在已排序序列中从后向前扫描，找到相应位置并插入

一般来说，插入排序都采用 in-place 在数组上实现。具体算法描述如下：

从第一个元素开始，该元素可以认为已经被排序；
取出下一个元素，在已经排序的元素序列中从后向前扫描；
如果该元素（已排序）大于新元素，将该元素移到下一位置；
重复步骤 3，直到找到已排序的元素小于或者等于新元素的位置；
将新元素插入到该位置后；
重复步骤 2~5。

3.2 算法伪代码描述

在这里插入图片描述

3.3 动图演示

在这里插入图片描述

4. 希尔排序

1959 年 Shell 发明，第一个突破 $O(n^2)$ 的排序算法，是简单插入排序的改进版。它与插入排序的不同之处在于，它会优先比较距离较远的元素。希尔排序又叫缩小增量排序。

4.1 算法描述

先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序，具体算法描述：

选择一个增量序列 $t_1$ ， $t_2$ ，…， $t_k$ ，其中 $t_i>t_j$ ， $t_k=1$ ；
按增量序列个数 $k$ ，对序列进行 $k$ 趟排序；
每趟排序，根据对应的增量 $t_i$ ，将待排序列分割成若干长度为 $m$ 的子序列，分别对各子表进行直接插入排序。仅增量因子为 $1$ 时，整个序列作为一个表来处理，表长度即为整个序列的长度。

4.2 算法伪代码描述

在这里插入图片描述

4.3 动图演示

在这里插入图片描述

5. 选择排序

选择排序(Selection-sort)是一种简单直观的排序算法。它的工作原理：首先在未排序序列中找到最小（大）元素，存放到排序序列的起始位置，然后，再从剩余未排序元素中继续寻找最小（大）元素，然后放到已排序序列的末尾。以此类推，直到所有元素均排序完毕。

5.1 算法描述

$n$ 个记录的直接选择排序可经过 $n - 1$ 趟直接选择排序得到有序结果。具体算法描述如下：

初始状态：无序区为 $R [1 . . n]$ ，有序区为空；
第 $i$ 趟排序（ $i=1,2,3,\cdots,n-1$ ）开始时，当前有序区和无序区分别为 $R [1 . . i - 1]$ 和 $R (i . . n)$ 。该趟排序从当前无序区中选出关键字最小的记录 $R [k]$ ，将它与无序区的第 $1$ 个记录 $R$ 交换，使 $R [1 . . i]$ 和 $R [i + 1 . . n)$ 分别变为记录个数增加 $1$ 个的新有序区和记录个数减少 $1$ 个的新无序区；
$n - 1$ 趟结束，数组有序化了。

5.2 动图演示

在这里插入图片描述

6. 堆排序

堆排序（Heapsort）是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构，并同时满足堆积的性质：即子结点的键值或索引总是小于（或者大于）它的父节点。

6.1 算法描述

将初始待排序关键字序列（ $R_1,R_2, \cdots,R_n$ ）构建成大顶堆，此堆为初始的无序区；
将堆顶元素 $R [1]$ 与最后一个元素 $R [n]$ 交换，此时得到新的无序区 ( $R_1,R_2,……R_{n-1}$ ) 和新的有序区 ( $R_n$ )，且满足 $R[1,2,\cdots,n-1]<=R[n]$ ；
由于交换后新的堆顶 $R [1]$ 可能违反堆的性质，因此需要对当前无序区（ $R_1,R_2,……R_{n-1}$ ）调整为新堆，然后再次将 $R [1]$ 与无序区最后一个元素交换，得到新的无序区（ $R_1,R_2,……R_{n-2}$ ）和新的有序区（ $R_{n-1},R_n$ ）。不断重复此过程直到有序区的元素个数为 $n - 1$ ，则整个排序过程完成。