经典的三种排序算法

归并排序：

归并排序。可以说分治策略用在了排序问题上。

我们每次将数组分成两半。递归的排序这两半。然后用线性时间将其合并起来。变成一个完整的有序数组。

复杂度分析： $$T(n)=2T(\frac{n}{2})+O(n)$$

显然最多展开$log_2n$层。所以总时间复杂度：$O(nlogn)$

堆排序：

如果不知道堆这个数据结构的同学。可以自行学习。（百度一大把）

通过不停到调整堆来做到排序。

每次将堆顶最小元素与堆最中后一个元素交换。类似于把最后一个元素从新入堆。

这一步从新调整耗费$O(log_2n)$

排序$n$个元素复杂度：$O(nlogn)$

快速排序

正如其名。快速排序。当然是非常快的。

也是最重要。最需要学习的排序。

快速排序为何如此之快？

快速排序与归并排序类似。

不同的是：快速排序是先划分。不需要合并。

归并排序最慢的部分。就是需要把数组归并到一个辅助数组中。在把排序到辅助数组中的元素从新拷贝到原来数组对应位置。

快速排序不同：

最经典的快速排序是随机的选择一个数列中的元素$a$

然后将这$n$个元素的序列划分为：

$$[不大于a的部分]\ a\ [不小于a的部分]$$

具体实现技巧在于。

我们随机的选择$a=A[i]$.

将$A[i]$ 与 $A[0]$交换位置。

令$t=0,k=n-1$

我们认为：$A[0..t-1]$所有元素小于等于$a$

我们认为：$A[k+1..n-1]$所有元素大于等于$a$

开始时， $a$在 $A[t]$ 位置。

循环：检查$A[k]$是否小于$A[t]$。

如果不是$k=k-1$,继续检查。直到$k$等于$t$.此时划分完成。

如果是 : 将$A[k]$归入小于等于$a$的集合。即：交换$A[t],A[k]$。

检查$A[k]$是否小于$A[t]$

如果不是, $t=t+1$.直到$k$等于$t$，划分结束。

如果是。交换$A[k],A[t]$,返回循环的位置。

通过这样的划分。我们将序列划分成了不大于$a$的部分和不小于$a$的部分。

记$a$现在的位置为$mid$.显然。$a$的位置不需要改变了。

我们只需要递归的排序： $$sort(0,mid-1)和sort(mid+1,n-1)$$

快速排序的效率难免有些许不稳定。因为它的速度与它的划分是否得当有关。

但实践表明。总是出现坏的情况的划分是几乎不可能能的。快速排序的速度要比归并排序和堆排序都要快。

我们计算一下平均意义下的快速排序的效率：

$$T(n)=\frac{1}{n}\sum_{k=1}^n\Big(T(n-k)+T(k-1)\Big)+cn=\frac{2}{n}\sum_{k=0}^{n-1}T(k)+cn$$

$cn$是划分$n$个元素时需要的时间。且$a$不需要排序。所以$T(k-1)+T(n-k)$

所以： $$nT(n)=2\sum_{k=0}^{n-1}T(n)+cn^2$$

则$n-1$时： $$(n-1)T(n-1)=2\sum_{k=1}^{n-2}T(k)+c(n-1)^2$$

两式子做差有： $$nT(n)-(n-1)T(n-1)=2T(n-1)+2cn-1\\nT(n)=(n+1)T(n)+2cn-1$$

哇，两边除去$n(n+1)$：

$$\frac{T(n)}{n+1}=\frac{T(n-1)}{n}+\frac{2c}{n+1}-\frac{1}{n(n+1)}$$

令： $$S(n)=\frac{T(n)}{n+1}\ ,\ n\geq0$$

所以： $$S(n)=S(n-1)+\frac{2c}{n+1}-\frac{1}{n(n+1)}$$

所以： $$S(n)=\sum_{k=1}^{n}\frac{2c}{k+1}-\sum_{k=1}^n\frac{1}{k(k+1)}$$

啊哈。有经验的人必然会发现： $$\frac{1}{k(k+1)}=\frac{1}{k}-\frac{1}{k+1}$$

所以： $$S(n)=\sum_{k=1}^n\frac{2c}{k+1}-\sum_{k=1}^{n}\frac{1}{k}+\sum_{k=1}^n\frac{1}{k+1}\\=2c\sum_{k=2}^{n+1}\frac{1}{k}-\frac{n}{n+1}$$

也就是说： $$\frac{T(n)}{n+1}=2c\sum_{k=2}^{n+1}\frac{1}{k}-\frac{n}{n+1}\\T(n)=2c(n+1)\sum_{k=2}^n\frac{1}{k}+1-n$$

即： $$T(n)=2cnH_n+H_n-(2c+1)n-2c+1$$

其中 $$H_n=\frac{1}{1}+\frac{1}{2}+\frac{1}{3}+...+\frac{1}{n}$$

则 $$H_n\leq O\Big(\int_1^n\frac{1}{x}\ dx\Big)=O(log_en)$$

所以： $$T(n)=O(nlogn)$$

因为排序思想都比较简单。所以也就不再给出关于这三种排序的代码实现了.

在很多复杂度分析和算法思想中都可以找到这三种算法的影子。