14、排序算法与递归关系详解

排序算法与递归关系详解

插入排序分析

插入排序在将元素插入到已排序部分时，通常需要与该部分约一半的元素进行比较。基于此，我们可以推导出其平均情况复杂度的近似方程。

平均情况复杂度方程推导如下：
设 (A(n)) 为插入排序的平均情况复杂度，
(A(n) = \sum_{j=1}^{n - 1} (\frac{j}{2} + 1))
(= \frac{1}{2} \sum_{j=1}^{n - 1} j + \sum_{j=1}^{n - 1} 1)
(= \frac{1}{2} (\frac{n(n - 1)}{2}) + (n - 1))
(= \frac{n^2 + 3n - 4}{4})

在平均情况下，插入排序的比较次数约为最坏情况的一半。不过，平均情况和最坏情况的复杂度函数都属于 (O(n^2))，所以插入排序并非最优排序算法。但在平均情况和最好情况下，插入排序比冒泡排序和选择排序要好，是三种 (O(n^2)) 排序算法中表现最佳的。

插入排序还有一个显著优点，即它对近乎有序的列表排序速度极快。对于一个 (k) - 近乎有序的列表（列表中所有元素距离其在有序列表中的最终位置不超过 (k) 个位置），在该列表中插入任何元素到已排序部分最多需要 (k) 次比较。其最坏情况复杂度的紧密上界为：
(W(n) = \sum_{i=1}^{n - 1} k = k \cdot (n - 1))
由于 (k) 是常数，所以 (W(n)) 属于 (O(n))，这意味着插入排序对近乎有序的列表总是能以线性时间完成排序。

希尔排序介绍

希尔排序是插入排序的一种