C++ 数据结构（一）绪论（4）算法分析

来源：我的博客站 OceanicKang |《C++ 数据结构（一）绪论（4）算法分析》

上一篇：《C++ 数据结构（一）绪论（3）复杂度》

主要任务

算法分析的两个主要任务 = 正确性（不变性 * 单调性） + 复杂度

C++ 等高级语言的 基本指令，均等效于常数条 RAM 的 基本指令

在渐进意义下，二者大体相当于：

• 分支转向：goto // 算法的灵魂；出于结构化考虑，被隐藏了
• 迭代循环：for()、while()、… // 本质上就是 “if + goto"
• 调用 + 递归（自我调用） // 本质上也是 goto

主要方法

复杂度分析的主要方法：

• 迭代：级数求和
• 递归：递归跟踪 + 递推方程
• 猜测 + 验证

级数

算数级数

与末项平方同阶

$$T(n)=1+2+\cdots +n=\frac{n(n+1)}{2}=O(n^2)$$

幂方级数

比幂次高出 一阶

$$\sum _{k=0}^n{k}^d\approx {\int }_0^n{x}^{d+1}dx=\frac{1}{d+1}{x}^{d+1}{|}_0^n=\frac{1}{d+1}{n}^{d+1}=O(n^{d+1})$$

$$T_2(n)=1^2+2^2+3^2+\cdots +n^2=\frac{n(n+1)(2n+1)}{6}=O(n^3)$$

$$T_3(n)=1^3+2^3+3^3+\cdots +n^3=\frac{n^2(n+1{)}^2}{4}=O(n^4)$$

$$T_4(n)=1^4+2^4+3^4+\cdots +n^4=\frac{n(n+1)(2n+1)(3n^2+3n-1}{30}=O(n^5)$$

几何级数

与末项同阶

$$T_a(n)=a^0+a^1+\cdots +a^n=\frac{a^{n+1}-1}{a-1}=O(a^n)$$

$$1+2+4+\cdots +2^n=2^{n+1}-1=O(2^{n+1})=O(2^n)$$

收敛级数

$$2+\frac{3}{2}+\frac{4}{3}+\cdots +\frac{n}{n-1}=1-\frac{1}{n}=O(1)$$

$$1+\frac{1}{2^2}+\cdots +\frac{1}{n^2}<1+\frac{1}{2^2}+\cdots =\frac{{\pi }^2}{6}=O(1)$$

$$\frac{1}{3}+\frac{1}{7}+\frac{1}{8}+\frac{1}{15}+\frac{1}{24}+\frac{1}{26}+\frac{1}{31}+\frac{1}{35}+\cdots =1=O(1)$$

调和级数

$$h(n)=1+\frac{1}{2}+\frac{1}{3}+\cdots +\frac{1}{n}=\Theta (\log n)$$

对数级数

$$\log 1+\log 2+\log 3+\cdots +\log n=\log (n!)=\Theta (n\log n)$$

循环 VS 级数

for (int i = 0; i < n; i++)
    for (int j = 0; j < n; j++)
        function(i, j);

算数级数：$$\sum _{i=0}^{n-1}n=n+n+\cdots +n=n\ast n=O(n^2)$$

---

for (int i = 0; i < n; i++)
    for (int j = 0; j < i; j++)
        function(i, j);

算数级数：$$\sum _{i=0}^{n-1}i=0+1+\cdots +(n-1)=\frac{n(n-1)}{2}=O(n^2)$$

---

for (int i = 0; i < n; i++)
    for (int j = 0; j < i; j += 2013)
        function(i, j);

算数级数：…

---

for (int i = 1; i < n; i <<= 1)
    for (int j = 0; j < i; j++)
        function(i, j);

几何级数：$$1+2+4+\cdots +2^{\lfloor {\log }_2(n-1)\rfloor }=\sum _{k=0}^{\lfloor {\log }_2(n-1)\rfloor }{2}^k=2^{\lceil {\log }_{2}n\rceil }=O(n)$$

---

for (int i = 0; i <= n; i++)
    for (int j = 1; j < i; j += j)
        function(i, j);

几何级数：

$$\sum _{k=0}^n\lceil {\log }_{2}i\rceil =O(n\log n)(i=0,1,2,34,58,916,\cdots )=0+0+1+2\ast 2+3\ast 4+4\ast 8+\cdots =\sum _{k=0\cdots \log n}(k\ast 2^{k-1})=O(\log n\ast 2^{\log n})$$

示例

取非极端元素

问题

给定整数子集 S，|S| = n ≥ 3

找出元素 a ∈ S，a ≠ max(S) 且 a ≠ min(S)

算法

从 S 中任取三个元素 {x, y, z}

若 S 以数组形式给出，不妨取前三个

由于 S 是集合，这三个元素必 互异

确定并排除其中的最小、最大值

不妨设 x = max{x, y, z}, y = min{x, y, z}

输出剩下的元素 z

总结

无论输入规模 n 多大，上述算法需要的执行时间都不变

$$T(n)=常数=O(1)=\Omega (1)=\Theta (1)$$

下一篇：《C++ 数据结构（一）绪论（5）迭代与递归（1）》