算法复杂性和渐进复杂意义下的记号 O、Ω、θ

算法复杂性

算法复杂性 $=$ 算法运行时所需要的计算机资源的量

通常指的是空间、时间资源

影响时间复杂性的因素

影响时间复杂性的因素有： 问题规模$n$、输入序列$I$、算法本身$A$

• 问题规模：如果相同的序列和算法的前提下，在10个数字中找一个数字和在10万个数字中找一个数字，两者消耗的时间不一样。

• 输入序列：如果相同的规模和算法的前提下，第一个就是要找的数字和最后一个是要找的数字，两者消耗的时间不一样。

• 算法本身：如果相同的序列和规模的前提下，算法效率高的和算法效率低的，两者消耗的时间不一样。
  如：
  顺序查找：最少$1$次 ； 最多$n$次
  折半查找：最少$1$次 ； 最多$logn$次

影响空间复杂性的因素

一般请情况下，在算法使用的数据结构时需要借助大量的辅助空间来帮助完成算法。所以辅助变量影响空间复杂性。如：

• 顺序查找：借助1个循环变量完成。
• 冒泡排序：借助2个循环变量，1个交换的临时变量。

复杂度的表示形式有：

• $O(1)$ $O(logn)$
• $O(n)$ $O(nlogn)$
• $O(n^2)$ $O(2^n)$
• $O(n^n)$ $O(n！)$

算法的渐进复杂性态的引进

设算法的运行时间为$T(n)$ ，如果存在$T^{\ast }(n)$ ， $n$ 趋于无穷大使得

$$\underset{n\to \infty }{\lim }\frac{T(n)-T^{\ast }(n)}{T(n)}=0$$

就称$T^{\ast }(n)$为算法的渐进性态 或 渐进时间复杂性。

当 $n$ 很大很大时候$T^{\ast }(n)$就可以代替该算法的时间复杂度，如：
假设算法A的运行的时间表达式$T_1(n)$为：
$$T_1(n)=30n{}^4+20n{}^3+40n{}^2+46n+100$$
令：$T_1{}^{\ast }(n)=30n{}^4$

则：
$$\underset{n\to \infty }{\lim }\frac{T_1(n)-T_1{}^{\ast }(n)}{T_1(n)}=\underset{n\to \infty }{\lim }\frac{20n{}^3+40n{}^2+46n+100}{30n{}^4+20n{}^3+40n{}^2+46n+100}=0$$

这样用$T_1{}^{\ast }(n)$代替$T_1(n)$简化了时间表达式，便于衡量算法的时间复杂度。

在问题的规模$n$很大很大时，$T_1{}^{\ast }(n)=30n^4\approx n^4$

渐进意义下的记号 $O、\Omega 、\theta$

$n,f(n)\ge 0,g(n)\ge 0$

渐进上界记号 $O$

若存在两个正常数 $c$ 和 $n_0$ ，使得 $n\ge n_0$，都有$T(n)\le cf(n)$，则称$T(n)=O(f(n))$，即$f(n)$是$T(n)$的上界。

例子：
用$O$表示$T(n)=10n+4$的阶。

• 存在$c=12,n_0=12$，使得 $n\ge n_0$ 都有：
• $T(n)=10n+4\le 12n$成立
• 令$f(n)=n$，可得$T(n)\le cf(n)=12n$
• $T(n)=O(f(n))=O(n)$

例子：
用$O$表示$T(n)=n{}^2+n$的阶。

• 存在$c=2,n_0=1$，使得 $n\ge n_0$ 都有：
• $T(n)=n{}^2+n\le 2n{}^2$成立
• 令$f(n)=n{}^2$，可得$T(n)\le cf(n)=2n{}^2$
• $T(n)=O(f(n))=O(n{}^2)$

存在$c、n_0$即是说只要找到就行，数值不唯一。

渐进下界记号 $\Omega$

若存在两个正常数 $c$ 和 $n_0$ ，使得 $n\ge n_0$，都有$T(n)\ge cf(n)$，则称$T(n)=\Omega (f(n))$，即$f(n)$是$T(n)$的下界。与$O$相对

例子：
用$\Omega$表示$T(n)=30n{}^4+20n{}^3+40n{}^2+46n+100$

• 存在$c=30，n_0=1$，使得$n\ge n_0$都有$T(n)\ge 30n^4$
• 构造$f(n)=n{}^4$，可得$T(n)\ge cf(n)=30n^4$,
• 即$T(n)=\Omega (f(n))=\Omega (n^4)$

渐进精确界记号 $\theta$

若存在3个正常数 $c_1、c_2$ 和 $n_0$ ，使得 $n\ge n_0$，都有$c_{2}f(n)\le T(n)\le c_{1}f(n)$，则称$T(n)=\theta (f(n))$。

例子：
用$\theta$表示$T(n)=20n^2+8n+10$的阶

$①$ 求得上界:
存在$c_1=29，n_0=10$，使得$n\ge n_0$都有:
$T(n)\le 20n^2+8n+n=20n^2+9n\le 20n^2+9n^2=29n^2$。
构造$f(n)=n^2$，可得$T(n)\le c_{1}f(n)=29n^2$，即$T(n)=O(f(n))=O(n^2)$;
$②$ 求得下界:
存在$c_2=20，n_0=10$，使得$n\ge n_0$都有$T(n)\ge 20n^2$
构造$f(n)=n^2$，可得$T(n)\ge c_{2}f(n)$即$T(n)=\Omega (f(n))=\Omega (n^2)$
$③$ 求得精确界：
存在$c_1=29、c_2=20$和$n_0=10$，使得$你\ge n_0$都有：
$20n^2\le T(n)\le 29n^2$ 可得$T(n)=\theta (f(n))=\theta (n^2)$。