
时空复杂度
输入规模
不同的人在不同的场合下,对于输入规模(input scale)的理解可以不同。一般而言,输入规模应当能描述输入所需的空间。例如,如果算法要求输入一条数列(数组),则输入规模n应当是数列的长度。
时间复杂度
时间复杂度(time complexity)是关于输入规模的函数,用于描述算法执行所需要的时间与输入规模的关系。
一般地,我们开发一个算法,最终都是要将其应用到输入规模极大的场合中的。比如,我们开发一个排序算法,可能在算法的原型形成之前,大都只考虑对几十个、几百个数排序,但之后我们就要将其推广到对几百万甚至几十亿个数排序的情况。所以,一般不考虑算法在处理小规模问题时耗费的时间,而主要关注处理大规模问题时算法的表现。对于小规模的输入,不同算法的效率差异不明显,并且针对小规模的问题做优化耗费的精力相比收益而言是不经济的。而处理很大规模的输入时,效率的些许差异都可以对算法实际的耗时产生巨大影响。因此,通常考察渐进时间复杂度(asymptotic computational complexity),即当输入规模n趋于正无穷大时,算法的运行时间的极限。
几种记号
大O记法
若存在正的常数c和函数f(n),使得对任何正数n均有
0≤T(n)≤cf(n)
则f(n)为算法运行耗时T(n)的一个渐进上界,又记为
T(n)=O(f(n))
这种记法也称大O记法(Big-O notation)。不难导出大O符号的如下性质:
█(∀c>0, O(f(n))=O(cf(n))#(1) )
█(∀a>b>0, O(na+nb )=O(n^a )#(2) )
此外,也有小o记号,其区别只是将T(n)≤cf(n)改为
T(n)<cf(n)
可见,大O符号描述算法执行时间的最坏情况。它告诉我们:对任意的输入规模n,算法的耗时都不超过O(f(n))。有些情况对算法的最坏时间复杂度具有硬性要求。举例来说,对于控制核电站运行、管理或辅助手术的计算机系统而言,不可以用最好情况以及平均情况的时间复杂度作为主要的评判标准。
大Ω记法
若存在正的常数c和函数f(n),使得对任何正数n均有
T(n)≥cg(n)
则g(n)为算法运行耗时T(n)的一个渐进下界,又记为
T(n)=Ω(g(n))
这种记法也称大Ω记法。大Ω记号是对算法执行效率的乐观估计。它告诉我们:对任意的输入规模n,算法的耗时都不低于Ω(g(n))。
此外,也有小ω记号,其区别只是将T(n)≥cg(n)改为
T(n)>cg(n)
大Θ记法
若f(n)=O(g(n)), f(n)=Ω(g(n)),则记f(n)=Θ(g(n))。大Θ记法是对算法的时间复杂度的定量界定,是对时间复杂度的较为准确的估计:对任何的输入规模n,算法的耗时T(n)都与Θ(g(n))同阶。
空间复杂度
除了执行时间的长短,算法所需的存储空间多少也是衡量其性能的一个重要方面,这就是空间复杂度(space complexity)。上述记号也适用于空间复杂度,这里不再重复说明。
为了更客观的评价算法性能的优劣,原始输入本身所占用的空间通常不计入空间复杂度。
算法的时间度复杂度一般也会限制空间复杂度不超过某个上界。但是,在对空间要求非常高的应用场景中,或问题的输入规模极为庞大时,仍然需要考察空间效率,并尽力在空间效率方面不断优化。

本文详细介绍了时空复杂度的概念,包括输入规模、时间复杂度的大O记法、大Ω记法、大Θ记法,以及空间复杂度。讨论了在算法设计中如何评估和优化算法在处理大规模输入时的效率,强调了在特定场景下对算法时间复杂度和空间复杂度的要求。
1880

被折叠的 条评论
为什么被折叠?



