主定理(一般式)

本文介绍了主定理,一种用于分析分治策略递归算法时间复杂度的重要工具,详细讨论了简化版的局限性以及一般情况下的三种增长率对比。

主定理(Master Theorem)是用于分析递归算法时间复杂度的一个重要工具。它适用于形式化定义的一类递归关系,通常采用分治策略解决问题的情况。

主定理简化版的局限

主定理简化版的三种情况:

  1. I F IF IF f ( n ) = O ( n l o g b ( a − ε ) ) f(n) = O(n^ {log_b(a - ε)}) f(n)=O(nlogb(aε)),and ε > 0 ε > 0 ε>0,Then T ( n ) = Θ ( n l o g b ( a ) ) T(n) = Θ(n^{log_b(a)}) T(n)=Θ(nlogb(a))
  2. I F IF IF f ( n ) = Θ ( n l o g b ( a ) ⋅ l o g k n ) f(n) = Θ(n^{log_b(a)} ·log^k n) f(n)=Θ(nlogb(a)logkn),and k ≥ 0 k ≥ 0 k0,Then T ( n ) = Θ ( n l o g b ( a ) ⋅ l o g k + 1 n ) T(n) = Θ(n^{log_b(a)} · log^{k+1} n) T(n)=Θ(nlogb(a)logk+1n)
  3. I F IF IF f ( n ) = Ω ( n l o g b ( a + ε ) ) f(n) = Ω(n^{log_b(a + ε)}) f(n)=Ω(nlogb(a+ε)),and ε > 0 ε > 0 ε>0 a ⋅ f ( n b ) ≤ c ⋅ f ( n ) a · f(\frac{n}{b}) ≤ c · f(n) af(bn)cf(n) 对于某个常数 c < 1 c < 1 c<1 和所有足够大的 n n n 成立,Then T ( n ) = Θ ( f ( n ) ) T(n) = Θ(f(n)) T(n)=Θ(f(n))

简化形式具有一定的限制条件,比如形式上必须是: T ( n ) = a ⋅ T ( n b ) + f ( n ) T(n)=a·T(\frac{n}{b})+f(n) T(n)=aT(bn)+f(n)

并且 f ( n ) = n c f(n) = n^{c} f(n)=nc

三个反例:

  1. 子问题数量不是常数

T ( n ) = n ⋅ T ( n 2 ) + n 2 T(n)=n \cdot T(\frac{n}{2})+n^{2} T(n)=nT(2n)+n2

  1. 子问题数量小于1

T ( n ) = 1 2 T ( n 2 ) + n 2 T(n)=\frac{1}{2}T(\frac{n}{2})+n^{2} T(n)=21T(2n)+n2

  1. 分解问题和合并解的时间不是 n c n^{c} nc

T ( n ) = 2 T ( n 2 ) + n l o g n T(n)=2T(\frac{n}{2})+nlogn T(n)=2T(2n)+nlogn


主定理一般形式

T ( n ) = a ⋅ T ( n b ) + f ( n ) , a > 0 , b > 1 T(n)=a·T(\frac{n}{b})+f(n),a>0,b>1 T(n)=aT(bn)+f(n),a>0,b>1

  1. I F IF IF ∃ ε > 0 \exists ε > 0 ε>0 使得 f ( n ) = O ( n l o g b ( a − ε ) ) f(n) = O(n^ {log_b(a - ε)}) f(n)=O(nlogb(aε)) ,Then T ( n ) = Θ ( n l o g b ( a ) ) T(n) = Θ(n^{log_b(a)}) T(n)=Θ(nlogb(a))
  2. I F IF IF ∃ k ≥ 0 \exists k ≥ 0 k0 使得 f ( n ) = Θ ( n l o g b ( a ) ⋅ l o g k n ) f(n) = Θ(n^{log_b(a)} ·log^k n) f(n)=Θ(nlogb(a)logkn),Then T ( n ) = Θ ( n l o g b ( a ) ⋅ l o g k + 1 n ) T(n) = Θ(n^{log_b(a)} · log^{k+1} n) T(n)=Θ(nlogb(a)logk+1n)
  3. I F IF IF ∃ ε > 0 \exists ε > 0 ε>0 使得 f ( n ) = Ω ( n l o g b ( a + ε ) ) f(n) = Ω(n^{log_b(a + ε)}) f(n)=Ω(nlogb(a+ε))
    且对于某个常数 c < 1 c < 1 c<1 和所有足够大的 n n n a ⋅ f ( n b ) ≤ c ⋅ f ( n ) a · f(\frac{n}{b}) ≤ c · f(n) af(bn)cf(n) ,Then T ( n ) = Θ ( f ( n ) ) T(n) = Θ(f(n)) T(n)=Θ(f(n))

主要考虑 函数 n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 的增长率关系

情况1: n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 增长的快

T ( n ) = 9 T ( n 3 ) + n T(n)=9T(\frac{n}{3})+n T(n)=9T(3n)+n

  • n l o g b a = n 2 n^{log_{b}{a}}=n^{2} nlogba=n2,
  • f ( n ) = n = O ( n 2 − ϵ ) , ϵ ≤ 1 f(n)=n=O(n^{2-\epsilon }),\epsilon \le1 f(n)=n=O(n2ϵ),ϵ1
  • ⇒ T ( n ) = O ( n 2 ) \Rightarrow T(n)=O(n^{2}) T(n)=O(n2)

情况2: n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 增长率类似

T ( n ) = T ( 2 n 3 ) + 1 T(n)=T(\frac{2n}{3})+1 T(n)=T(32n)+1

  • n l o g b a = n l o g 3 / 2 1 = n 0 = 1 n^{log_{b}{a}}=n^{log_{3/2}1}=n^{0}=1 nlogba=nlog3/21=n0=1,
  • f ( n ) = 1 = Θ ( n l o g b a l o g 0 n ) f(n)=1=Θ(n^{log_{b}{a}}log^{0}n) f(n)=1=Θ(nlogbalog0n)
  • ⇒ T ( n ) = O ( l o g n ) \Rightarrow T(n)=O(log n) T(n)=O(logn)

情况3: n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 增长的慢

  • f ( n ) f(n) f(n) n l o g b a n^{log_{b}{a}} nlogba 增长的更快,至少要快 Θ ( n ϵ ) Θ(n^{\epsilon}) Θ(nϵ) 倍,且 a f ( n b ) ≤ c f ( n ) af(\frac{n}{b}) \le cf(n) af(bn)cf(n)

T ( n ) = 3 T ( n 4 ) + n l o g n T(n)=3T(\frac{n}{4})+nlogn T(n)=3T(4n)+nlogn

  • n l o g b a = n l o g 4 3 = n 0.793 n^{log_{b}{a}}=n^{log_{4}3=n^{0.793}} nlogba=nlog43=n0.793,
  • f ( n ) = n l o g n = Ω ( n l o g 4 3 + ϵ ) , ϵ ≤ 0.207 f(n)=nlogn=Ω(n^{log_{4}3+\epsilon }),\epsilon \le0.207 f(n)=nlogn=Ω(nlog43+ϵ),ϵ0.207
  • a f ( n b ) = 3 ( n 4 ) l o g ( n 4 ) ≤ 3 4 n l o g n = c f ( n ) , c = 3 4 af(\frac{n}{b})=3(\frac{n}{4})log(\frac{n}{4}) \le \frac{3}{4}nlogn=cf(n),c=\frac{3}{4} af(bn)=3(4n)log(4n)43nlogn=cf(n),c=43
  • ⇒ T ( n ) = O ( n l o g n ) \Rightarrow T(n)=O(nlogn) T(n)=O(nlogn)

主定理不适用的情况

  1. n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 的增长率不可比
  2. n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 增长的快,但没有快 O ( n ϵ ) O(n^{\epsilon}) O(nϵ)
  3. n l o g b a n^{log_{b}{a}} nlogba f ( n ) f(n) f(n) 增长的慢,但没有慢 O ( n ϵ ) O(n^{\epsilon}) O(nϵ)

### 定理递推练习题与教程 #### 解析定理及其应用 定理提供了一种简便的方法来解决形如 \( T(n) = aT(\frac{n}{b}) + f(n) \) 的递推关系,其中 \( a \geq 1 \),\( b > 1 \) 是常数,且 \( f(n) \) 是渐近正函数[^3]。 对于这类递推关系,可以根据 \( f(n) \) 和 \( n^{\log_b{a}} \) 的相对增长率确定解的形: - 如果存在某个常量 \( \epsilon > 0 \),使得 \( f(n) = O(n^{c-\epsilon}) \),那么 \( T(n) = Θ(n^{\log_b{a}}) \)。 - 若 \( f(n) = Θ(n^{\log_b{a}}) \),则 \( T(n) = Θ(n^{\log_b{a}}\lg{n}) \)。 - 假设存在常量 \( \epsilon > 0 \),满足 \( f(n) = Ω(n^{c+\epsilon}) \),并且当 \( af(\frac{n}{b}) \leq cf(n) \) 对于某些常量 \( c < 1 \) 及所有充分大的 \( n \) 成立,则 \( T(n) = Θ(f(n)) \)。 #### 实际案例解析 考虑如下例子: \[ T(n) = \begin{cases} O(1), & \text{if } n = 1 \\ 3T(\frac{n}{4}) + n, & \text{otherwise}. \end{cases}\] 这里 \( a=3 \),\( b=4 \),因此 \( n^{\log_4{3}} \approx n^{0.79} \)。因为 \( f(n)=n=n^{1}=Ω(n^{0.79+ε}) \),即 \( d=1>\log_{4}(3)\approx0.79 \),而且满足规律性条件,故此情况适用于第三类情形,最终得出结论 \( T(n)(n) \)[^5]。 ```python def master_theorem(a, b, f_n): """ 使用定理估算递归时间复杂度 参数: a -- 子问题数量 b -- 输入规模缩小比例 f_n -- 非递归工作量表达 返回: 复杂度类别字符串描述 """ log_a_base_b = math.log(a, b) if isinstance(f_n, str): # 判断输入是否为字符串形 try: exec('from sympy import *') symbols('n') expr = eval(f_n.replace('^', '**')) if limit(expr / (n ** log_a_base_b), n, oo).is_finite and \ limit((expr / (n ** log_a_base_b)), n, oo) != 0: return "Theta(n**{})".format(log_a_base_b) elif limit(expr / (n**(log_a_base_b - epsilon)), n, oo).is_zero for any small positive epsilon: return "Theta(n**{}*log(n))".format(log_a_base_b) else: return "Theta({})".format(f_n) except Exception as e: print(e) raise ValueError("Invalid function expression.") ``` 上述Python代码实现了基于定理的时间复杂度估计工具,能够处理基本类型的非递归项 `f(n)` 表达,并返回相应的大O记号表示的结果。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

恭仔さん

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值