大师定理

简介

大师定理（Master Theorem）是计算分治算法时间复杂度的一个定理。它适用于这样一类递归式：

$T(n) = aT(\frac{n}{b}) + f(n)$

其中，$a$ 代表递归子问题数量，$b$ 代表问题规模缩小的比例，$f(n)$ 代表对问题规模的处理时间。

定理表述

若递归式满足：

$T(n) = aT(\frac{n}{b}) + f(n)$，其中 $a \geq 1, b > 1$，则

1. 若 $f(n) = O(n^{log_b{a}-\epsilon})$，其中 $\epsilon > 0$，则 $T(n) = \Theta(n^{log_b{a}})$。

2. 若 $f(n) = \Theta(n^{log_b{a}})$，则 $T(n) = \Theta(n^{log_b{a}}log n)$。

3. 若 $f(n) = \Omega(n^{log_b{a}+\epsilon})$，其中 $\epsilon > 0$ 且 $af(\frac{n}{b}) \leq cf(n), c < 1$，则 $T(n) = \Theta(f(n))$。

应用实例

归并排序

在归并排序中，将数组平分，并对两部分分别进行归并排序，最终将两部分合并。假设将数组划分成 $a$ 段，每段大小为原来的 $\frac{1}{b}$，单次归并处理时间为 $f(n)$。则时间复杂度可以使用大师定理：

$T(n) = aT(\frac{n}{b}) + f(n)$

其中，

$a = 2$，因为每次将数组分成两部分；

$b = 2$，因为每次将数组长度减半；

$f(n) = O(n)$，因为归并两个有序数组的时间复杂度为 $O(n)$。

带入大师定理，根据第二条公式可知，时间复杂度为 $\Theta(nlogn)$。

二分查找树

在二分查找树中，每次将树的高度减小 $1$。因此，递归式可表示为：

$T(n) = T(\frac{n}{2}) + O(1)$

其中，

$a = 1$，因为每次将树的节点个数减少 $\frac{1}{2}$；

$b = 2$，因为每次将树的高度减小 $1$；

$f(n) = O(1)$，因为每次操作仅仅只是对根节点进行了一次比较。

带入大师定理，根据第一条公式可知，时间复杂度为 $\Theta(logn)$。

总结

大师定理是计算分治算法时间复杂度的一个非常实用的定理，它可以帮助我们快速地分析算法的时间复杂度，尤其是在分治算法中有广泛的应用。