主定理
主定理最早出现在《算法导论》中，提供了分治方法带来的递归表达式的渐近复杂度分析。
规模为n的问题通过分治，得到a个规模为n/b的问题，每次递归带来的额外计算为c(n^d)
T(n) <= aT(n/b)+c(n^d)
那么就可以得到问题的复杂度为：
- T(n) = O(n^d log(n)), if a = b^d
- T(n) = O(n^d ), if a < b^d
- T(n) = O(n^logb(a))), if a > b^d
证明方法
本来使用主定理是可以免去画递归树的，但为了证明主定理，还是需要画树。
可见，每次递归把问题分为a个规模为n/b的子问题。从根节点开始，共有logb(n)+1层，叶子节点数为a^(logb(n))。那么，第j层共有a^j个子问题，每个问题规模为n/b^j，每个子问题运算量为c*(n/b^j)^d需要完成的计算量为：
求和得到整个问题的运算量：
那么，根据a与b^d的关系，很容易得到主定理。
应用
二分搜索
- 每次问题规模减半，a=1，b=2，d=0
- 复杂度为n^0 log(n) = log(n)。
快速排序
- 随机选择待排序序列中的一个数字作为划分字问题的标准，划分是否平均影响算法复杂度
- 每次问题规模减半，a=2，b=2，d=1
- 复杂度为n^2 log(n)
- 最差情况下，复杂度为O(n^2)
归并排序
- 数据列均分为两部分，分别排序，之后以O(n)的复杂度进行合并，空间复杂度O(n)
- 每次问题规模减半，a=2，b=2，d=1
- 复杂度为n log(n)
基数排序(Radix sort)
- 对于待排序的整数序列，从最低位到最高位每次按照相应的位排序一次
- 每次递归问题规模变为原来的1/10，但需要求解10个子问题，额外运算为O(n)的，a=10，b=10，d=1
- 复杂度为n^1 log(n) = n log(n)，近似为O(kN)，k为整数的位数
快速傅里叶变换：FFT
- 每次问题规模减半，a=2，b=2，d=1
- 复杂度为n log(n)
Karatsuba快速乘法
- 正常两个n位数乘法为n^2
- 算法把两个乘数各分为高低位两部分，如X*Y = (a+b) * (c+d) = ac+bd + (bc+ad) = ac+bd+(ac+bd – (a-b)(c-d))
- 只需要ac,bd,(a-b)(c-d)三次乘法
- 每次问题规模减半，但需要解3个子问题，加法是O(n)的，a=3，b=2，d=1
- 复杂度为n^log2(3)
转载请注明作者：Focustc，博客地址为
http://blog.csdn.net/caozhk，原文链接为
点击打开
