贪婪算法(greedy algorithm)
1、贪婪算法阶段工作。在每一个阶段,可以认为所做决定是最好的,而不考虑将来的后果。通常这意味着选择的是某个局部的最优。这种“眼下能够拿到就拿”的策略的贪婪算法名称的由来。
2、当算法终止时,我们希望局部最优等于全局最优。如果是这样的话,那么算法就是正确的;否则,算法得到的是一个次最优解。如果不要求绝对最佳答案,那么有时使用简单的贪婪算法生成近似的答案,而不是使用通常产生准确答案所需要的复杂算法。
3、基本思想:不从总体最优考虑,仅考虑局部最优解,问题必须具备后无效性。
4、步骤:
(1)将问题分解为多个子问题;
(2)得到问题的局部最优解;
(3)合并子问题的局部最优解;
分治算法(devide and conquer)
1、在正文中至少含有两个递归调用的例程叫做分治算法。一般坚持子问题是不相交的(相互独立)。
2、基本思想:将一个问题,分解为多个子问题,递归的去解决子问题,最终合并为问题的解。
3、分治算法由两部分组成:
(1)分:递归解决较小的问题。
(2)治:从子问题的解构建原问题的解。
4、适用情况:
(1)问题分解为小问题后容易解决。
(2)问题可以分解为小问题,即最优子结构。
(3)分解后的小问题可以合并为原问题的解。
(4)小问题之间相互独立。
动态规划算法(dynamic programming)
1、动态规划:将递归算法重新写为非递归算法,让后者把那些子问题的答案系统的记录在一个表内。
2、基本思想:将问题分解为多个子问题(阶段),按顺序求解,前一个问题的解为后一个问题提供信息。
3、经分解后的子问题往往不是相互独立的。由于动态规划解决的问题多数是有重叠子问题这个特点,为减少重复计算,对每一个子问题只解一次,将其不同阶段的不同状态保存在一个二维数组中。
4、适用情况:
(1)最优化原理:问题的最优解所包含的子问题的解也是最优的,即最优子结构。
(2)无后效性:某个状态一旦确定,就不受以后决策的影响。
(3)有重叠子问题。
回溯算法(backtracking)
1、基本思想:选优搜索法,走不通就退回重选,按照深度优先搜索的策略,从根节点出发,深度搜索解空间。
2、回溯算法从问题的最明显的最小规模开始逐步求解出答案,并以此慢慢的扩大问题的规模。
3、求解目标:找出解空间树中满足约束条件的所有解。
4、步骤:
(1)确定解空间。
(2)确定节点的扩展搜索规则。
(3)深度优先方式搜索解空间,用剪枝法避免无效搜索。
分支限界法(branch and bound)
1、分支:采用广度优先的策略,依次生成扩展结点的所有分支。
2、限界:在结点扩展过程中,计算结点的上界(或下界),边搜索边减掉搜索树的某些分支,从而提高搜索的效率。
3、原理:按照广度优先的原则,一个活结点一旦称为一个扩展结点,算法将依次生成它的全部孩子结点,将那些导致不可行结点或导致非最优解的儿子结点舍弃,其余儿子结点加入活结点表中。然后从活结点表中取出一个结点作为当前扩展结点。重复以上扩展结点过程,直到找到问题的解或判定无解为止。
4、分支限界法的求解目标是找出使得某一目标函数达到极小或极大的一个问题的结点。
5、分支限界法以广度优先或以最小耗费优先的方式搜索解空间树。
6、常见的两种分支限界法:
(1)队列式(FIFO)分支限界法:按照队列先进先出(FIFO)原则选取下一个结点为扩展结点。
(2)优先队列式分支限界法:按照优先队列中规定的优先级选取优先级最高的结点成为当前扩展结点。
代码:点击打开链接