“算法设计与分析”

1、 什么是算法？算法有哪些基本特征？请指出算法同程序的相同点与不同点。（课件之“绪论”，教材之“绪论”，page:1）

答：算法是解决问题的方法或过程，是满足以下四个性质的指令序列

    1）输入：有0个以上的输入

2）输出：至少有1个输出

3）确定性：指令清晰、无歧义

4）有限性：指令执行次数有限，时间有限

算法和程序的相同点：两者都具有输入、输出和确定性的特征

不同点：程序是算法用某种程序语言的具体实现，程序不满足算法具有的有限性性质

2、 请描述算法设计的一般过程。（课件之“绪论”）

答：算法设计的一般过程是

1）提出问题

2）确定数学模型

3）明确目的、条件和约束关系

4）设计求解步骤

5）结果评估与分析

如果在第5步的分析中对算法时间、空间复杂度或结果不满意，可以返回第1步或第4步进一步迭代，直至找到满意的算法。

3、 什么是算法复杂性？它主要有哪两个方面构成？（课件之“绪论”）

答：算法复杂性是算法运行时所需要的计算机资源的量，它包括两个方面：时间复杂性（需要时间资源的量）和空间复杂性（需要空间资源的量）。

4、 时间复杂性分析主要分哪三种情况，哪种情况的可操作性最好，最具有实际价值？（课件之“绪论”）

答：时间复杂性分为3种情况，最好情况、平均情况、最坏情况，可操作性最好，最具有实际价值的是最坏情况下的时间复杂性

5、 如果算法A由三个步骤组成，其中第一步的时间复杂性为O(n2)，第二步的时间复杂性为O(nlogn)，第三步的时间复杂性为O(n)，请问算法A的时间复杂性是多少？（教材之“绪论”，page:15）

答：O(n2)

6、 请问二分搜索算法、快速排序算法、线性时间选择算法和最近点对问题的时间复杂性各为多少？（教材之“递归与分治”，page:27,37,39,43）

答：二分搜索算法：最坏情况O(logn)、

快速排序算法:最坏情况O(n2)，最好情况和平均情况均为O(nlogn)

线性时间选择算法:最坏情况O(n)

最近点对问题:时间复杂性O(nlogn)

7、 分治算法和动态规划算法都是通过对问题进行分解，通过对子问题的求解然后进行解重构，从而实现对原问题的求解。请指出这两种算法在对问题进行分解时各自所遵循的原则。（课件之“递归与分治”，课件之“动态规划”）

答：分治算法对问题进行分解时所遵循的原则是将待求解问题分解为若干个规模较小、相互独立且与原问题相同的子问题（不包含公共的子问题）。

动态规划对问题进行分解时所遵循的原则是将待求解问题分解为若干个规模较小、相互关联的与原问题类似的子问题（包含公共的子问题），采用记录表的方法来保存所有已解决问题的答案，而在需要的时候再找出已求得的答案，避免大量的重复计算。

8、 动态规划算法的本质是什么，请简要阐述。（课件之“动态规划”）

答：动态规划的实质是分治思想和解决冗余，动态规划算法是将问题分解为更小的、相似的子问题，并存储子问题的解而避免计算重复的子问题，以解决最优化问题的算法策略。

9、 如果一个问题可以利用动态规划算法求解，那么该问题应满足什么条件？（教材之“动态规划”，page:67）

答：该问题具有最优子结构性质（一个问题的最优解包含其子问题的最优解）和子问题重叠性质（每次递归产生的子问题不总是新问题，有些子问题被反复计算多次）

10、动态规划算法的基本思想是什么？请简述动态规划算法主要设计步骤。（教材之“动态规划”，page:61）

答：动态规划算法的基本思想是将待求解问题分解成若干个相互关联的与原问题类似的子问题，求解这些子问题，并保存子问题的答案，避免重复计算，然后从这些子问题的解得到原问题的解。

动态规划算法主要设计步骤：

1）找出最优解的性质，并刻画其结构特征；

2）递归地定义最优值；

3）以自底向上的方式计算出最优值；

4）根据计算最优值时得到的信息，构造最优解；

11、什么是备忘录方法？它同动态规划法相比主要不同点是什么？请指出动态规划法和备忘录方法各自的适用范围。（课件之“动态规划”）

答：备忘录方法是动态规划算法的变形，它通过分治思想对原问题进行分解，以存储子问题的解的方式解决冗余计算，并采用自顶向下的递归方式获取问题的最终解。

与动态规划算法的不同之处是动态规划算法的递归方式是自底向上递归求解，而备忘录方法的递归方式是自顶向下递归求解。

当一个问题的所有子问题都至少要解一次时，使用动态规划算法。

当子问题空间中的部分子问题不需要求解时，使用备忘录方法。

12、贪心算法的设计思想是什么，有什么特点？如果一个问题用贪心算法可以获得全局最优解，那么该问题的求解应满足哪些条件？（课件之“贪心算法”，教材之“贪心策略”,page110）

答：贪心算法的设计思想是在对问题求解时，总是做出在当前看来是最好的选择。

它的特点是1）不是从整体考虑——得到的解可能不是全局最优 2）简单，直接，易理解，效率高。

如使用贪心算法求解问题获得全局最优解，则问题应满足

1）贪心选择性质（与动态规划的主要区别）

所求问题的整体最优解可以通过一系列局部最优的选择（即贪心选择）来达到

2）最优子结构性质（动态规划算法和贪心算法的共同点）

一个问题的最优解包含其子问题的最优解时。

13、请简要描述回溯法的实现过程。用回溯法求解0/1背包问题、TSP问题、N皇后问题和连续邮资问题时，其各自的解空间树各是什么形式？(课件之“回溯法”，教材之“回溯法”page147）

答：实现过程：确定解空间的组织结构，然后从开始结点（根结点）出发，以深度优先方式搜索整个解空间。这个开始结点成为活结点，同时也成为当前的扩展结点。

在当前扩展结点处，搜索向纵深方向移至一个新结点。这个新结点成为新的活结点，并成为扩展结点。否则如果在当前扩展结点处不能再向纵深方向移动，则当前扩展结点就成为死结点。此时，应往回移动（回溯）到最近的活结点处，并使该结点成为当前的扩展结点。

回溯法按上述方式递归地在解空间中搜索，直到找到所要求的解或解空间中以无活结点为止。

0/1背包：n+1层的子集树  TSP问题：(n-1)!个叶节点的排列树

N皇后问题：完全n叉树    连续邮资问题：n层树，其中结点的度随着本结点取值范围而变化的树？？

14、影响回溯法效率的主要因素有哪些？如何有效地估算回溯法在求解具体实例时产生的中间节点数量？(课件之“回溯法”，教材之“回溯法”page187，188）

答：影响回溯法效率的主要因素

1）产生x[k]的时间

2）满足显约束的x[k]值的个数

3）计算约束函数constrain的时间

4）计算上界函数bound的时间

5）满足约束函数和上界函数约束的所有x[k]的个数

采用概率方法可以有效地估算回溯法在求解具体实例时产生的中间节点数量：

（即在解空间树上产生一条随机路径，然后沿该路径估算解空间中满足约束条件的节点数m，由于使用静态约束函数，在某些情况下产生的估计较为保守。因此还可以多选取几条不同的路径，分别计算m，然后平均，这样的估算结果会更准确些。）

15、请简述分支限界法的算法思想以及两种主要的实现方法。(课件之“分支限界法”，教材之“分支限界法”page195，196）

答：分支限界法的算法思想是在问题的解空间树上以广度优先或最小耗费（最大效益）优先方式搜索问题的满足约束条件的一个解或最优解。（搜索策略：每一个活结点只有一次机会成为扩展结点。扩展结点一次性产生其所有儿子结点。在这些儿子结点中，导致不可行解或导致非最优解的儿子结点被舍弃，其余儿子结点被加入活结点表中。此后，从活结点表中按一定的策略取下一结点成为当前扩展结点，并重复上述结点扩展过程。这个过程一直持续到找到所需的解或活结点表为空时为止。）

分支限界法根据从活结点表中选择下一个扩展结点的方式有两种实现方法

1）队列式FIFO分支限界法：按照队列先进先出（FIFO）原则选取下一个节点为扩展节点。 

2）优先队列式分支限界法：按照优先队列中规定的优先级选取优先级最高的节点成为当前扩展节点。

（最大优先队列：使用最大堆，体现最大效益优先

最小优先队列：使用最小堆，体现最小费用优先）

16、请指出回溯法与分支限界法的相同点与不同点。(课件之“分支限界法”）

答：相同点：

1）两者在进行问题求解前，都需要完成解空间的定义和组织；

2）都是通过在解空间树上搜索来寻找问题的解；

不同点：

1）搜索方式

回溯法：深度优先；

分支限界法：广度优先；

2）搜索策略

回溯法：根据剪枝函数，选择下一个扩展接点并按深度优先方式进行搜索；

分支限界法：在扩展结点处，先产生其所有的子结点（分支），然后根据限界函数，确定哪些子结点将导致不可行解或非最优解，将这些子结点剔除，用剩下的子结点构造当前的活结点表，然后从该表中取一个结点作为当前扩展结点，并重复上述过程；

17、概率算法主要有哪些类型？它们各自的主要特点是什么？如何有效提高概率算法获得正确解的概率或提高算法的求解精度？(课件之“概率算法”，教材之“概率算法”page241）

答：1）数值概率算法：常用于数值问题的求解，得到的往往是近似解

（1）解的精度随计算时间的增加而提高

（2）在许多情况下，计算出问题的精确解是不可能或没必要

2）蒙特卡罗算法：用于求解问题的准确解，可以求得问题的一个解，但该解未必正确

（1）求得正确解的概率依赖于算法的计算时间

多次执行蒙特卡罗算法，可以提高获得正确解的概率

（2）无法有效判定所得到的解是否肯定正确。

3）拉斯维加斯算法：不会得到不正确的解

（1）有时找不到问题的解

（2）找到正确解的概率随算法计算时间的增加而提高

（3）用同一拉斯维加斯算法反复对问题实例求解足够多次，可使求解失败的概率任意小。

4）舍伍德算法：总能求解得到问题的一个解，而且所求得得解总是正确的。

将确定性算法引入随机性改造成舍伍德算法，可消除或减少问题对于好坏实例间的差别。

18）对于NP完全问题，我们一般采取的求解策略主要有哪些？(课件之“近似算法”，教材之“近似算法”page326）

答：NP完全问题可行的解题策略

1）只对问题的特殊实例求解

2）用动态规划法或分支限界法求解

3）用概率算法求解

4）只求近似解

5）用启发式方法求解