算法知识点整理

1、算法的几个基本特征是什么？

确定性，算法中每一步骤都必须有明确定义，不允许有多义性；
有穷性，算法必须能在有限的时间内做完，即能在执行有限个步骤后终止；
可行性，算法原则上能够精确地执行；

2、算法复杂性的定义？

最常见的是时间（要通过多少步才能解决问题）和空间（在解决问题时需要多少内存）。其他资源亦可考虑，例如在并行计算中，需要多少并行处理器才能解决问题。

1）时间复杂度是指在计算机科学与工程领域完成一个算法所需要的时间，是衡量一个算法优劣的重要参数。时间复杂度越小，说明该算法效率越高，则该算法越有价值。

2）空间复杂度是指计算机科学领域完成一个算法所需要占用的存储空间，一般是输入参数的函数。它是算法优劣的重要度量指标，一般来说，空间复杂度越小，算法越好。

复杂度理论和可计算性理论不同，可计算性理论的重心在于问题能否解决，不管需要多少资源。而复杂性理论作为计算理论的分支，某种程度上被认为和算法理论是一种“矛”与“盾”的关系，即算法理论专注于设计有效的算法，而复杂性理论专注于理解为什么对于某类问题，不存在有效的算法。

3、递归算法的定义及要素？

把问题转化为规模缩小了的同类问题的子问题。然后递归调用函数（或过程）来表示问题的解。递归过程一般通过函数或子过程来实现。在函数或子过程的内部，直接或者间接地调用自己的算法。

递归算法解决问题的特点：

(1) 递归就是在过程或函数里调用自身。
(2) 在使用递归策略时，必须有一个明确的递归结束条件，称为递归出口。
(3) 递归算法解题通常显得很简洁，但递归算法解题的运行效率较低。所以一般不提倡用递归算法设计程序。
(4) 在递归调用的过程当中系统为每一层的返回点、局部量等开辟了栈来存储。递归次数过多容易造成栈溢出等。所以一般不提倡用递归算法设计程序。

如何设计递归算法：

1.确定递归公式
2.确定边界(终了)条件

4、分治算法的思想？

将一个规模为N的问题分解为K个规模较小的子问题，这些子问题相互独立且与原问题性质相同。求出子问题的解，就可得到原问题的解。分治法解题的一般步骤：

（1）分解，将要解决的问题划分成若干规模较小的同类问题；

（2）求解，当子问题划分得足够小时，用较简单的方法解决；

（3）合并，按原问题的要求，将子问题的解逐层合并构成原问题的解。

利用分治策略求解时，所需时间取决于分解后子问题的个数、子问题的规模大小等因素，而二分法，由于其划分的简单和均匀的特点，是经常采用的一种有效的方法，例如二分法检索。

---分治法的复杂性分析

一个分治法将规模为n的问题分成k个规模为n／m的子问题去解。

设分解阀值n0=1，且adhoc解规模为1的问题耗费1个单位时间。再设将原问题分解为k个子问题以及用merge将k个子问题的解合并为原问题的解需用f(n)个单位时间。用T(n)表示该分治法解规模为|P|=n的问题所需的计算时间，则有：

T（n）= k T(n/m)+f(n)

通过迭代法求得方程的解：

递归方程及其解只给出n等于m的方幂时T(n)的值，但是如果认为T(n)足够平滑，那么由n等于m的方幂时T(n)的值可以估计T(n)的增长速度。

通常假定T(n)是单调上升的，从而当mi≤n<mi+1时，T(mi)≤T(n)<T(mi+1)。 

---可使用分治法求解的一些经典问题

1）二分搜索  2）大整数乘法  3）Strassen矩阵乘法   4）棋盘覆盖  5）合并排序

6）快速排序  7）线性时间选择 8）最接近点对问题 9）循环赛日程表 10）汉诺塔

5、动态规划算法？备忘录方法是什么？

通常用于求解具有某种最优性质的问题。在这类问题中，可能会有许多可行解。每一个解都对应于一个值，我们希望找到具有最优值的解。

动态规划算法与分治法类似，其基本思想也是将待求解问题分解成若干个子问题，先求解子问题，然后从这些子问题的解得到原问题的解。

与分治法不同的是，适合于用动态规划求解的问题，经分解得到子问题往往不是互相独立的。若用分治法来解这类问题，则分解得到的子问题数目太多，有些子问题被重复计算了很多次。如果我们能够保存已解决的子问题的答案，而在需要时再找出已求得的答案，这样就可以避免大量的重复计算，节省时间。我们可以用一个表来记录所有已解的子问题的答案。不管该子问题以后是否被用到，只要它被计算过，就将其结果填入表中。这就是动态规划法的基本思路。具体的动态规划算法多种多样，但它们具有相同的填表格式。

1）基本模型如下：

(1)确定问题的决策对象。 

(2)对决策过程划分阶段。

 (3)对各阶段确定状态变量。 

(4)根据状态变量确定费用函数和目标函数。 

(5)建立各阶段状态变量的转移过程，确定状态转移方程。

2）关键要素：

--最优子结构

当问题的最优解包含了其子问题的最优解时，称该问题具有最优子结构性质。最优子结构性质提供了该问题的可用动态规划算法求解的重要线索。动态规划，利用问题的最优子结构性质，以自底向上的方式递归的从子问题的最优解逐步构造出整个问题的最优解。

--重叠子问题

动态规划，避开了递归时，重复的计算相同子问题的过程，对每个子问题只解一次，而后将其保存在一个表格中，当再次需要的时候，只是简单的用常数时间查看一下结果。

--备忘录方法

是动态规划方法的变形。与动态规划算法不同的是，备忘录方法的递归方式是自顶向下的，而动态规划算法则是自底向上的。

首先，查看其相应的记录项，若存在，直接返回。若不存在，则保存，以备以后继续查看。

6、贪心算法及要素？

在对问题求解时，总是做出在当前看来是最好的选择。不从整体最优上加以考虑，他所做出的仅是在某种意义上的局部最优解。贪心算法不是对所有问题都能得到整体最优解，但对范围相当广泛的许多问题他能产生整体最优解或者是整体最优解的近似解。

1）基本要素：

1、贪心选择性质。

指所求问题的整体最优解可以通过一系列局部最优的选择，即贪心选择来达到。这是贪心算法可行的第一个基本要素，也是贪心算法与动态规划算法的主要区别。

动态规划算法通常以自底向上的方式解各子问题，而贪心算法则通常以自顶向下的方式进行，以迭代的方式作出相继的贪心选择，每作一次贪心选择就将所求问题简化为规模更小的子问题。。

2、当一个问题的最优解包含其子问题的最优解时，称此问题具有最优子结构性质。问题的最优子结构性质是该问题可用动态规划算法或贪心算法求解的关键特征。

2）基本思路：

从问题的某一个初始解出发逐步逼近给定的目标，以尽可能快的地求得更好的解。当达到算法中的某一步不能再继续前进时，算法停止。

该算法存在问题：

1. 不能保证求得的最后解是最佳的；
2. 不能用来求最大或最小解问题；
3. 只能求满足某些约束条件的可行解的范围。

3）实现该算法的过程：

从问题的某一初始解出发；
while 能朝给定总目标前进一步 do
　　  求出可行解的一个解元素；
由所有解元素组合成问题的一个可行解；

4）经典的贪心算法：

活动安排问题，背包问题，装载问题，哈夫曼编码，单源最短路径，最小生成树问题。

7、回溯算法？典型模型是什么？

1）也叫试探法，它是一种系统地搜索问题的解的方法。一般步骤：

1 针对所给问题，定义问题的解空间，它至少包含问题的一个（最优）解。

2 确定易于搜索的解空间结构,使得能用回溯法方便地搜索整个解空间 。

3 以深度优先的方式搜索解空间，并且在搜索过程中用剪枝函数避免无效搜索。

问题的解空间通常是在搜索问题解的过程中动态产生的，这是回溯算法的一个重要特性。

2）回溯算法的基本思想是：从一条路往前走，能进则进，不能进则退回来，换一条路再试。

八皇后问题就是回溯算法的典型，第一步按照顺序放一个皇后，然后第二步符合要求放第2个皇后，如果没有位置符合要求，那么就要改变第一个皇后的位置，重新放第2个皇后的位置，直到找到符合条件的位置就可以了。

3）经典算法：

n后问题，0-1背包问题，旅行售货商问题。

8、分支界限法？

常以广度优先或以最小耗费（最大效益）优先的方式搜索问题的解空间树。

在分支限界法中，每一个活结点只有一次机会成为扩展结点。活结点一旦成为扩展结点，就一次性产生其所有儿子结点。在这些儿子结点中，导致不可行解或导致非最优解的儿子结点被舍弃，其余儿子结点被加入活结点表中。

此后，从活结点表中取下一结点成为当前扩展结点，并重复上述结点扩展过程。这个过程一直持续到找到所需的解或活结点表为空时为止。

1）队列式(FIFO)分支限界法

按照队列先进先出（FIFO）原则选取下一个节点为扩展节点。

2）优先队列式分支限界法

按照优先队列中规定的优先级选取优先级最高的节点成为当前扩展节点。

---分支限界法与回溯法的不同

1）求解目标：

回溯法的求解目标是找出解空间树中满足约束条件的所有解，而分支限界法的求解目标则是找出满足约束条件的一个解，或是在满足约束条件的解中找出在某种意义下的最优解。

2）搜索方式的不同：

回溯法以深度优先的方式搜索解空间树，而分支限界法则以广度优先或以最小耗费优先的方式搜索解空间树。

经典算法：

0-1背包问题，旅行售货商问题。