2021-04-26

Homework

了解回归和回溯

回归：
在数理统计中，回归是确定多种变量相互依赖的定量关系的方法。主要用于预测数值型数据，典型的回归例子：数据拟合曲线。
线性回归假设输出变量是若干输出变量的线性组合，并根据这一关系求解线性组合中的最优系数。
通俗理解：输出一个线性函数。
在回归分析中，如果有两个或两个以上的自变量，就称为多元回归。
当样本的描述涉及多个属性时，这类问题就被称为多元线性回归。
线性回归能对连续值进行预测，而现实中学常见的另一类问题是分类，逻辑回归解决的就是分类问题。
逻辑回归输出的实例属于每个类别的似然概率，似然概率最大的类别就是分类结果。
通俗理解：逻辑就是True或False，判断出是True还是False，相当于分类了。
在二分类任务中，逻辑回归可以视为在平面直角坐标系上划定一条数据分类的判定边界。
一般来说，回归分析是通过规定因变量和自变量来确定变量之间的因果关系，建立回归模型，并根据实测数据来求解模型的各个参数，然后评价回归模型是否能够很好的拟合实测数据；如果能够很好的拟合，则可以根据自变量作进一步预测。
回溯：
回溯法也称试探法，它的基本思想是:从问题的某一种状态(初始状态)出发，搜索从这种状态出发所能达到的所有"状态"，当一条路走到"尽头"的时候(不能再前进)，再后退一步或若干步，从另一种可能"状态"出发，继续搜索，直到所有的"路径"(状态)都试探过。这种不断"前进"、不断"回溯"寻找解的方法，就称作"回溯法"。

回溯法是一个既带有系统性又带有跳跃性的的搜索算法。它在包含问题的所有解的解空间树中，按照深度优先的策略，从根结点出发搜索解空间树。算法搜索至解空间树的任一结点时，总是先判断该结点是否肯定不包含问题的解。如果肯定不包含，则跳过对以该结点为根的子树的系统搜索，逐层向其祖先结点回溯。否则，进入该子树，继续按深度优先的策略进行搜索。回溯法在用来求问题的所有解时，要回溯到根，且根结点的所有子树都已被搜索遍才结束。而回溯法在用来求问题的任一解时，只要搜索到问题的一个解就可以结束。这种以深度优先的方式系统地搜索问题的解的算法称为回溯法，它适用于解一些组合数较大的问题。
用回溯算法解决问题的一般步骤为:

一、定义一个解空间，它包含问题的解。

二、利用适于搜索的方法组织解空间。

三、利用深度优先法搜索解空间。

四、利用限界函数避免移动到不可能产生解的子空间。问题的解空间通常是在搜索问题的解的过程中动态产生的，这是回溯算法的一个重要特性。