与

一：机器学习的定义Arthur Samuel 1959年(亚瑟·塞穆尔)的定义： Field of study that gives computers the ability to learn without being explicitly programmed. 【在没有明确为计算机编写（完成某项具体任务的）程序的情况下，让计算机拥有 “学习” 能力的一个研究领域。】Tom Mitchell

一 牛顿法目标：对于函数,找到一个，使得步骤：1)       给出一个的初始值2)       对求导，求导数为0时的值（就是求切线与x轴交点）3)       重复步骤2 算法迭代过程如下图所示：其中为初始值，为第一次迭代的值，为第二次迭代的结果。迭代的目的就是使最大所以 应用于Logistic回归：求对数似然的最大值，即求为0时的，...

一 生成学习算法两种学习算法的定义1 判别学习算法：直接学习p(y|x)，其中x是某类样例的特征，y是某类样例的分类标记。即给定输入特征，输出所属的类或学习得到一个假设hθ(x)，直接输出0或1。通俗的说就是直接对问题求解，比如logistic算法，在解空间中寻找一条直线从而把两种类别的样例分开。2 生成学习算法：对p(x|y)进行建模，p(x|y)表示在给定所属的类的情况下，显示某种...

课程概况：线性回归、梯度下降、正规方程组 概述汽车的自动驾驶：人类司机会为汽车提供一系列正确的行驶方向，之后尝试更多正确的行驶方向，以确保汽车始终行驶在路上，就是汽车的任务了。-----监督学习中的回归问题：汽车尝试预测表示行驶方向的连续变量的值。 举例：房价预测房价由多个因素，比如房子面积，卧室的数量等因素决定监督学习的任务：学习房价与各因素之间的关系 引...

一.欠拟合与过拟合上次课的例子中，用x1表示房间大小。通过线性回归，在横轴为房间大小，纵轴为价格的图中，画出拟合曲线。回归的曲线方程为： 若定义特征集合为：x1表示房子大小，x2表示房子大小的平方，使用相同的算法，拟合得到一个二次函数，在图中即为一个抛物线，即：以此类推，若训练集有7个数据，则可拟合出最高6次的多项式，可以找到一条完美的曲线，该曲线经过每个数据点。但是这样的模型...