Wu_Dongxia的博客

本篇主要是笔者在学习Andrew Ng的机器学习网易公开课的笔记。 第一集：机器学习的动机与应用 学习机器学习主要的先备知识有：线性代数，概率论，统计理论，数据结构等。 机器学习包括：监督学习，学习理论（证明算法的有效性等），

这一集主要讲了线性回归，梯度下降，正则化方程组这三个方面的内容 线性回归： 线性回归主要解决变量之间的因果关系问题。假设我们有一组某一地区的房屋面积和价格的数据，根据常识，我们知道一般来说，房屋面积越大，价格越高，但是我们并不知道确定的对应关系，那么我们可以用线性回归来得到，并且可以预测某一面积的房屋的大概价格。 具体的过程如下： 首先我们有一组训练数据，然后通过我们的学习算法得到

大纲： 1 线性回归  1.1局部加权回归 2 逻辑回归（logistic regression）  2.1感知器算法 在一定的数据量下，特征值过多可能会引起过拟合现象（overfitting），相反，特征值过少可能会引起欠拟合现象（underfitting） 解决办法：1 特征学习算法 2 非参学习（参数数量随着训练集的增长而增长） 局部加权回归：假设我们有一组数据如下，当