机器学习-1

学习吴恩达机器学习1-3章

主要内容：对机器学习在生活中的应用做了介绍（邮件分类，新闻分类，疾病预测，房价预测）；机器学习算法分类及简要介绍；监督学习（supervised learning）中的单变量线性回归（linear regression with one variable）；损失函数（cost function）；梯度下降算法（grandient descent）；将梯度下降算法应用到线性回归中构建出第一个机器学习算法；矩阵的相关知识。

机器学习算法：1、监督学习：特点：输出的是值（例如房价预测中输出连续值房价；邮件分类中输出的1或0）；2、非监督学习：特点：输出的是将某些对象化为一类（例如淘宝推送中根据你的浏览习惯推送与你习惯相符的内容）。

 

单变量的线性回归: linear regression with one variable

hypothesis:  ； 

 

损失函数: cost function

                          

choose θ0,θ1 so that h(x) is close to y for our training examples(x,y).

梯度下降算法：grandie descent

Minimize  

Repeat until convergence{

             for j=0 and j=1;

}

注意：simultaneous update

将梯度下降算法应用到线性回归中：

 

gradient descent convergence{

             (for j=0 and j=1;)

}

 

Linear regression model

h(x)=  

 =

 

把梯度算法中的J()部分用线性回归模型中的相应部分替代：

Repeat until convergence{

        

      

}

注意：simultaneous update

 

Matrices and vectors

Vector: an n x 1 matrix