[机器学习-1]线性回归
线性回归(linear regression)
线性回归的大致步骤为(看不懂的,可以看看我之前写的机器学习-0里)
Figure 1
一元函数的线性回归
线性回归是机器学习算法,仍旧符合我之前给出的机器学习算法的通式
首先,建立H(这里theta0与变量没有相互作用,这种参数称作dummy variable)
Figure 2
其次,构造loss函数(通常使用的是欧氏距离)
Figure 3
Figure 4
最后我们要找到最优的参数(注意H是关于最优参数的函数的集合)
Figure 5
Figure 6
多元函数的线性回归
Figure 7
对于多元函数,目标函数可能就长这样
Figure 8
还是重复上面与一元函数一样的分析
Figure 9
最后用梯度下降法进行迭代
Figure 10
线性回归的参数类型
主要有三种
Figure 11