小小酥的博客

Normal Equation梯度下降提供了一种最小化J的方法。现在我们要讨论第二种方法，这是一种显式地执行最小化而不借助迭代的算法。在正规方程中，我们将通过明确地针对J取导数并将其置为0，这使我们无需迭代即可找到最佳θθ=(XTX)−1XTyθ=(X^{T}X)^{-1}X^{T}yθ=(XTX)−1XTy正规方程不需要进行特征缩放梯度下降和正规方程的比较梯度下降正规方程...

DefineA computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E.Exampl...

Model Representationx(i) to denote the “input” variables (living area in this example), also called input featuresy(i) to denote the “output” or target variable that we are trying to predict (price)...

Gradient Descent当成本函数位于图中凹坑的最底部时，即当其值最小时，我们就成功了。我们这样做的方法是采用成本函数的导数，切线的斜率是该点的导数，它将为我们提供一个方向，我们沿下降最陡的方向逐步降低成本函数，每步的大小由参数α（称为学习率）确定。算法repeat until convergence:where j=0,1 represents the feature in...

Matrices and Vectors矩阵是二维数组，下图为43的矩阵向量是一个n1的矩阵，下图是一个4维向量，同时也是4*1的矩阵表示法和术语：Aij表示矩阵的第i行第j列元素一个向量有n行表示一个n维向量vi表示向量的第i行元素一般，矩阵和向量是用1索引来表示，对于某些编程语言，数组的索引为0矩阵通常用大写字母表示，向量用小写字母表示“标量”表示一个单独的值，而不是矩...

Define多元线性回归时含有多个变量的线性回归包含多个特征变量的假设函数如下同时，假设函数也可简化成以下向量形式注意：为了方便，我们令x0=1，因此能够使θ与x逐元素匹配（n+1）。Gradient Descent For Multiple Variables多个变量的梯度下降即：...