一个球的博客

本文对应的是吴恩达老师的CS229机器学习的第五课。这节课介绍了判别学习算法和生成学习算法，并给出了生成学习算法的一个实例：利用朴素贝叶斯进行垃圾邮件分类。判别学习(Discriminative Learning)与生成学习(Generative Learning)对于机器学习的任务，可以简单描述为：给定一个输入点 xxx，建立模型求其预测值 hθ(x)h_\theta(x)hθ​(x)。从...

本文对应的是吴恩达老师的CS229机器学习的第三课。这节课先介绍了牛顿法，然后给出了指数族的定义，并从指数族出发，介绍了广义线性模型并以此解释最小二乘、逻辑回归、softmax等模型的来源。牛顿法(Newton’s Method)牛顿法是另一种求解曲线零点的方法，其具体做法如果所示：从某一起始点 θ(0)\theta^{(0)}θ(0) 开始，找到其对应的函数值 f(θ(0))f(\thet...

本文对应的是吴恩达老师的CS229机器学习的第三课。这节课先介绍了

本专栏从吴恩达老师的CS229机器学习第二课开始。第二课主要讲解并推导了梯度下降的相关公式。为防止符号混淆，本文中 iii 表示样本序号，jjj 表示特征序号，nnn 表示样本数量，mmm 表示特征数量损失函数(loss function)简单起见，对于某一输入 xxx，假设我们用其各个特征的线性组合来预测 yyy，即预测函数为：h(x)=hθ(x)=θ0+θ1x1+θ2x2+⋯=∑j=...