qq_33772192的博客

链接：https://www.zhihu.com/question/52398145/answer/209358209 首先给出结论：损失函数和代价函数是同一个东西，目标函数是一个与他们相关但更广的概念，对于目标函数来说在有约束条件下的最小化就是损失函数（loss function）。 举个例子解释一下:（图片来自Andrew Ng Machine Learning公开课视频） 上面...

在机器学习中，通常会遇到期望风险、经验风险和结构风险这三个概念，一直不知道这三个概念之间的具体区别和联系，今天来梳理一下： 要区分这三个概念，首先要引入一个损失函数的概念。损失函数是期望风险、经验风险和结构风险的基础。 损失函数是针对单个具体的样本而言的。表示的是模型预测的值与样本真实值之间的差距。比如对于某个样本<Xi,Yi>，其真实的值为Yi,而我们的模型选择决策函数为f,那么...