- 博客(5)
- 收藏
- 关注
RSS订阅转载 算法导论
算法导论 1、动态规划 动态规划与递归有些神似，适用场景不同而已。 关于动态规划，《算法导论》上给出好几个例子，第一个就是装配线调度问题，抽象成如下形式： 递归的出口在j=1处，需要求解的则是f[1,n]和f[2,n]。 上式已经是递归的形式。但实际上，若采用传统的递归方法，计算代价会非常的高，因为的值需要重复的被计算次。 下图说明为什么会被重复计算，并且是2的幂指数形式...
2013-05-01 22:42:00
162
转载 机器学习系列算法（三）
支持向量机 1、与Logistic回归做比较 Logistic回归下，模型的优劣准则即是的值；而该值正相关于“样本离的距离”，我们期望距离尽可能大。 如图所示。距离已经很远的样本，它们离直线是否再远一点已经meaningless（例如和几乎没区别），而本身距离就很小的样本，使它们离直线再远一点就很有价值。 而Logistic回归是简单的将所有样本与的距离相加。这样便可能发生...
2013-04-25 20:35:00
192
转载 机器学习系列算法（二）
线性回归、Logistic回归、高斯判别分析 1、线性回归 估计函数为： 损失函数（误差函数）为： 它用于评估模型即、也就是的优劣。 线性关系的表达能力很强大：①特征的每一维对结果影响的强弱，可由系数体现；②特征的每一维可以先映射到一个函数，再参与线性计算，这样就达到了非线性的效果。 线性回归下，求解模型等价于使误差函数最小，即。常用方法有最小二乘法&梯...
2013-04-25 20:04:00
137
转载 机器学习系列算法（一）
经验风险最小化、交叉验证、特征选择（提取） 1、经验风险最小化 经验风险最小化（Empirical Risk Minimization）是机器学习的一个原则，它可以给出学习算法的性能边界。 机器学习的目的，就是根据一些训练样本寻找最优函数，使得函数对输入的预测与真实值之间的期望风险（类似于“误差”的概念）最小。 期望风险依赖于输入和输出的映射关系，而这个映射却是未知的；我们...
2013-04-25 00:57:00
180
转载 梯度下降
1 应用场景 1.1 现有m条记录，每个记录有n个维度，我们将其记作n×m矩阵（这里略反常。若记作m×n也一样，后面公式稍作变动即可）；每条记录对应一个输出，所有输出形成一个1×m矩阵。我们需要找到一个预测函数（就是一个向量） 希望对于任一条记录 可以用该预测函数计算出尽可能准确的预测值，即 在接下来的表述中，m条记录的下标用i表示，即i∈{1,2,…,m}；n个...
2013-02-27 20:36:00
87
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人