windshg的专栏

转自：http://hi.baidu.com/imheaventian/item/c8591b19907bd816e2f98612 在数学中，海森矩阵（Hessian matrix 或 Hessian）是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵，此函数如下：如果 f 所有的二阶导数都存在，那么 f 的海森矩阵即：H(f)ij(x) = DiDjf(x)其中 ...

第一学年 Introduction to Calculus and Analysis作者: Richard Courant, Fritz John秋季学期 春季学期 几何与拓扑 I 几何与拓扑 II 1、James R. Munkres, Topology 较新的拓扑学的教材适用于本科高年级或研究生一年级 2、Basic Topology by Armstrong 本科...

 Linear Algebra (线性代数) 和 Statistics (统计学) 是最重要和不可缺少的。这代表了Machine Learning中最主流的两大类方法的基础。一种是以研究函数和变换为重点的代数方法，比如Dimension reduction，feature extraction，Kernel等，一种是以研究统计模型和样本分布为重点的统计方法，比如Graphical model,...

这里首先讨论一个长期以来困惑工科甚至物理系学生的一个数学问题，即，究竟什么是面积，以及面积的高维推广（体积等）？ 1 关于面积：一种映射大家会说，面积，不就是长乘以宽么，其实不然。我们首先明确，这里所讨论的面积，是欧几里得空间几何面积的基本单位：平行四边形的面积。平行四边形面积的定义，几何上说是相邻两边边长乘以他们之间的夹角的正弦。然而为了应对更一般情形和更高维度的数理问题，...

参考：http://www.cnblogs.com/pangliang/archive/2011/02/27/1966303.html  用有向图表示的概率模型也叫“贝叶斯网络”. 贝叶斯网络中的两个结点与关于结点(或结点集合)条件独立时我们称“D-separates”与, 写作. D-Separation中的D指Directed. 从图形上看, 结点集合“D-separates”结点...

 参考：http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.html EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。...

参考：http://blog.youkuaiyun.com/xiazhaoqiang/article/details/6579059 前言：    第二篇的文章中谈到，和部门老大一宁出去outing的时候，他给了我相当多的机器学习的建议，里面涉及到很多的算法的意义、学习方法等等。一宁上次给我提到，如果学习分类算法，最好从线性的入手，线性分类器最简单的就是LDA，它可以看做是简化版的SVM，如果想...