mlnotes

“一分钟速算口诀”：两位数相乘，在十位数相同、个位数相加等于10的情况下，如62×68=4216计算方法：6×（6+1）=42（前积），2×8=16（后积）。一分钟速算口诀中对特殊题的定理是：任意两位数乘以任意两位数，只要魏式系数为“0”所得的积，一定是两项数中的尾乘尾所得的积为后积，头乘头（其中一项头加1的和）的积为前积，两积相邻所得的积。如（1）33×46=1518（个位数相加小于10，所以十

背景知识最小角回归和模型选择比较像，是一个逐步的过程，每一步都选择一个相关性最大的特征，总的运算步数只和特征的数目有关，和训练集的大小无关。最小角回归训练时的输入为特征矩阵 X={X1,X2,...,XP}，和期输出向量Y={y1,y2,...,yN}，Xi 是长度为N的矩阵，N表示训练集的大小，P则是特征的数目。还有一点需要注意的是，向量Xi 和 Y 都是正则化之后的向量，即它们的元素的均值

在机器学习中，我们经常使用最小平方差来评估模型的好坏，一般而言，最小平方差越小则模型越好。而最小平方差实际上是由bias和variance两部分组成的，且这两部分不能被同时缩小。所以为了使得最小平方差最小，我们需要在bias和variance之间做一些tradeoff。由于这篇文章涉及很多的数学公式，而优快云的博客不支持Latex语法，因而只能将这篇文章发布在自己的博客上。详细内容请点击

所谓最小二乘法，就是对一系列的二维观测值进行直线拟合，假设该直线为Y = kx + b, 那么如何评判这个条直线是否能很好地拟合所有的观测值呢？最小二乘法的方法就是如果k，b使得 通过该直线计算出来的值Y和观测值yi的差的平方和最小，那么就可以认为该直线可以拟合观测值 即使得下式值最小我们可以分别对k和b进行求偏导，使得两个偏导均为0即可，即如下两式上面两个等式其实就相当于是一个二元一次方程，通过

下面四个式子分别是 调和平均数几何平均数算术平均数平方平均数且呈现递增关系

统计语言概率

void cblas_dgemm (   const enum CBLAS_ORDER Order,   const enum CBLAS_TRANSPOSE TransA,   const enum CBLAS_TRANSPOSE TransB,   const int M,   const int N,   const int K,   const double alpha,   const

今天上数学课各种好玩的东西。于是就找到好多这个来分享一下。。。当然不是我写的。。。并且大部分的人好像只会去看第一个就不想看了。。。而且大部分一般人都知道a-b=0不能约的。所以大家可以跳过第一条来看。还是可以开动脑子想想关于自我指涉例句之类的东西吧。。这篇关于数学上的悖论谬论的论证的文章是由北大中文系Matrix67所写，读来感觉很有意思，和大家一起分享，来一场头脑风暴。1=2？史上最经典的“证明

线性代数课程，无论你从行列式入手还是直接从矩阵入手，从一开始就充斥着莫名其妙。比如说，在全国一般工科院系教学中应用最广泛的同济线性代数教材（现在到了第四版），一上来就介绍逆序数这个“前无古人，后无来者”的古怪概念，然后用逆序数给出行列式的一个极不直观的定义，接着是一些简直犯傻的行列式性质和习题——把这行乘一个系数加到另一行上，再把那一列减过来，折腾得那叫一个热闹，可就是压根看不出这个东西有嘛用。大

使用MCMC或者Gibbs取样来简化梯度下降的计算过程

期望 E(X)方差 D(X) = E((X-E(X))^2)标准差 S(X) = D(X)^0.5协方差 COV(X, Y) = E((X-E(X))(Y-E(Y)))Pearson相关系数 P(X, Y) = COV(X, Y) / (S(X)S(Y))最小二乘法斜率K  K = COV(X, Y) / D(X) 或 COV(X, Y) / D(Y)

矩阵 行列式数对顺序逆序逆序数偶/奇排列上三角行列式 = 下三角行列式 =  对称三角行列式 = 主对角线的乘积转置：行列式中的行和列互换交换行列式中两行的所有元素，即原行列式的值为D1，则新的值为-D1     =》 如果行列式中有两行的完全一样，那么行列式为0行列式的某行加上另一行对应元素的K倍，行列式的值不变余子式  代数n阶行列式 = 任一行的个元素与它们对应的代数余子式的乘积之和行列式的

原版文章请点击 Cholesky Decomposition三角矩阵三角矩阵首先是方阵，其次，如果这个方阵对角线上面或下面（不含对角线）的元素都为0的话，那么这个矩阵就被称为三角矩阵。如果是上面的元素都为0，则称之为下三角矩阵，反之则是上三角矩阵。上三角矩阵⎡⎣⎢⎢⎢⎢⎢a1100...0a12a220...0............0..a1na2na3n....ann⎤⎦⎥