xiaomlu的博客

Multivariate Normal Distribution and Matrix Algebra每次遇到向量表示多元的情况脑子就宕机了，这里决定做一个简单的梳理。一个样本从基本的一个样本开始。某一个样本可以表示为xi\boldsymbol {x_i}xi​,它默认是竖着写的列向量，在有ppp个特征（维度）的情况下是一个p∗1p*1p∗1的向量。xi′\boldsymbol{x_i&...

支持向量机视频地址https://www.bilibili.com/video/av28186618非常感谢这位up！真的好感谢！讲的很清楚！膝盖都跪碎了！感谢b站up主@shuhuai008P1: 硬间隔SVM - 模型定义(最大间隔分类器)SVM有三宝：间隔，对偶，核技巧SVM的三种类别：1）Hard-Margin SVM 硬间隔SVM2）Soft-Margin SVM 软间...

XGBoostPractical XGBoost in PythonBoosting Algorithm: why worksBoosting 概念Weak Classifier 概念树作为基础算法GBM, GBT, AdaBoost, XGBoost四个概念解释与联系AdaBoost算法简介XGBoost算法简介待参考博客/视频Practical XGBoost in Python地址： h...

For a Final Proj related to Computer Vision, but may not related to Deep Learning things.Also, only mark some blog links here for my own inference.图像增强的处理，比如在对比度上的变化等。它也是和像素的分布有关系的，看上去比较useful.htt...

由一个入学Program是否真正有用引起的，两个线性回归模型的似然比检验。两个模型是嵌套的关系。参考文章1：（思路）http://blog.sina.com.cn/s/blog_6e60da090102uxzo.html参考文章2：（感觉更加清晰）http://blog.sina.com.cn/s/blog_9b332cf40101obtk.html...

Boosting 25年地址：https://www.bilibili.com/video/av28102016导言：集成学习Ensemble learning：多个学习器解决问题。学习器可以同质，可以异质。要求：个体尽可能精确，且差异大。按照个体分：数据挖掘领域很牛逼的KDD CUP被集成学习攻陷啦。别的比赛也是这样，如Netflix比赛。具体的展开部分可以去看书《En...

问题概述问题是这样的，一个nnn元的随机向量x=[x1x2]x = \left [ \begin{matrix}x_1 \\ x_2\end{matrix} \right ]x=[x1​x2​​] 服从正态分布N(x,μ,Σ)N(x,\mu,\Sigma)N(x,μ,Σ)，其中μ=[μ1μ2]\mu = \left [ \begin{matrix}\mu_1 \\ \mu_2\end{...

最近学习时遇到的两个工具基本来自维基百科。1. Delta Method来源：https://en.wikipedia.org/wiki/Delta_method下面只列出了Univariate的部分，以及贴出证明部分；至于Multivariate的部分因为暂未涉及到，所以这里没有贴出，其实还是相似的。In statistics, the delta method is a result...

最近在学习贝叶斯方面的内容，有一个例子涉及到二项分布，然后还和beta函数，gamma函数有些关系，因为不太熟悉，所以整理一下。Beta函数wiki: https://en.wikipedia.org/wiki/Beta_distributionIn Bayesian inference, the beta distribution is the conjugate(coupled, con...

Linear regression model in R最近帮一个同学解答疑问，发现自己对于线性回归模型在R里的应用掌握的真的不好。回想起来，主要还是因为当时阴差阳错就没上过回归分析的课程，都是之后不系统地东拼西凑，靠着点计量经济学学习时在R的经验混着。也不是个事儿，所以先开了这一帖，要把这一课补上。...

本文为转载。 Original url:http://m.blog.youkuaiyun.com/article/details?id=49130173Original url:https://blog.youkuaiyun.com/junmuzi/article/details/51192283一、先验概率、后验概率、贝叶斯公式、似然函数...

概率图模型P1 背景介绍可以从两个角度来看概率图模型，即一个是概率，一个是图。要预测其实概率就足够了，这个图，其实是一个工具。我们在数据结构中也有图，但都是比较抽象的；这里的图，其实是把原来数据结构中的图，赋予了概率，把概率嵌进去，使得整个模型更加清晰，也可以进一步构建更高级的模型。我们先来看看概率这一块。概率在建模过程中，其实是对现实问题的一个抽象。我们关注的问题，我们的数据往往是多...