北境の守望者

除了上文提到的概率分布外，还可以用数值特征来描述随机变量。常用的数值特征有期望 Expectation方差 Variance标准差 Standard deviation协方差 Covariance相关系数 Correlation协方差矩阵 Covariance matrix期望 Expectation函数f(x)f(x)f(x)关于某分布P(x)P(x)...

连续型随机变量最常用的分布就是 正态分布(normal distribution),也称为高斯分布(Gaussian distribution): N(x;μ,σ2)=12πσ2−−−−√exp(−12σ2(x−μ)2)N(x;μ,σ2)=12πσ2exp(−12σ2(x−μ)2)\mathscr N (x;\mu, \sigma ^2) = \frac 1 {\sqrt {2\pi \sigma...

Object Detection目标检测领域的经典paper，实现 和 性能对比: awesome-object-detection, 作者在知乎写的介绍, GitHub：目标检测最全论文集锦. 原整理者看这里 Object Detection....

通过层次化的方法可以让计算机通过构建简单的概念来学习复杂概念. 为了获得优异的性能, 我们需要构建一个很深(层次很多)的关系图. 因此我们把这一类方法就做深度学习. 深度就是深度, 仅此而已.简介 Intro深度前馈网络 Deep Feedforward Network / 多层感知机 Multilayer Perceptron (MLP) 感知机 Perceptron卷积神...

ML模型/ DL网络 优化中的挑战上溢, 下溢 和 病态局部极小点高原, 鞍点 和 其他平坦区域悬崖和梯度爆炸长期依赖非精确梯度局部和全局结构间的弱对应优化的理论限制基本算法基于梯度的优化算法动量Nesterov 动量参数初始化策略自适应学习率算法 AdaGradRMSPropAdam选择正确的优化算法二阶近似算法梯度之上：基于 Jacobian 和...

Backto Machine learning Index 数据比算法更重要. – By ?如何查找 how to find the dataset we wantGoogle Dataset Search物体检测数据集 Object Dection手势识别数据集MSHand人脸识别数据集汽车相关数据集KITTI如何查找 how...

Backto DeepCVNotes from Neural Network Hyperparameters.What is Hyperparameters?Most machine learning algorithms involve “hyperparameters” which are variables set before actually optimizing the mo...

Backto Python Index跨文件共享推荐把这种变量定义在专门的 config.py 文件中, 然后通过不同的文件 import config 之后再去访问。https://stackoverflow.com/a/45646477

Backto TF Indexsave model训练中用 .ckpt 格式，方便中断和再训练。训练完稿后用 .pb 格式，变量constant 化，体积小，速度快。TensorFlow 保存模型为 PB 文件 - lonlon ago的文章 - 知乎https://zhuanlan.zhihu.com/p/32887066...

随机变量指的是可以随机地取不同值的变量。在字母表示中，对于标量值随机变量，x1,x2x1,x2x_1,x_2 都是随机变量 xx\text x可能的取值对于向量型随机变量，我们说一个随机变量 xx\mathtt x, 它的一个可能取值是 xx\mathcal x一个随机变量仅仅表示一个可能取得的状态，还必须给定与之相伴的概率分布来制定每个状态的可能性。用来描述随机变量或一簇随机变量...

矩阵的秩是线性代数中的一个概念。在线性代数中，一个矩阵A的列秩是A的线性独立的纵列的极大数。通常表示为r(A)，rk(A)或rank A。在线性代数中，一个矩阵A的列秩是A的线性独立的纵列的极大数目。类似地，行秩是A的线性无关的横行的极大数目。通俗一点说，如果把矩阵看成一个个行向量或者列向量，秩就是这些行向量或者列向量的秩，也就是极大无关组中所含向量的个数。一个形象的说法：你们家r口人,然后...

第 1 章 引言第1部分 应用数学第 1-1 章 线性代数第 1-2 章 概率与信息论第 1-3章 数值计算第 1-4章 图论第2部分 机器学习第3部分 深度学习...

某些函数在处理概率分布时会经常出现，尤其是深度学习的模型中用到的概率分布。logistic sigmoid 函数σ(x)=11+e−xσ(x)=11+e−x \sigma (x) = \frac 1 {1 + e^{-x}} `从 sigmoid 函数图像中可以看出，定义域 RRR, 而值域范围 (0,1)(0,1)(0,1)，单调递增。因而这个函数通常用来产生 Bernoul...

CV中的物体检测，可以把前方一辆车用 2D 的框框起来，这一步，物体检测就算完成了。 但这个框对自动驾驶决策而言，直接意义却不大。这个框只能告诉车前方有什么，但是对驾驶决策而言，更重要的是这个物体的大小、当前的位置与运动的方向、速度。所以，很多CV的经典问题和解决方案都要根据自动驾驶的需要重新思考，更新设计或添加润滑的桥接层。...

RefRefJacobian矩阵和Hessian矩阵梯度（gradient）、雅克比矩阵（Jacobian）、海森矩阵（Hessian）

RefRef中文通俗解释Wikipedia详细介绍

基本假设原理阐释公式举例优势劣势基本假设样本之所以出现，是因为它出现的概率大。原理阐释极大似然估计是一种估计总体未知参数的方法。它主要用于点估计问题。所谓点估计是指用一个估计量的观测值来估计未知参数的真值。说穿了就一句话：就是在参数空间中选取使得样本取得观测值的概率最大的参数。公式L(θ1,θ2,...,θk)=∏i=1nf(xi;θ1,θ2,....

对一个信号包含的信息进行量化研究，就是信息论。本章目录0. 综述

信息论用来对一个信号包含信息的多少进行量化。最初被发明来研究如何在一个含有噪声的信道上用离散的字母表来发送消息，例如通过无线电来传输通信。信息论可以指导我们如何对消息设计最优编码以及计算消息的期望长度。在机器学习总，我们主要是借鉴信息论的一些关键思想来描述概率分布或者量化概率分布之间的相似性。信息论的基本出发点来自于对现实的观察：一个不大可能的事情发生了，要比一个非常可能发生的事情发生了，能提...