呆呆的猫的博客

One-stage 目标检测器基本上是将目标检测建模成了一个密集分类和定位的任务。分类任务一般使用 Focal Loss 来进行优化，定位任务一般是学习 Dirac delta 分布。如 FCOS 中就提出了一个估计定位质量的量：IoU score 或 centerness score，然后 NMS 排序的时候，将分类得分和框质量得分相乘。.........

一、数学期望、方差、协方差 1、数学期望——反映随机变量平均取值的大小的统计量2、方差——度量随机变量与其数学期望之间的偏离程度或分散程度的统计 量。数据越集中则方差越小，数据越分散则方差越大。3、协方差——衡量多维随机变量之间相关性的一种统计量方差是衡量一个变量与期望间的偏离程度，而协方差是衡量两个变量间的线性相关性，当X=Y时，协方差就等于方差。 ...

一、标量、向量、矩阵、张量标量（scalar） 一个数值，最小的计算单元向量（vector） 由多个标量组成的一维数组矩阵（matrix） 由标量数据构成的二维数组张量（tensor） 深度学习领域，很多时候数据都是高于二维的，所以需要一种能够表示任意维度的数据类型——张量。二、向量范数衡量向量大小的一种度量方式，几何意义上是度量从原点到点x的距离。范数是正则化的...

分类器的作用：常规任务是利用给定的类别已知的训练数据来学习分类规则和分类器，然后对未知数据进行分类（或预测）。分类算法：划分为了两类，即基于概率密度的方法和基于判别函数的方法。基于概率密度的分类算法通常借助于贝叶斯理论体系，采用潜在的类条件概率密度函数的知识进行分类； 在基于概率密度的分类算法中，有著名的贝叶斯估计法[40]、最大似然估计[39] [149]，这些算法属于有参估计，

人工智能、机器学习、深度学习的关系1、 人工智能——机器推理利用计算机构建具有人类智力特征的复杂机器，即为通用人工智能或强人工智能，即让机器拥有人类的所有感觉、所有理智、像人类一样思考。要实现真正意义上的人工智能可能还有很长的路，但是在一些特定的领域，如图像识别、人脸识别、计算机视觉等方面已经实现了比人类更好的效果。这些被称为“狭义的人工智能”或“弱人工智能”。2、 机器学习—

一、最小外接矩形，也就是最后要回归的目标，希望和实际情况越接近越好。

一、迁移学习简介迁移学习（transfer learning）通俗来说就是找到已有知识和新知识之间的相似性，由于直接对目标开始从头学习的成本太高，硬件要求和时间周期要求也很高，所以我们转而利用相关知识来辅助尽快的学习新知识。迁移学习的核心就是找到目标和已有知识之间的相似性，进而对新知识进行学习。在迁移学习中，我们已有的知识叫做源域(source domain)，要学习的新知识叫目标域(...

一、循环神经网络1.1 循环神经网络与应用模仿论文利用标记序列将论文写成一个序列模仿linux内核代码“写程序”学习到函数的定义方式，函数语句，括号，判断方式，写出的程序可能没有实际意义，但可以学到格式。模仿某个诗词类型写作本质上学习的是一个统计的东西机器翻译看图说话1.2 循环神经网络模型很多任务的输入和输出之间是相关的，RNN引入记忆的概念，也就是其输出...

Tensorflow

一、神经网络到卷积神经网络二、卷积神经网络的构成三、卷积神经网络的训练四、卷积神经网络的特点五、正则化与Dropout一、神经网络到卷积神经网络人工神经网络可以用于计算机视觉吗？可以为什么利用卷积神经网络？人工神经网络全连接结构对内存要求非常高，而且大量的参数会导致过拟合，参数过多学习能力太强，会把所有样本点记下来，以至于在测试集的泛化性能很差。...

一、基础知识线性分类器：工业界有很多算法完成分类的问题，比如线性分类器，输入一张32x32x3的矩阵，利用f(wx+b)得到属于不同类别的得分向量，方便演示，x列向量只选了4个值，w为3x4的矩阵，偏置项是为了让分类线可以上下平移，更好的分类，我们希望正确类别的得分比较高。 两种理解方式：1. 空间划分可以把w看成三个行向量，因为每个行都控制着不同类别的得分，三行w分...

近期引发人工智能新一轮热潮的深度学习，其名称中的“深度”某种意义上就是指人工神经网络的层数，深度学习本质上是基于多层人工神经网络的机器学习算法。为了训练机票价格预估系统的AI，我们需要将数据集的数据给予该系统，然后将它输出的结果与数据集的输出进行比对。由于起始机场和起飞时间拥有大量可能的组合，所以我们需要的是一个非常庞大的票价列表。创建神经网络的一大难点便是决定隐藏层的层数，以及每层中神经元的个数。在理想情况下，我们希望我们的损失函数为0，该理想情况指的是AI的输出和数据集的输出相等之时。

文章目录一、神经网络基础从loss曲线和accuracy来判断如何调整训练参数二、详解卷积操作三、海洋鱼类分类一、神经网络基础从loss曲线和accuracy来判断如何调整训练参数1、loss曲线：步长、学习率、batch size曲线特点：这个整体的线，刚开始平滑，后面近似于线性下降，而我们更期待的是一开始非线性下降，后面逐渐平滑，而非刚开始平滑。（学习率）震动很大（batch ...

五、神经网络结构与神经元激励函数5.1 神经元激励与连接在信号的传导过程中，突触可以控制传导到下一个神经元的信号强弱(数学模型中的权重w )，而这种强弱是可以学习到的。在基本生物模型中，树突传导信号到神经元细胞，然后这些信号被加和在一块儿了，如果加和的结果被神经元感知超过了某种阈值，那么神经元就被激活，同时沿着轴突向下一个神经元传导信号。在我们简化的数学计算模型中，我们假定有一个『...

四、反向传播及其直观理解4.1 引言问题描述和动机：大家都知道，其实我们就是在给定的图像像素向量x和对应的函数f(x)f(x)f(x)，然后我们希望能够计算fff在x上的梯度∇f(x)∇f(x)\nabla f(x)之所以要解决这个问题，是因为在神经网络中，fff对应损失函数LLL，而输入xxx则对应训练样本数据和神经网络的权重WWW。通常我们认为训练数据是给定的，而权重是我们...

三、最优化与梯度下降上一节深度学习与计算机视觉系列(3)_线性SVM与SoftMax分类器中提到两个对图像识别至关重要的概念：用于把原始像素信息映射到不同类别得分的得分函数/score function用于评估参数W效果(评估该参数下每类得分和实际得分的吻合度)的损失函数/loss function其中对于线性SVM，我们有： 1. 得分函数f(xi,W)=Wxif(xi,W)...

2、线性SVM与Softmax分类器2.1 得分函数（score function）2.1.1 线性分类器2.1.2 理解线性分类器2.2 损失函数2.2.1 多类别支持向量机损失（Multiclass SVM loss）2.2.2 正则化2.3 实际中的考虑点2.3.1 设定Delta2.3.2 关于二元（Binary）支持向量机2.3.3 关于非线性SVM...

1、图像分类与KNN1.1 图像分类1.1.2 图像识别的难点：类内形变+类间相似**1.1.3 图像识别的途径1.1.4 机器学习解决图像分类的流程1.2 最近邻分类器（Nearest Neighbor Classifier）1.2.1 CIFAR-101.2.2 基于最近邻的简单图像类别判定1.3 k近邻分类器1.3.1 交叉验证与参数选择1.3.2 kNN算法的优...