会飞的猪的博客

https://www.cnblogs.com/dengshunge/p/11334640.html

机器学习的样本中通常会存在少量错误标签，这些错误标签会影响到预测的效果。标签平滑采用如下思路解决这个问题：在训练时即假设标签可能存在错误，避免“过分”相信训练样本的标签。当目标函数为交叉熵时，这一思想有非常简单的实现，称为标签平滑（Label Smoothing）。我们以2类分类问题为例，此时训练样本为(xi,yi)，其中yi是样本标签，为0或1。在训练样本中，我们并不能保证所有的样本标签都标...

U-Net:ConvolutionalNetworksfor Biomedical Image Segmentation摘要提出了一种网络和训练策略，使用了强大的数据增强方法，该网络包括两条路径，一条用来抽取上下文信息，另一条用来获取细节信息。实验结果表明，该方法使用了很少的数据就超过了之前最好的网络。（ISBI challenge for segmentation of neuron...

本文知识点：什么是指数加权平均？ 为什么在优化算法中使用指数加权平均？ β 如何选择？1. 什么是指数加权平均指数加权平均(exponentially weighted averges)，也叫指数加权移动平均，是一种常用的序列数据处理方式。它的计算公式如下：其中，θ_t：为第 t 天的实际观察值， V_t: 是要代替 θ_t 的估计值，也就是第 t 天的指数加权平均...

为什么要使用指数衰减法在神经网络的参数更新过程中，学习率不能太大也不能太小，太大可能会导致参数在最优值两侧来回移动，太小会大大降低优化速度，为了解决学习率的问题，TensorFlow 提供了一种灵活的学习率设置方法，即指数衰减法。函数及参数对应的命令为 tf.train.exponential_decay，通过这个函数，可以先使用较大的学习率来快速得到一个比较优的解，然后随着迭代的继续...

受试者工作特征曲线（receiver operating characteristic curve，简称ROC曲线），是比较两个分类模型好坏的可视化工具作者：enhengz链接：https://www.jianshu.com/p/4b616c7838a3ROC曲线的作用：1.较容易地查出任意界限值时的对类别的识别能力2.选择最佳的诊断界限值。ROC曲线越靠近左上角,试验的准确...

https://blog.youkuaiyun.com/u011808673/article/details/78836617

深度学习给目标检测带来的变革人脸检测作为一种特定类型目标的检测任务，一方面具有其自己鲜明的特点，需要考虑人脸这一目标的特殊性，另一方面其也和其它类型目标的检测任务具有一定的共性，能够直接借鉴在通用目标检测方法上的研究经验。目标检测任务作为一个分类问题，其不仅受益于计算机视觉领域相关技术的不断发展，在机器学习领域的研究进展同样也对目标检测任务具有推波助澜的作用。事实上，从2...

转载自微信公众号：深度学习大讲堂本文分上下两篇，上篇主要介绍人脸检测的基本流程，以及传统的VJ人脸检测器及其改进，下篇介绍基于深度网络的检测器，以及对目前人脸检测技术发展的思考与讨论。为了节省篇幅，文中略去了对具体参考文献等的引用，读者可以通过相关的关键词去搜索对应的论文。为了让本文更适合非计算机视觉和机器学习背景的读者，文中对所涉及到的专业术语尽量以通俗的语言和用举例的方式来进行解释，同时力...

举个栗子，在图像分割中，假设图像中有个人，现在我们要使用算法自动把属于人的像素标出来，标成1(换种说法是positive）。图中的真实结果代表所有真正属于人的像素，图中的预测结果代表我们的算法自动标记出来的像素，那么红色的就是两者的交集，也就是我们预测正确的值，即true positive。从直观上看，这两个区域重叠的越大越好，最好完全重叠。在这里声明一下，图中的预测结果即所有positi...

Deep Neural Networks for Object DetectionIn this paper, we exploit the power of DNNs for the problem of object detection, where we not only classify but also try toprecisely localize objects.Th...

参考：微信公众号有三AI池化有啥用？答：(1) 增大感受野感受野就是一个像素对应的原来特征图的区域大小，假设最后一层特征图大小不变，在某种卷积setting下，要想看到原来大小为224*224的图像，就需要很多卷积层。而使用pooling也可以达到增大感受野的目的。(2) 平移不变性由于pooling对特征图进行抽像，获取的是某个区域的特征，而不关心具体位置，这时当原来的特征图...

https://www.jianshu.com/p/38dc74d12fcf?utm_source=oschina-app

https://www.cnblogs.com/guoyaohua/p/8724433.html

归一化有很多种方法，第一次遇到LRN是在Alexnet中，用于对卷积层的输出结果进行归一化。公式如下：这里的i表示第i个通道，(x,y)为某个像素点位置。这里的意思就是说，我要把卷积层输出的第i个通道的(x,y)位置的值进行归一化。为什么叫局部响应呢？个人认为是因为每次归一化某个值得时候，要参考某个与该值相关的局部区域内的响应值，那这个局部区域怎么定呢？这里是使用与该值具有同一位置...