mao_feng的博客

引言深度学习(deeplearning)已经广泛应用于各个领域，解决各类问题，例如在图像分类问题下，如图1，区分这10类目标的准确率目前可以轻松做到94%。然而，deeplearning是一种datahungry的技术，需要大量的标注样本才能发挥作用。图1 现实世界中，有很多问题是没有这么多的标注数据的，获取标注数据的成本也非常大，例如在医疗领域、安全领域等。因此，我们现在讨论的是...

训练1024维特征的数据集合，multi-label， 转成多个1的onehot的label, 2个全连接。很直接的顺序编程，练习、便于理解

multi label classification

nvidia TensorRT

今天进入前十

解决过拟合的3法

mobilenet

debug for ML

对于一些符号数据，比如用户ID、字词等，需要编码后输入网络

训练数据配比，类间非平衡

tensorboard show blank

SSD: Single Shot MultiBox Detector, 是一个end to end 的目标检测识别模型。先小八卦下，它属于google派系，它的作者也是googlenet的作者。该模型旨在高精度的快速识别， 它不用额外计算bounding box而能达到相当的识别精度，而且速度有极大的提高，号称可以达到58的FPS 和 72.1%的mAP。  我们先来看下这个模型的全貌。

参数估计

min-batch, shuffle, overfit

两年一度的计算机视觉顶级会议马上要召开了，地点在德国慕尼黑。期待。。。。求同行的伙伴 ……^ _ ^https://eccv2018.org/ 

图卷积被多个领域广泛关注，本文介绍下我在ECCV2018年上的一个工作，用图卷积来建模视频：Hierarchical Video Frame Sequence Representation with Deep Convolutional Graph Network，希望能做视频建模的带来些思路。如何对视频进行建模呢？也就是如何用一个或多个向量表达一个视频呢？视频指纹算是一种通用的特征，它一...

cuda7.5 下编译安装 tensorflow1.0 源码

稀疏编码

resnet在2015名声大噪，而且影响了2016年DL在学术界和工业界的发展方向。它对每层的输入做一个reference, 学习形成残差函数， 而不是学习一些没有reference的函数。这种残差函数更容易优化，能使网络层数大大加深。

纵览深度学习框架

CVPR2016 有代码的文章

训练一个分类器，第一步就是准备每个类别的大量数据。这一个看似简单，在实际中往往却最难达到。因为：很多分类任务的数据不是平衡的，即类与类之间的数量悬殊。以下是解决这个问题的方法：1. 不做任何事情。2. 对少数量的类进行上采样，对大数量的类进行下采样，给少数量的类进行合成一些新的数据。3. 不考虑少数量的类型，把问题转化为“异常检测”。4. 做些算法上的优化，如给损失函数加权重控

inception 导读 - v1

GAN是如何工作的？

深度融合网络的思想

tensorflow 编程入门需知

1. 先准备好你的数据文件，csv格式，该文件共3列，第一列是数据id，第2列是预测分数（0到1），第3列是数据的label（0或1）2. 运行下面的python程序：python tf_roc.py /tmp/predict_label.csv 200 /tmp/tb_roc3. 其中第2个参数200表示画ROC曲线的精度，越大，曲线越精细。4. 启动tensorboard： ten

学习率是深度学习中的一个重要的超参，如何调整学习率是训练出好模型的关键要素之一。在通过SGD求解问题的极小值时，梯度不能太大，也不能太小。太大容易出现超调现象，即在极值点两端不断发散，或是剧烈震荡，总之随着迭代次数增大loss没有减小的趋势；太小会导致无法快速地找到好的下降的方向，随着迭代次数增大loss基本不变。学习率调整方法基本上有两种1. 基于经验的手动调整。 通过尝

加速DET的一个想法

深度学习实战1. 学习率2. ReLU/PReLu3. xavier4. 3x35. 观察6. 方法论

当我们正在开发一个较复杂的大工程时，提高编程效率和运行效率会成为需求，我们可以通过作用域，以及共享变量来实现这点

做训练时，我们往往要处理大批量的数据，这时如果有个可以异步读取的方式，那么处理程序会更加灵活和高效。FIFOQueue 、RandomShuffleQueue 便是tensorflow提供的一些通过队列来做异步数据存取的方法，并且它是多线程的（tf.Session对象就是多线程的）。这个框架如下图由于整个程序是多线程的，因此我们可以在同一个session里并行跑多个op

特征压缩

caffe是广泛使用的深度卷积网络工具。本教程介绍了数据->训练->在线识别服务整个链路的关键点