Rookiekk

转载。 https://blog.youkuaiyun.com/linolzhang/article/details/71075756一. 问题的提出       Person Re-ID 全称是 Person Re-Identification，又称为 行人重检测 or 行人再识别，直观上可以通过两种思路进行比对，一种是 通过 静态图像（still-image）进行特征比对，另一种是通过视频的时序...

tf.control_dependencies(control_inputs):control_dependencies(control_inputs)ARGS：control_inputs：在运行上下文中定义的操作之前必须执行或计算的 Operation 列表或 Tensor 对象.也可以是不清除控件依赖项.返回：指定上下文中构建的所有操作的控制依赖关系的上下文管理器....

面试中经常被问到正则化，进行了一个总结，懒得打字了，直接上笔记

机器学习中造成过拟合的原因可能有以下几点：（1）数据有噪声（2）训练数据不足，有限的训练数据（3）训练模型过度导致模型非常复杂防止过拟合的方法：1.提前停止：对模型进行训练的过程即是对模型的参数进行学习更新的过程，这个参数学习的过程往往会用到一些迭代方法，如梯度下降（Gradient descent）学习算法。Early stopping便是一种迭代次数截断的方法来防止过拟...

首先说明Bernoulli分布对应sigmoid单元，Multinoulli分布对应softmax单元。了解multinoulli分布请看：机器学习：Multinoulli分布与多项式分布。softmax函数可以看作sigmoid函数的扩展，其中sigmoid函数用来表示二值型变量的分布。为了推广得到具有n个值的离散型变量的情况，现在需要创造一个向量,它的每个元素是。我们不仅要求每个元素介于0...

学习深度学习看到卷积这个operation，为了理解它查了一些资料，有幸看到一个大佬的总结，再加上一些自己的想法，做一个总结。一、卷积的定义内涵：在泛函分析中，卷积、旋积或摺积(英语：Convolution)是通过两个函数f 和g 生成第三个函数的一种数学算子，表征函数f 与g经过翻转和平移的重叠部分的面积。设:f(x),g(x)是R1上的两个可积函数，作积分：        ...

    今天学习深度学习看到整流线性单元及其扩展里的maxout单元，感觉这个有点东西，书中讲的不是特别详细，在此记录一下学习到的东西。参考了http://www.cnblogs.com/tornadomeet 一、相关理论    maxout出现在ICML2013上:《Maxout  Networks》,作者Goodfellow将maxout和dropout结合后，号称在MNIST, C...

Polyak平均会平均优化算法在参数空间访问中的几个点。如果t次迭代梯度下降访问了点,那么Polyak平均算法的输出是。当应用Polyak平均于非凸问题时，通常会使用指数衰减计算平均值：                                     1. 用滑动平均估计局部均值　　滑动平均(exponential moving average)，或者叫做指数加权平均(ex...