u010899985的博客

由于自己最近在学习TensorFlow，想要可视化自己搭建的神经网络，但是一直出现各种问题，先说下自己的环境：win10 64位，TensorFlow1.3（最新版本）博主先不说各种什么方法，因为也不知道大家会出现什么问题，所以把自己出现的各种坑分享下，如果大家都能规避，那么tensorboard就不会出现其他多大问题！入坑一：尽可能使用chrome浏览器毕竟TensorFlow

关于Dropout的详细内容可参考论文 "Dropout: A Simple Way to Prevent Neural Networks from Overfitting"论文Dropout 是一个降低过拟合的正则化技术。他在网络中丢弃一部分神经单元，以及与它们的前后续相连的所有节点。在TensorFlow中：TensorFlow提供了一个函数tf.nn.dropou

一.过拟合在训练数据不够多时，或者over-training时，经常会导致over-fitting（过拟合）。其直观的表现如下图所所示。随着训练过程的进行，模型复杂度，在training data上的error渐渐减小。可是在验证集上的error却反而渐渐增大——由于训练出来的网络过拟合了训练集，对训练集以外的数据却不work。在机器学习算法中，我们经常将原始数据集分为三部分：训练...

自编码器（Autoencoder,AE）,是一种利用反向传播算法使得输出值等于输入值的神经网络，它先将输入压缩成潜在空间表征，然后通过这种表征来重构输出。自编码器由两部分组成：编码器（encoder）:这部分能将输入压缩成潜在空间表征，可以用编码函数h=f(x)表示。解码器（decoder）:这部分重构来自潜在空间表征的输入，可以用解码函数r=g(h)表示。因此，整个自编码器可以用函数g(f(x)...

一直以来，随着深度学习的快速发展，复杂而庞大的模型需要在计算力强大的计算设备上才可以展示其强大的能力，如GPU,深度学习运行在移动和嵌入式设备中，它赋予了这些设备在终端本地运行机器学习模型的能力，从而不再需要向云端服务器发送数据。这样一来，不但节省了网络流量、减少了时间开销，而且还充分帮助用户保护自己的隐私和敏感信息，而在没有强大计算机资源支持的情况下，怎样才能大规模部署深度学习算法成为可能。...

 1*1卷积过滤器 和 正常的过滤器一样，唯一不同的是它的大小是1*1，没有考虑在前一层局部信息之间的关系。最早大神颜水成论文《Network In Network》 中使用1*1卷积 ，目的是想加深加宽网络结构 。后来谷歌GoogleNet的Inception网络（ Going Deeper with Convolutions ），微软亚洲研究院(MSRA)在 ResNet中的残差模块等中使...

卷积核一般都把size设为奇数，主要有两个原因： 保证 锚点 刚好在中间，方便以 central pixel 为标准进行滑动卷积，避免了位置信息发生 偏移 。 保证填充（Padding），在图像之间添加额外的零层，图像的两边相 对称，以使输出图像的大小与输入相同。 padding方式“SAME”和“VALID“VALID”：只会丢掉最右边的列（或最底部的行）“SAME”：...