ifruoxi的博客

2012年，ALex提出了深度卷积网络模型AlexNet。AlexNet中包含了几个比较新的技术点，也首次在CNN中应用了RELU、Dropout、LRN等tricks。在AlexNet中包含了5个卷积层，其中3个卷积层后面连接了maxpool层，最后还有三个全连接层。AlexNet将LeNet的思想发扬光大，将CNN基本原理应用到了很深的网络中，其主要用到的创新点有（1） 使用RELU作为激活函数

在安装tensorrt的时候，要求cudnn版本为7.3.1，而我之前安装的版本是5.1.10，因此需要对cudnn进行升级，升级方法很简单，而且不会对现有安装环境造成破坏，升级完之后tensorflow还可以正常使用经过搜索找了一个博客，因此记录下，便于后期再次查找。Linux之cudnn升级方法...

Tensorflow加速计算（多GPU和分布式）1 使用GPU基本操作在Tensorflow中可以通过tf.device()函数来手动指定运行操作的设备。对于CPU而言，在默认的情况下，即使的电脑有多个GPU，Tensorflow依然不会区分它们，都是用/cpu:0作为名称。对于GPU而言，则会使用/gpu:0,/gpu:1,…/gpu:nTensorflow提供了一个快捷的方式来查看运行设备： 在

近期再看RCNN等经典文章，又看到了“感受野”的概念。再正向传播中我们可以很方便地由前一个feature map通过卷积核，来计算下一个feature map的大小，但是很少去思考：感受野的尺寸（相当于卷积和大小）大小是如何计算的。首先给两个博客，写的很经典。 博客1博客2在RCNN中所说的感受野可以看作是一个“相对的”概念。 比如， 在RRCNN论文中有一段描述，Alexnet网络pool5输

架构输入图像尺寸： 299x299x3 卷积1： 3x3/2 输入图像尺寸： 149x149x32 卷积2： 3x3/1 输入图像尺寸： 147x147x32 卷积3： 3x3/1 输入图像尺寸： 147x147x64 池化1： 3x3/2 输入图像尺寸： 73x73x64 卷积4： 3x3/1 输入图像尺寸： 71x71x80 卷积5： 3x3/2输入图像尺寸： 35x35x19

Tensorflow实现VGGNet# 导入库import tensorflow as tf # 1.3import mathimport timefrom datetime import datetimeVGGNet中具有很多层，可以降每一个卷积层（参数初始化、卷积、relu）放在一个函数中，方便后面编写网络。def conv_op(input_op, name, kh, kw, n_ou

2015年12月，Rethinking the Inception Architecture for Computer Vision一文中提出了Inceoption V3模型。推荐博客： 《Rethinking the Inception Architecture for Computer Vision》笔记相比于Inception V2中，将5x5用两个3X3代替，在Inception V3网络

2015年，Google在论文《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》提出了Inception V2模型。Inception V2学习了VGGNet，用两个3x3的卷积来代替5x5的大卷积（减少了参数，减轻了过拟合。） 另外文中还提出了著名的BN归一化

与VGGNet同年的冠军-Inception V1 不仅控制了计算量和参数量，同时分类性能也非常好。相比于AleXNet (8层）和VGGNet（19层），inception V1 具有22层。InceptionV1参数少但是效果好的原因有： （1） 去除了最后的全连接层，大大减少了参数量，并减轻了过拟合。用“全局平均池化层来代替”（该想法来源于 Network In Network） （2）精

记录下偶然发现的一个TensorRt教程博客。特此分享下TensorRT