DreamBro的博客

将数据集划分为train、val、test

transformer的pytorch实现

tensorflow训练过程中的参数保存及可视化

tf.argmax()函数理解

一、基础知识-向量的内积1.1向量的内积定义：也叫向量的点乘，对两个向量执行内积运算，就是对这两个向量对应位一一相乘之后求和的操作，内积的结果是一个标量。1.2实例：a和b的内积公式为：1.3作用：内积判断向量a和向量b之间的夹角和方向关系a·b>0 方向基本相同，夹角在0°到90°之间 a·b=0 正交，相互垂直 a·b<0 方向基本相反，夹角在90°到180°之间Gram矩阵是两两向量的内积组成，所以Gram矩阵可以反映出该...

conda install -c esri pycocotools

分成两种情况，一种是公开的训练好的模型，下载后可以使用的，另一种是自己训练的模型，需要保存下来，以备今后使用。如果是第一种情况，则参考 http://keras-cn.readthedocs.io/en/latest/other/application/使用的是Application应用，文档中的例子如下利用ResNet50网络进行ImageNet分类from keras.applications.resnet50 import ResNet50from keras.prepr...

loss：训练集损失值accuracy:训练集准确率val_loss:测试集损失值val_accruacy:测试集准确率以下5种情况可供参考：train loss 不断下降，test loss不断下降，说明网络仍在学习;（最好的）train loss 不断下降，test loss趋于不变，说明网络过拟合;（max pool或者正则化）train loss 趋于不变，test loss不断下降，说明数据集100%有问题;（检查dataset）train loss ...

论文：《Very Deep Convolutional Networks for Large-Scale Image Recognition》地址：https://arxiv.org/pdf/1409.1556.pdf

Depthwise Convolution：不同于常规卷积操作，Depthwise Convolution的一个卷积核负责一个通道，一个通道只被一个卷积核卷积。上面所提到的常规卷积每个卷积核是同时操作输入图片的每个通道。Depthwise Convolution完成后的Feature map数量与输入层的通道数相同，无法扩展Feature map。而且这种运算对输入层的每个通道独立进行卷积运算，没有有效的利用不同通道在相同空间位置上的feature信息。因此需要Pointwise Convolution来将

一、Numpy 中 ConcatenateNeural Network中的concatenate一般就是用来将特征联合，多个卷积特征提取框架提取的特征融合或者是讲输出层的信息进行融合这个联合其实就是维度的一个联合例如：Keras.concatenate()import numpy as npimport keras.backend as Kimport tensorflow as tf# a,b 均为 [2,2,2]a = K.variable(np.array([[[1, 2],

AlexNet论文：《ImageNet Classification with Deep Convolutional Neural Networks》一、意义AlexNet首次在大规模图像数据集实现了深层卷积神经网络结构，点燃了深度学习这把火。其在ImageNet LSVRC-2012目标识别的top-5 error为15.3%，同期第二名仅为26.2%，碾压其他传统的hand-craft 特征方法，使得计算机视觉从业者从繁重的特征工程中解脱出来，转向思考能够从数据中自动提取...

神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术。一、前言1、分类神经网络最重要的用途是分类，为了让大家对分类有个直观的认识，先看几个例子： 垃圾邮件识别：现在有一封电子邮件，把出现在里面的所有词汇提取出来，送进一个机器里，机器需要判断这封邮件是否是垃圾邮件。 疾病判断：病人到医院去做了一大堆肝功、尿检测验，把测验结果送进一个机器里，机器需要判断这个病人是否得病，得的什么病。 猫狗分类：有一大堆猫、狗照片，把每一张照片送进一个机器里，机器需要判断这幅