神经网络
关注
分享
扫一扫
文章平均质量分 65
TinaO-O
这个作者很懒，什么都没留下…
展开
-
如何上传PASCAL VOC 2012 test数据
pascal voc本质是个比赛数据库，所以test未公开，需要参赛者上传自己对测试图片的预测，官方服务器会给出你的mIOU。1.注册一个账号http://host.robots.ox.ac.uk:8080/2.找到你要参赛的名字，比如我选择了第二行的2012比赛，对应的也是PASCAL VOC2012数据库的图像。3.点击new submission4.其他东西随便填写，主要是Challenge要对：如果你要比2012年的测试数据选择 VOC2012如果是2012年的验原创 2020-06-11 15:24:25 · 4187 阅读 · 10 评论 -
Attention is all you need 代码笔记
主要依据：http://jalammar.github.io/illustrated-transformer/写作原因：文章太长，我必须总结做笔记。也可以认为是翻译，但是没有原文详细（应该）所以有那里卡主，过不去，就去看看原文相应的地方。严格来讲我这个不能算做翻译。问题简述：利用attention机制进行语言翻译（可并行，不用RNN）。Self attentionembedding...原创 2020-04-27 23:21:16 · 884 阅读 · 0 评论 -
从零开始，指定 cuda安装版本 一句代码 完美安装深度学习工具 不用为了版本搭配发愁
本次使用conda进行安装。新建环境后，激活该环境，（记得换成清华源）使用下面的语句指定cuda版本9.0，conda install pytorch torchvision cudatoolkit=9.0安装后，一句代码能够安装全部需要的版本对应依赖。你只需要根据自己的显卡驱动指定cuda的版本即可。...原创 2019-05-09 08:54:13 · 1316 阅读 · 0 评论 -
keras Lambda 专题 怎么简单的再keras里面自定义操作 在keras里面使用tensorflow
作用：Lambda的作用是自定义层。官方的Conv2D不能满足你的需求，你想加个自己的操作。要求：简单来讲，如果你有个对是数据的操作，比如让经过本层的数据都自加一这种操作。没有参数待更新，那么你就可以使用Lambda来自定义这一层。使用步骤：1.你先定义一个函数，这个函数很普通，没有参数需要被随机梯度下降更新def custom_function(param1, param2)...原创 2019-05-06 09:59:08 · 1491 阅读 · 0 评论 -
batch normalization 对深度学习 有可能的缺点 什么时候不能用 batch normalization 批标准化
在看mask rcnn的代码中，我看到了网络结构中有个重写batch normalization的类：class BatchNorm(KL.BatchNormalization): """Extends the Keras BatchNormalization class to allow a central place to make changes if needed....原创 2019-04-22 17:15:42 · 2252 阅读 · 0 评论 -
keras optimizers 优化器
优化器就是向模型打包传递参数，什么参数呢，就是我们训练时使用到的诸如，学习率，衰减，momentum，梯度下降得到若干种方式，用不用动量等等。你可以在一开始传入这个值，然后就一直使用这个值训练，也可以在训练时根据epoch调整参数。optimizers的两种使用方式一，在使用compile调用之前就生成自定义的optimizer实例，这种给用户的自由最大，但是同样的你也需要定义很多个参数：...原创 2019-04-09 15:26:59 · 12884 阅读 · 5 评论 -
超简单的keras函数模型教程
from keras.models import Modelfrom keras.layers import Input, Dense, Lambdaa = Input(shape=(640, 480, 3))b = Input(shape=(23,))c = Input(shape=(54,))d = Dense(32)(b)multi = Lambda(lambda x: x*...原创 2019-04-09 10:59:15 · 735 阅读 · 0 评论 -
mask rcnn 之coco.py 解读
代码来自：https://github.com/matterport/Mask_RCNN使用coco.py的命令行代码是这样写的：你可以选择谷歌翻译。# Train a new model starting from pre-trained COCO weightspython3 samples/coco/coco.py train --dataset=/path/to/coco/...原创 2019-03-29 13:27:33 · 3684 阅读 · 9 评论 -
keras.layer.input()
tenserflow建立网络由于先建立静态的graph，所以没有数据，用placeholder来占位好申请内存。那么keras的layer类其实是一个方便的直接帮你建立深度网络中的layer的类。该类继承了object，是个基础的类，后续的诸如input_layer类都会继承与layer由于model.py中利用这个方法建立网络，所以仔细看一下：他的说明详尽而丰富。input()这...原创 2019-04-02 08:45:32 · 23638 阅读 · 0 评论 -
深度学习 损失变成 nan keras tensorflow 损失函数无限大
一种可能的原因是你用了relu 之后马上又用了softmax这两个激活函数用在连续的两层上可能会造成这种情况。参考：https://github.com/keras-team/keras/issues/1244...原创 2019-05-20 08:37:11 · 2371 阅读 · 0 评论 -
深度学习工作环境对比
windows/ubuntu(linux)端 pycharm 调试 代码。ubuntu 端用 nohup 跑代码并且使用一个epoch 打印一次validation与training结果的打印模式，要不然会很多结果。或者使用 tmux多窗口后台跑。但是这样有几个缺点：1.没办法看总体历史情况2.那个窗口运行的是哪个程序，这个容积记不住3.github有没有自动生成的lo...原创 2019-05-20 09:29:47 · 645 阅读 · 0 评论 -
keras 如何自定义 多输入参数的 自定义层
现有的层不能满足需求，需要自己写个自定义层。需要多个参数为输入。仅适用于没有参数更新的自定义层。def multi_input(input): input1 = input[0] input2 = input[1] input3 = input[3]x = Lambda(multi_input)([q,y,z])之后input1 = q , input2...原创 2019-05-10 09:56:28 · 3431 阅读 · 3 评论 -
keras data generator 调试
在写了代码：https://blog.youkuaiyun.com/u013249853/article/details/90408122之后，我们希望能够看到，每次到底生成了什么因为如果你有数据扩增的代码，你就会想知道我生成的对不对，能不能调试，那么简单直观的调试代码如下[a,b] = training_generator.__getitem__(1)validation_generat...原创 2019-05-27 14:02:34 · 909 阅读 · 0 评论 -
Voc2012数据集 分割 怎么使用 加载标注
voc2007 与 voc2017是互斥的图片。这次说2012解压统统使用tar -xf 使用命令行，会自动给你融合图片。标注是图片，存储在/..../VOCdevkit/VOC2012/SegmentationClass标注一共是20类，加上背景21类，白边呢，算是未标注类，不计算到损失函数里，注意下。读取代码：import numpy as npfrom PIL i...原创 2019-05-30 21:45:46 · 2906 阅读 · 1 评论 -
显卡驱动版本 CUDA 版本 官方详解 cudnn gcc工具包 版本 约束 依赖 关系 tensorflow gpu 版本
驱动是向下兼容的：所以如果想使用最新的tf代码库，那么需要最新的驱动，并且旧的虚拟环境还是能用的。显卡驱动，要在考虑自己的系统下，选择最新的版本。Table 1. CUDA Toolkit and Compatible Driver Versions CUDA Toolkit Linux x86_64 Driver Version Windows x86_64 Driver Ve...原创 2019-06-01 10:12:17 · 2160 阅读 · 0 评论 -
ubuntu升级nvidia显卡版本
这是命令行操作sudo service lightdm stopsudo /usr/bin/nvidia-uninstall下载你需要的驱动版本，根据https://blog.youkuaiyun.com/u013249853/article/details/90726165，因为之前就有N卡驱动所以不需要繁琐的加入黑名单操作等，直接安装即可：bash ./Nvidia-480.run...原创 2019-06-16 13:01:05 · 3169 阅读 · 0 评论 -
deeplab v3 keras VOC2012
2012的测试集是不公开的。实验代码来源https://github.com/Golbstein/Keras-segmentation-deeplab-v3.1这个代码需要改的。一个新的代码从来都不是下来就能用的，至少你的数据存储地址就不一样。这个代码主要是要修改utils.py里面的数据生成器：self.image_path_list = sorted(glob.glob(os...原创 2019-06-17 10:28:12 · 1304 阅读 · 0 评论 -
python 图片 常数 代码 padding image constant pad with constant code
简单来讲，计算机视觉需要将图片大小统一，这样才能输入到网络。这个代码就是将2D或者3D的图片padding 到指定大小，边缘填充使用指定常数，如果是3D，(512,512,3)最后一维不进行拓展我加了注释，如果拓展的不能整除，那么左，上，也就是序号小的比序号大的差一维rar = crop_to((5,5),np.array([[1,3,4,5],[2,3,3,3]]))prin...原创 2019-07-08 10:41:24 · 1213 阅读 · 0 评论 -
python3 匿名函数 与 生成器
对于keras来讲，这两个概念很重要。匿名函数很简单，有时候我们的函数很简单，我们就会想要偷个懒，不想再单独出去定义新的方法，现在立刻马上就顺手写个函数。这时就需要匿名函数。比如map(func(),list)的作用是将list当中的每个元素都当作参数输入到func()这个函数中。如果我就做个x*x操作，就可以简单的写道：list_a = list(range(10))prin...原创 2019-04-04 08:39:05 · 304 阅读 · 3 评论 -
计算机视觉论文笔记四：Attention-Set based Metric Learning for Video Face Recognition
这篇文章的创新点在于他的依据。网络多多少少都要找一些理由说明我们为什么比以前好使了一丢丢。涉及两个依据：MMD分布距离测量+memory attention mechanism.MMD测量两个分布的距离，分布来自于符合两个不同分布的样本点集，所以可以用来人脸识别。一个样本点集包含了这个人不同表情，不同角度的照片，或者干脆是是视频截取的很多帧。这些照片的共同点就是他是张三的照片，符合张三的分布。作者...原创 2018-05-03 21:29:51 · 988 阅读 · 0 评论 -
计算机视觉论文笔记六：Multi-Scale Context Aggregation by Dilated Convolutions
不会再写基础的东西。因为已经是第六篇论文了。arXiv:1511.07122 [cs.CV]Published as a conference paper at ICLR 2016我现在很喜欢读introduction以及literature review，因为很多观点都是总结。比如这篇文章认为传统的conv+pooling的结构用于图片分类效果很好，现在人们想要做dense prediction...原创 2018-05-29 12:26:06 · 11017 阅读 · 5 评论 -
without bells and whistles 深度学习
深度学习经常能看到这句话： without bells and whistles英语本意是花哨的事物，翻译成中文我们经常说的花里胡哨的东西一般网络都是组装的。用别人的backbone，然后加上自己发明的部件，或者理念。之后证明自己有效。并不会把现有的所有最好用的东西都试一遍，得到一个好结果，然后再说自己有用。通常还会做消融性实验，证明自己部件 能够对现有网络的增幅。而且科学研究不...原创 2018-12-04 12:59:11 · 9114 阅读 · 10 评论 -
one model / ensemble method /meta-algorithm 迁移学习算不算ensemble method
鉴于object detection COCO数据集的论文经常出现 single-model 也就是说，这是一个对网络的分类，呢它是什么意思，有什么特点。相对应的另一类是什么。就是下面介绍的ensemble learning。不过比如说网络初值是用别人的网络训练好的数值，一定意义来讲是在优化空间找到一个初值，对于自己网络的结果的影响究竟有多大，也就是说，用随机初始网络得到的结果是否有不同，有多...原创 2018-12-04 15:38:11 · 608 阅读 · 0 评论 -
conda 安装 TensorFlow gpu cuda 轻松 无错 安装 nb_conda jupyter conda常用命令 快速入门
前置安装：nvidia 显卡驱动下一步安装anaconda，如果安装anaconda3就会自动去链接python3 配套的库。首先理解下配置环境是在干嘛：很简单，就是安装软件那么怎么简化这个过程，避免换个环境，就得卸载重装，和别人共用一个服务器，就为了配置环境焦头烂额。很多人只把anaconda作为一个综合包，里面有很多需要用的别人的代码。但是它的真正作用是建立使用怕python的...原创 2018-11-30 14:42:23 · 5726 阅读 · 4 评论 -
普通用户使用conda命令 ubuntu linux 路径 maltab 明明安装了 找不到命令 command not found 添加环境路径
是这样的，你比如你安装了一个anaconda，或者matlab在你的私人文件夹。你不是root，你没有把你安装的软件装上软连接，那你直接输入命令，你的电脑是找不到的。这个问题很简单。你只需要知道你安装的位置，然后亲自去调用。也就是说不写maltab #肯定会提示你找不到/home/tina/MATLAB/R2018b/bin/maltab #去找到你安装路径里面的可执行文件，绝对...原创 2018-11-30 15:32:23 · 4177 阅读 · 2 评论 -
二：mask RCNN ——jupyter notebook mask rcnn
默认你已经安装好环境了。以下教程完全遵照官网。并且从官网下载好代码包了：https://github.com/matterport/Mask_RCNN，注意不是detrecton那个直接到setup.py路径，也就是根路径python3 setup.py install看下都干啥了：WARNING:root:Fail load requirements file, so...原创 2018-12-04 09:13:08 · 2553 阅读 · 0 评论 -
bias variance overfitting underfitting的判断 模型为什么不准
https://www.youtube.com/watch?v=D_S6y0Jm6dQ&list=PLJV_el3uVTsPy9oCRY30oBPNLCo89yu49&index=5版权他的。training error高说明underfittingvalidation error高说明overfitting这个都知道也知道怎么解决。但是错误哪来的呢。建模对...原创 2018-12-13 22:15:45 · 463 阅读 · 0 评论 -
深度学习包，工具的收集
imgaug ：进行图像augmentation的python库,支持关键点(keypoint)和bounding box一起变换。https://blog.youkuaiyun.com/u012897374/article/details/80142744在mask rcnn中 使用了docker 很强大的虚拟实验环境搭建。可以当成不浪费资源的虚拟机。并且由专业人士配置环境内容。可以分享环境...原创 2018-12-06 20:36:57 · 385 阅读 · 0 评论 -
conda 安装 jupyter notebook jypyter lab nb_conda
首先，激活你的环境。听不懂的话，补个课：https://blog.youkuaiyun.com/u013249853/article/details/84648917 https://blog.youkuaiyun.com/Mrxxyz/article/details/84866504这个说还需要内核，不一定吧。我先试试。conda install jupyter notebookconda inst...原创 2018-12-10 15:20:33 · 10076 阅读 · 2 评论 -
dirac delta function
论文是：weakly supervised instance segmentation using class peak response 这篇论文中有进行peak stimulation： 大体来说就是在正常网络最后一段给出了H*W*C的feature map之后，他又加了一个卷积核，想要输出类自信分数（此图多大可能性有这一类）这个卷积核就用到了dirac delt...原创 2018-12-23 20:54:00 · 5708 阅读 · 0 评论 -
resnet 残差网络 快速熟悉
首先，推荐个油管的视频。中文解说，大家关注一波这个小哥哥哈，讲的很清楚。很直观。虽然是用我的解释，但是ppt是这个小哥的。梯度爆炸，需要你理解什么是链式求导。ps，百度百科整的太复杂了，对我们来说没用的。resnet网络结构：最大的特点就是右边那个箭头。那么接下来我们就主要说下，resnet为解决什么问题，怎么解决的。之后：网络层数过深导致的梯度弥散：自己推一下哈。其实...原创 2019-03-15 11:16:40 · 1136 阅读 · 2 评论 -
conda安装jupyter lab以及jupyter notebook
https://anaconda.org/conda-forge/jupyterlabconda install -c conda-forge jupyterlab 首先上面是官网给的命令中的一个激活你的环境：比如我的是mask2输入该命令，然后就可以了，最后在命令行用jupyter lab来启动，我个人感觉jupyter lab比较好用。这篇博客可真水。...原创 2019-03-19 21:31:15 · 7086 阅读 · 0 评论 -
本地windows的pycharm 使用远程anaconda虚拟环境环境跑代码
emmm，虽然vim直接写代码已经可以了，但是这也是另一种方式。本地用windows安装pycharm的企业版，然后把代码用服务器的anaconda创建的虚拟环境以及硬件跑。那么教程是两个部分，第一个部分是pycharm和远程连接，服务器啊，密码啊，文件夹什么的。第二个部分是配置远程环境。第一部分的教程第二部分的教程首先要打开你的项目，然后这个项目需要和你的本地目录一致。...原创 2019-04-24 20:57:36 · 10058 阅读 · 3 评论 -
ubuntu 安装tfplot windows直接下载安装
官网那么一共有两种方式安装：一种直接用pip：pip install tensorflow-plot还有一种是能获取最新的：pip install git+https://github.com/wookayin/tensorflow-plot.git@master另外作者还说了只兼容tf1.x版本，2.x就是future work了。还有一些速度上的，兼容上的问题，请...原创 2019-03-18 12:21:34 · 1245 阅读 · 0 评论 -
让我有收获的从零开始的人工智能 深度学习 计算机视觉 教程集合帖
目录0 如果你觉得这个页面广告太多，请点击下面教程（我写的）去广告1 网络拆分，一个网络里面有什么，作用是什么1.0 基础知识，从零开始30分钟明白深度学习怎么学习的，权重是什么，什么是梯度下降，损失怎么计算的。油管播放量60多万的视频，很社会了。那么或许你已经看过一些书和论文，甚至能够搭建自己的网络，但我还是看了，觉得有所收获。1.1 激活函数入门简单易懂：但是...原创 2018-04-13 14:02:49 · 1379 阅读 · 1 评论 -
tensorflow 占位符
tensorflow的占位符本质就是先声明数据类型，以便建立模型时申请内存。在这里声明的：https://github.com/tensorflow/tensorflow/blob/r1.13/tensorflow/python/ops/array_ops.pytf.placeholder( dtype, shape=None, name=None)需...原创 2019-03-26 10:41:39 · 5299 阅读 · 0 评论 -
计算机视觉论文阅读二：弄懂残差网络ResNet Deep Residual Learning for Image Recognition
0.摘要本网络能够让网络层数增加的同时，识别率不下降。神经网络没有证明，所以你看论文不能忽略作者的introduction以及related work，更重要的是实验，因为没有数学证明，实践证明又不严谨的话，就是一个笑话。所以产业化也不容易。（所以要学习大牛们是怎么做试验的）图片来自论文，版权归作者所有。1.网络越深为什么错误率上升了首先我们有个浅层网络训练好的，然后我们往上增加层数，假设这个层是...原创 2018-04-17 20:06:32 · 887 阅读 · 0 评论