神经网络实践
关注
分享
扫一扫
文章平均质量分 56
爱吃苹果的魚
学习中...
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【问题探究】torchvision实践中特征提取的问题的纪录（待解决）
前言：{ 最近在调试一个包括efficientnet[1]的网络，其中efficientnet部分被用来做特征提取。我在尝试把efficientnet换成torchvision[2]中的其他网络。但是在第一次尝试resnet101时就发现了这个问题。}正文：{ 在阅读torchvision中的resnet部分的源码[3]后，我发现这里貌似不提供提取特征的方...原创 2019-11-04 20:16:54 · 795 阅读 · 0 评论 -
【神经网络实践】tentorflow上的多目标识别（1）
前言：{ 这段时间一直在更新论文的阅读记录，文字太多，这次的形式就改成了实践记录。 本次的目标是在VOC2012数据集上实现多目标识别。} 正文：{ 最近发现了一个目前目标识别效果比较好的新网络：PNASNet[1]，就把它拿来改改。不求很好的效果，只是想做做实践换换口味。本次的计划是从PNASNet中的一些部位引出一些张量，配合着最后的瓶颈层一起...原创 2018-10-04 20:59:25 · 957 阅读 · 0 评论 -
【神经网络实践】tentorflow上的多目标识别（2）
前言：{ 这3天也是够忙的，这次也更新不了多少内容。} 正文：{ tensorflow对操作tensor有一套自己的函数。其实tensorflow中关于tensor的操作都只是定义tensor的操作，只会在开始时运行一次（或者说这些操作其实算是一种新的编程语言，它嵌套在Python中，用来定义graph）。因此当需要使用if判断的时候就需要用到tensorf...原创 2018-10-08 00:31:04 · 419 阅读 · 0 评论 -
【神经网络实践】tentorflow上的多目标识别（3）
前言：{ 这次也遇到了不少问题，最头疼的就是OOM（内存不够）。虽然要训练的东西很少，但在初始化时还是会出错，目前就先用CPU（禁用显存）做初步调试。} 正文：{ 按照我原本的打算，损失是mean_squared_error；当某类的输出与标签的差不小于0.5时，则此类的预测正确，准确率为平均正确率。 此准确率的计算用到了二值张量。代码1是张量二值...原创 2018-10-10 21:43:53 · 673 阅读 · 0 评论 -
【神经网络实践】tentorflow上的多目标识别（4） （失败记录）
前言：{ 自从上次更新第3部分之后，这个系列其实我也一直在调试，只不过结果一直不好（大多数情况下网络只从样本标签分布中获得识别参考）。今天突然想到大概是怎么回事，就在这记录一下遇到的一些问题。} 正文：{ 自从上次更新此系列之后，我就一直在调试。为了解决误差降不下去的问题，试过了很多方法： 1，鼓励网络输出1： { 在h...原创 2018-11-16 00:06:29 · 253 阅读 · 0 评论 -
【神经网络实践】tentorflow上的多目标识别（5，完）
前言：{ 经过这么久，这一系列终于结束了。} 正文：{ 网络的特征提取部分被我换成了inceptionV3。用分类训练好的pnasnet进行单目标分类的效果还不错，但是用于多目标检测时却学不到东西（可能是此网络过于复杂，特征到最后都被混淆到了一起）。 我做了以下实验： 1，VOC2012分类 + pnasnet + 自定义归一化 + 双补...原创 2018-11-17 23:19:16 · 1874 阅读 · 2 评论 -
《TensorFlow实战Google深度学习框架（第2版）》第6章练习
前言： 第6章最后有个迁移学习的例子，我自己试着按照书上的目的从新写了一遍。 正文： 代码如下： testC6.py：# -- coding: utf-8 --'''此文件实现迁移学习的主流程。'''import os.pathimport tensorflow as tfimport JPG_to_npyimport tensorflow.c...原创 2018-11-25 00:07:14 · 377 阅读 · 0 评论 -
【神经网络实践】tensorflow下网络多学习率的实现（暂未测试）
前言：{ 在看到了在网络中应用不同学习率的论文[1]后，我就想尝试一下这种多学习率的方法。} 正文：{ 我在谷歌上搜索了一下，没搜到直接的代码，但发现了[2]。之后自己写了段代码，见代码1。#代码1def multi_learning_rate_optimizor(learning_rate_mapping, tf_optimizor): "...原创 2018-12-21 23:48:34 · 198 阅读 · 0 评论 -
【问题探究】如何解决pytorch训练时的显存占用递增（导致out of memory）
前言：{ 现在的神经网络模型，动不动就爆内存。两年前我笔记本2G的显存都绰绰有余，现在16G的P100，24G的P40却还不够。更让我郁闷的是，在pytorch训练时，显存占用竟然会不断增加，可能刚开始训练时是正常的，但是放在那里，不知道什么时候它就突然来一句out of memory，然后就尥蹶子不干了，白白浪费了很长的时间。所以这个问题我确实需要搞清楚。}正文：...原创 2019-09-26 20:56:33 · 20989 阅读 · 34 评论