The Thinker

在学习图神经网络 GNN 之前，必然要了解一些GNN的常用数据集，这篇博客主要以Cora数据集为例介绍GNN的数据集格式与读取方式，并以一个项目实例进行说明。GNN常用数据集：https://linqs.soe.ucsc.edu/data1. Cora数据集介绍Cora数据集下载地址：https://linqs-data.soe.ucsc.edu/public/lbc/cora.tgz以...

本文主要将Pytorch实现的DenseNet用于自己制作的数据集进行图像分类，如果要复现DenseNet在经典数据集如Cifar10上的性能请移步github，另外本文不会涉及详细的论文解读。本文主要讲解如何利用Pytorch实现DenseNet，并且将Pytorch实现的DenseNet用于自己制作的数据集进行图像分类，以并以17 Flowers（17 Category Flower Dat...

上一篇博客讲解了如何组织自己的数据集，这节讲解如何对数据集进行一系列的预处理操作，即Transform。1. torchvision.transforms.Compose(transforms)该API将多个 transform 组合起来对数据进行预处理，其中参数 transforms 是由 transform 构成的列表。现在举一个例子，先看原始图片：接着对这个图片进行预处理操作 To...

这篇博客讲解了如何自定义一个 Dataset类 返回训练数据与标签，但是对于简单的图像分类任务，并不需要自己定义一个 Dataset类，可以直接调用 torchvision.datasets.ImageFolder 返回训练数据与标签。1. 数据集组织方式既然是调用API，那么你的数据集必然得按照API的要求去组织， torchvision.datasets.ImageFolder 要求数据...

1. 模型的保存与读取语法pytorch的模型和参数是分开的，可以分别保存或加载模型和参数。1.1 保存与加载模型# 保存模型torch.save(model, 'model.pth')# 加载模型model = torch.load('model.pth')注意：将模型保存成何种格式文件无所谓（比如pkl，pth等）。1.2 保存与加载模型参数# 保存模型参数torch.s...

本专题主要是解决Pytorch框架下项目的数据预处理工作Table of Contents：     1. HDF5文件简介     2. Python中的_, __, __xx__区别      3. Dataset类   &n...

本专题主要是解决Pytorch框架下项目的数据预处理工作Table of Contents：     1. HDF5文件简介     2. Python中的_, __, __xx__ 区别     3. Dataset类   &...

本专题主要是解决Pytorch框架下项目的数据预处理工作Table of Contents：     1. HDF5文件简介     2. Python中的_, __, __xx__区别      3. Dataset类   &n...

本专题主要是解决Pytorch框架下项目的数据预处理工作Table of Contents：     1. HDF5文件简介     2. Python中的_, __, __xx__ 区别     3. Dataset类   &...

上一篇博客利用TensorFlow实现了VGG16，其中在处理数据的时候将图片数据集转化为TensorFlow专用格式。但是对于某些容量非常庞大、数据量非常多的数据集来说，将其转换为TFRecords格式是一个非常浩大的工程，而且往往由于原始的数据集和转换后的数据集容量过大，使得加载和读取消耗更多的资源，从而引起一些列的问题。今天介绍另一种数据处理方式：图片地址数据集转换为TensorFlow专...

Anaconda是一个容易管理虚拟环境的工具，本文主要介绍如何在Anaconda中安装Python+Pytorch（至于如何安装Anaconda请参见这篇博客。1. 生成安装命令进入Pytorch官网，再进入 Get Started目录，选择自己电脑配置生成安装命令（该网页会自动生成你的电脑配置）。2. 创建虚拟环境在Anaconda中创建虚拟环境：conda create -n py...

在医学图像处理中，我们经常使用一种NIFTI格式图像（.nii文件），现在我们来看看什么是.nii文件？该如何读取.nii文件？1. NIFTI格式图像什么是NIFTI（Neuroimaging Informatics Technology Initiative）格式图像？在讲解什么是NIFTI格式之前，得先了解一下 Analyze格式。Analyze格式储存的每组数据组包含2个...

转自：微软研究院AI头条链接：https://zhuanlan.zhihu.com/p/52727881其他参考链接：https://zhuanlan.zhihu.com/p/52727881转载只为学习用途，如有侵权，请联系本人删除！（这是我唯一一篇转载的博客>_<）组合在线学习：实时反馈玩转组合优化什么是组合在线学习？大家都曾有过这样的经历，在我们刷微博或是阅读新闻的时候...

复现论文的必不可少的一步就是阅读作者开源的代码，但是大多数人往往瞥一眼代码就退怯了！退怯的原因归结起来往往有以下两点：（1）高度封装，一眼看上去看不懂（2）使用了一些 “奇怪的东西”（看到装饰器@就撤）今天如何阅读深度学习项目源码谈一些自己的理解Table of Contents熟练Python语法，尤其是函数参数、迭代器与生成器、函数式编程、面向对象编程学会查看封装函数的具体...

1. 本文目的使用SVM代替CNN网络的全连接层，即CNN提取特征后利用SVM进行分类。（注：仍使用完整CNN网络进行训练获取卷积层参数，SVM参数单独训练获得，后续会对此进行详细说明。）2. 实验流程：对样本数据进行处理建立完整的卷积神经网络（CNN）利用训练数据进行训练，获取卷积层权重参数将卷积层输出转换为SVM输入特征向量利用上一步特征向量对SVM进行训练利用测试数据进行准...

在神经网络的压缩与加速设计中，必然要考虑高内存存储与高度复杂的浮点计算，高内存存储体现在模型参数过多，复杂体现在浮点计算次数过多。因此有必要讲一下参数与FLOPs的计算方法。1. 模型parameters计算首先明确 parameters 是一个模型所要学习的权重(W, b)，或者说是定义这个模型的所需要的变量。注：卷积核是一个 d * d * C 的3D卷积核，然后 C 是输入通道数，...

本文利用TensorFlow实现VGG16，并以17 Flowers（17 Category Flower Dataset）为案例进行实战。1. 项目架构注：所有图片都在jpg文件夹下，删除该文件夹下两个非图片文件。先看项目架构：注：Example文件夹下为测试数据，部分来自于训练集，其余来自于网上。2. 文件说明文件功能pre.py将jpg文件下图片按类别分...

CVer必然要对Microsoft COCO数据集有一定的了解，今天就对COCO做一点解读。一、MS COCO

1. 什么是梯度消失与梯度爆炸？目前优化神经网络的方法都是基于误差反向传播思想，即根据损失函数计算的误差通过梯度反向传播的方式来指导深度网络权值的更新优化（其实就是链式法则的应用）。这样做是有一定原因的，因为深层网络由许多非线性层堆叠而来，每一层非线性层都可以视为是一个非线性函数 f(x) (非线性来自于非线性激活函数），因此整个深度网络可以视为是一个复合的非线性多元函数（可以表示某种假设函数）...

配置一下环境变量即可

在Anaconda环境下运行jupyter notebook时，出现了The kernel appears to have died. It will restart automatically报错！于是google了一下，看了很多解决方法，类似版本不匹配、更新包之类的建议均无果。突然想起来是不是前几天跑了一篇大佬论文的实验还在占用线程，决定去看看。以window为例：1.先进入C:\Prog...

在Anaconda安装文件夹下找到etc文件下，再找到jupyter文件夹，最后找到jupyter_notebook_config.json文件（比如D:\application\Anaconda3\etc\jupyter）做如下修改：{ &amp;amp;quot;NotebookApp&amp;amp;quot;: { &amp;amp;quot;nbserver_extensions&amp;amp;quot;: { &am

1. FIFOQueue : 先入先出的队列import tensorflow as tf# 在使用循环神经网络时,希望读入的训练样本是有序的可使用FIFOQueue# 先创建一个先入先出的队列,初始化队列插入0.1,0.2,0.3三个数字q = tf.FIFOQueue(3,tf.float32)init = q.enqueue_many(([0.1,0.2,0.3],)) ...

1. 多曲线1.1 使用pyplot方式import numpy as npimport matplotlib.pyplot as pltx = np.arange(1, 11, 1)plt.plot(x, x * 2, label="First")plt.plot(x, x * 3, label="Second")plt.plot(x, x * 4, label="Thi...

在神经网络训练过程中，可能会出现Weight/Bias等值为NaN(Not a Number)的问题，这是因为在训练过程中权重出现了无穷与非数值的情况。现就出现NAN值问题的原因及解决方案进行总结。未完待续。。。1. 学习率设置问题学习率设置不到可能会导致出现NAN值，而且通常是学习率过大导致。2. 优化器选择问题在用多元线性回归解决房价预测问题时就遇到过权重出现NAN值问题。先采...

对于训练数据分batch十分有必要，但是MNIST官网给出的程序采用了封装函数，本文写了一个next_batch()适用于自己制作的数据集。import numpy as npclass DataSet(object): def __init__(self, images, labels, num_examples): self._images = image...

MNIST作为Tensorflow界的“hello world！”，被各种深度学习入门书籍拿来作为第一个案例，但是由于官方文档给出的示例程序中采用了不少的封装函数，尽管提供了封装函数源码，但仍然晦涩难懂！于是希望拜读大师们的深度学习入门杰作来参考一番，一本，两本，三本~~~~~~似乎大师们商量好了：“我们偏不解释你不懂的内容！”，最终在各大“杰作”上出现了如下画面：本文就read_data...

一 TFRecords文件TFRecords文件是TensorFlow专门的文件存储及读取格式，其中包含了tf.train.Example 协议内存块（protocol buffer），存储特征值与数据内容。通过tf.python_io.TFRecordWrite类，可以获取相应的数据并将其填入到Example协议内存块中，最终生成TFRecords文件。简单地说，tf.train.Examp...

一 CSV文件 CSV文件是最常用的一个文件存储方式。逗号分隔值（Common-Separated Values，CSV）文件以纯文本形式存储表格数据（注：分隔字符也可以是其他字符）。纯文本说明该文件是一个字符序列，不包含必须像二进制数字那样被解读的数据。 CSV文件由任意数目记录组成，记录间以某种换行符分隔；每条记录由若干字段组成，字段间以字符（如逗号）或字符串分隔。 二 案例分...

win10系统中使用tensorboard1.打开Anaconda Prompt 2.进入tensorflowactivate tensorflow 3.打开log文件tensorboard --logdir=D://PAPER//GTSRB//Logs注：地址为log文件所在文件夹，windows系统要用双斜线。 ...

电脑上Python3环境中已经成功装入了Tensorflow（见上篇博客），但是，如果以后在cmd命令行窗口进行编译只能呵呵了，在此向大家推荐两款IDE（Intergrated Development Environment）：Jupyter和Pycharm，下面介绍在在Jupyter和Pycharm中配置Tensorflow。一 配置Jupyter1.打开Anaconda Navig...

一 安装Anaconda什么是Anaconda？简单地说，Anaconda就是一个集成的Python环境，其中第三方库是一大亮点，比如科学计算库。具体请见：Anaconda官网安装步骤1.前往Anaconda官网下载镜像，再安装（安装了这么多年软件就不再详述了），建议下载清华大学镜像，访问国外服务器下载速度太慢。 2.安装Anaconda：新建一个Anaconda3文件夹（...