艾醒的博客

Python深度学习基础：激活函数的介绍以及图像的对比展示

通过公式推导透彻理解反向传递，使用Python实现乘法层、加法层、Relu层、Sigmoid层、带交叉熵误差的SoftMax层的反向传递实例

全连接层以及反向传递的理解与手动实现

均方误差（MSE），L2范式与闵可夫斯基距离，交叉熵误差（cross_entropy_error），极大似然损失函数（LR）的函数公式，应用场景以及代码的实现

SoftMax函数的简介、公式推导、公式化简，以及代码实现

从零开始在ubuntu操作系统中配置pytorch深度学习环境

根据之前的文章我们可以很容易的搭建出多层神经网络，下面我们以其中一种方式为例实现多层神经网络，推荐使用jupyter notebook

假设我们有一个房价预测的问题，我们有很多条数据，每一个数据项有很多特征，这些特征就是x，而房价就是y，线性回归要解决的就是得出一批合适的w和b来实现x向y的映射，使得我们得到x时就可以预测出y。但是不是所有的问题都可以得到解析解，所以我们一般使用梯度下降的方式进行优化，优化方式是：各个参数沿着梯度的反方向更新，梯度方向就是方向导数最大的方向。为了求得权值和偏置的最优值，我们需要定义损失函数，通过降低损失函数的损失进行权值和偏置的优化。

提到卷积，应该多数人都会想到类似上图的这种示例，可以简单的理解成卷积核与图像中和卷积核相同大小的一块区域与卷积核相乘再求和，通过移动区域产生一个有和组成的新的图像，那么卷积核是什么呢，本文将从原理通俗易懂的介绍卷积核

本篇文章将介绍常用的线性CNN模型，其中包括LeNet， AlexNet, VGG，并用fashion_mnist数据集为例解释并演示CNN模型的训练和测试过程

在本专栏的上一篇博客中我们介绍了常用的线性模型，在本文中我们将介绍GoogleNet、resNet、denseNet这类结构化的模型的构建方式。

目标检测是一个常见的计算机视觉任务，在目标检测任务中，交并比作为评判检测框的标准具有很重要的意义，在实际的应用中，人们又对最初的IoU进行了诸多的改进。本文将对IoU以及他的改进形式的思路以及公式进行详细通俗的介绍。

在前面的两篇文章中我们介绍了现代计算机视觉中常见的结构化和非结构化的CNN模型，本篇我们将使用这些CNN模型在手写数学符号数据集上进行识别。CNN模型的介绍请参照之前的两篇文章，源码放到最后。

基于U-net和deeplabv+的航拍街道语义分割

人工智能主要可以解决的问题分为：模拟人类认知和模拟人类感知，图像分类就是模拟人类感知的过程的一个方向，即分辨出图像中的事物是什么，未来的几周我们将借助手写数学符号数据集来着重讲解pytorch用于图像分类的技术，对于实现中的细节也将逐步讲解。

数据加载以及模型浅试前言数据加载加载单个数据数据加载器参数过程解析批量数据加载模型训练ResNet模型模型结构模型修改结尾前言在上一篇文章中，我们着重分析了数学符号数据集的特征，并且做好了真实标签与数字标签的映射，同时为了防止内存溢出，我们将图像的路径和类别存放到了txt文件中实行随用随取。本篇文章我们将在上一篇文的基础上定义数据的加载方式以及在resnet下进行模型的训练。数据加载加载单个数据在torchvision中，可以使用io.read_image打开适用于torch的图片，还记得上篇我们

在前面的文章中我们重点介绍了数据的形式，数据的加载，并且解决了加载过大的数据集可能导致的OOM问题。同时我们也解决了加载torchvision中现有的模型时遇到的输入和输出端与我们实际问题不匹配的情况，在本篇文章中我们将介绍模型的训练和预测过程。

在本专栏的上一个项目中我们介绍了使用CNN进行图像分类，在本项目中我们将介绍另外一种对于图像进行处理的算法——语义分割。

在前面的文章中我们介绍了数据集的概况以及预处理，在训练之前除了数据预处理之外我们还需要对于标签进行处理，因为标签是以RGB格式存放的，我们需要把他们变换成常见的类别标签，并且因为语义分割问题是针对像素的分类，在数据量较大的情况下容易内存溢出（OOM），所以我们往往需要重写数据加载类针对大量数据进行加载。

在前两篇中我们完成了针对数据的处理和加载，本篇文章中我们将介绍两个常见的语义分割模型U-Net和deeplabv3+来完成航拍语义分割项目。

在本系列的前几篇文章中我们介绍了数据与模型，在本篇中我们将数据与模型相结合进行模型训练与预测。

在本专栏的第一个项目pytorch实现手写数学符号识别项目中，我们实现了多分类问题。有这样一个论文中提到的特征旋转的自监督学习的方法，能够通过简单的处理使得图像任务的处理效果更好（是的，下面介绍的方法不只是可以用于图像分类任务，还可以用于其他任务）。会介绍论文的思路，并且构建用于基于特征旋转的自监督学习的数据加载器

在本系列的上一篇文章中，我们介绍了如何对数据加载器进行修改来构建适合预基于特征旋转的自监督学习使用的数据集，在本篇文章中，我们将构建一个简易的深度学习模型——resnet18作为测试模型作为案例，在resnet18上我们进行训练，以及效果的对比。基于旋转特征的自监督学习实质上就是将原始图像进行旋转，旋转过后将他的标签设置成旋转的角度。然后传入模型进行训练，训练好的权值作为分类模型的预训练模型进行模型迁移。