CltCj的博客

深度学习基础知识和各种网络结构实战...一文带你用pytorch搞深度学习！！！深度学习前言一、tensor的数据类型1.1 torch.FloatTensor1.2 torch.IntTensor1.3 torch.randn1.4 torch.range1.5 torch.zeros/ones/empty二、Tensor的运算2.1 torch.abs2.2 torch.add2.3 torch.clamp2.4 torch.div2.5 torch.pow2.6 torch.mm总结前言

深度学习欠拟合和过拟合的问题...如何解决欠拟合和过拟合的问题？深度学习前言一、介绍二、如何解决欠拟合问题三、如何解决过拟合问题总结前言我们可以将搭建的模型是否发生欠拟合或者过拟合作为评价模型的拟合程度好坏的指标。所以如何去处理欠拟合和过拟合的问题是值得我们去关注的一个问题。一、介绍  对于欠拟合的模型产生的结果是对已有数据的匹配性很差，不过对数据中的噪声不敏感:  对于过拟合特性的模型对数据的匹配性太好，所以对数据中的噪声非常敏感。二、如何解决欠拟合问题解决欠拟合问题时，主要

深度学习目标检测领域评价指标？？？如何解决欠拟合和过拟合的问题？深度学习前言一、IOU是什么？二、python实现IOU三、如何解决过拟合问题总结前言对于一个检测器，我们如何去评价它的优劣呢？众所周知，物体检测器模型输出是非结构化的，我们事先是无法知道输出物体的位置、数量等，目前，我们一般采用IOU对其进检测器进行评价一、IOU是什么？  假设我们有一张图片，这张图片有一个真实框和预测框，这两个边框的交集和并集的比值就是IOU，IOU取值区间为[0,1],所以IOU越大，两框重合程度

深度学习基础知识和各种网络结构实战...SVD奇异值分解简述深度学习前言一、SVD的定义二、GPU和CPU三、普通显卡和Ti和TITAN总结前言奇异值分解（Singular Value Decomposition）是线性代数中一种重要的矩阵分解，奇异值分解则是特征分解在任意矩阵上的推广。在信号处理、统计学等领域有重要应用。一、SVD的定义SVD用于对矩阵进行分解，与特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：二、

深度学习基础知识和各种网络结构实战...PCA算法简述深度学习前言一、PCA算法步骤二、python实现PCA算法总结前言PCA算法（Principal Component Analysis)即主元分析法，是一种线性降维的算法。一、PCA算法步骤1.数据集为{x1,x2…xn}的多维向量，设维度为m维的话，考可以将数据集写出m行n列的的矩阵X(mn)2.如果要将其降维k维则：3.对数据集的每一个数据，每一位特征（每一行）减去各自特征的平均值，即对数据中的每一个特征维度进行零均值化

深度学习图像处理...基于Opencv的图片读取和存储深度学习前言一、介绍二、使用python实现总结前言基于olivettifaces数据集github地址一、介绍我们从网上下载olivettifaces图片但是这是一张gif图片，所以我们需要将其转为jpg二、使用python实现导入cv2库cv2安装pip install -i https://pypi.tuna.tsinghua.edu.cn/simple opencv-python首先我们用imread()方法读入

深度学习图像处理...图像处理小技巧-图片切割深度学习前言一、介绍二、使用python实现2.1 导入库2.2 全部程序总结前言基于olivettifaces数据集github地址一、介绍我们从网上下载olivettifaces图片包含400个57*47的小图，实际上我们需要对其做预处理，将其切分成400份二、使用python实现2.1 导入库import cv22.2 全部程序写一个分割数据集的程序按照57*47的尺寸将其裁剪import cv2def split

深度学习图像处理...图像处理小技巧-gif转jpg深度学习前言一、介绍二、使用python实现2.1 导入库2.2 全部程序总结前言基于olivettifaces数据集github地址一、介绍我们从网上下载olivettifaces图片但是这是一张gif图片，所以我们需要将其转为jpg二、使用python实现2.1 导入库首先我们从PIL中需要导Image库这里我们需要知道的是：PIL(Python Image Library)是python的第三方图像处理库，但是由于其

深度学习基础知识和各种网络结构实战...使用pytorch搭建AlexNet深度学习前言一、介绍二、框架搭载2.1 导入库2.2 AlexNet类三、测试数据总结前言使用pytorch搭建AlexNet一、介绍在这之前我们应当阅读一下AlexNet这篇论文,了解一下AlexNet得框架结构。我们可以指导它是由卷积5层+全连接3层组成的二、框架搭载2.1 导入库import torchimport torch.nn as nnfrom torchsummary import

深度学习基础知识和各种网络结构实战...全连接层、卷积层、池化层深度学习前言一、全连接层1.1 全连接层概念1.2 主要作用二、卷积层2.1 pytorch中的卷积函数三、池化层3.1 pytorch实现四、批量范化层总结前言全连接层、卷积层、池化层用pytorch实现一、全连接层1.1 全连接层概念全连接层 Fully Connected Layer 一般位于整个卷积神经网络的最后，负责将卷积输出的二维特征图转化成一维的一个向量，由此实现了端到端的学习过程（即：输入一张图像或一段语

深度学习基础知识和各种网络结构实战...深度学习在目标检测领域的发展历程深度学习前言一、双级检测器二、单级检测器参考文献总结前言先简要介绍一下目标检测，而面对目标检测，我们总是会提出的两点问题，这个物体是什么？以及它在哪里？而我对它用更确切的话说就是，对目标的定位和分类。目标检测主要做的工作就是这两个。以2014年为分水岭，目标检测在过去20年中可以大致分为两种时期，一是2014年之前传统的目标检测阶段，二是2014年后基于深度学习的目标检测阶段。本节主要对基于深度学习[6][7]的目标检

深度学习基础知识和各种网络结构实战...pytorch对MNIST分类深度学习前言一、导入第三方库二、下载MNIST数据集三、创建神经网络模型四、训练数据集五、测试完整代码总结前言pytorch实现一、导入第三方库import torchfrom torch.utils.data import DataLoaderimport torchvision.datasets as daimport torchvision.transforms as transformsimport

深度学习基础知识和各种网络结构实战...pytorch实现几种常用激活函数深度学习前言一、Relu和sigmoid、tanh总结前言pytorch实现常用激活函数一、Relu和sigmoid、tanhimport torchfrom torch.autograd import Variableimport matplotlib.pyplot as plt#--------------------------------------------------------------

深度学习基础知识和各种网络结构实战...深度学习服务器？深度了解一下！深度学习前言一、租服务器二、GPU和CPU三、普通显卡和Ti和TITAN总结前言我们在掌握了搭建深度学习模型后，就需要对模型进行训练并优化模型的参数，我们知道一个深度学习模型中需要对大量的参数进行计算和优化，这必然会耗费大量的计算力和时间。一个好的计算机硬件可以大大降低训练的时间。一、租服务器1.比较好用的，环境搭建都比较完善的服务器我推荐一个矩池云2.还有百度独有的深度学习框架PaddleCloud，注册能得1

深度学习基础知识和各种网络结构实战...神经网络基础-补充深度学习前言一、基础概念总结前言对独热码的解释一、基础概念  独热码，在英文称为one-hot code,直观来看，如果是分类问题就是有多少个类别就有多少个bit，并且只有一个bit为1,其余的都为0的一种码制。  假如只有一个特征是离散值：{fruits:{apple,pear,other}},该特征总共包含了3个不同的分类值，此时需要3个bit位表示该特征的什么值，bit位为1的位置对应原特征的值，此时得到的独热码为：{1

深度学习基础知识和各种网络结构实战...基于误差的反向传播-python实现深度学习前言一、基于误差的反向传播1.1 导入库1.2 定义激活函数-softmax1.3 计算基于小批次损失函数的损失值1.4 Relu反向传播1.5 全连接层1.6 SoftmaxWithLoss1.7 两层神经网络1.8 使用pytorch框架进行数据的下载与读取1.6 转化为独热码1.9 转化为独热码二、使用测试集进行评价-精度计算总结前言介绍一个高效计算权重以及偏置量的梯度方法一、基于误差的反向传播 

深度学习基础知识和各种网络结构实战...Relu和sigmoid反向传播-python实现深度学习前言一、Relu反向传播二、sigmoid反向传播总结前言我们将激活函数看作神经网络中的一层，实现它的反向传播常用激活函数一、Relu反向传播参考CS231n（斯坦福大学深度学习课程），通过计算图来实现理解反向传播函数首先我们知道Relu的公式为：我们能够知道前向传播时的输入x大于0，就将x传入下一层，如果x小于等于0就将0传入下一层通过上式，我们可以求出y关于x的导数，其中do

KNN算法原理及实践，py38代码附上github地址

深度学习基础知识和各种网络结构实战

简单神经网络python实现

深度学习基础知识和各种网络结构实战...基于数值微分的反向传播-python实现深度学习前言一、基于数值微分的反向传播1.1 定义激活函数1.2 计算基于小批次损失函数的损失值1.3 梯度下降1.4 两次神经网络类1.5 使用pytorch框架进行数据的下载与读取1.6 转化为独热码1.6 转化为独热码1.7 使用测试集进行评价总结前言我将会把每一步罗列出来一、基于数值微分的反向传播1.1 定义激活函数def relu(x): return np.maximum(0,x)d

深度学习基础知识和各种网络结构实战...几个损失函数python实现深度学习前言一、均方误差二、交叉熵误差总结前言一、均方误差import numpy as npdef mean_squared_error(p,y): return np.sum((p-y)**2)/y.shape[0]二、交叉熵误差def cross_entropy_error(p,y): delta=1e-7 return np.sum(-y*np.log(p+delta))总结

深度学习常见的几种激活函数及python实现...激活函数深度学习soft一、基础概念总结soft一、基础概念  独热码，在英文称为one-hot code,直观来看，如果是分类问题就是有多少个类别就有多少个bit，并且只有一个bit为1,其余的都为0的一种码制。  假如只有一个特征是离散值：{fruits:{apple,pear,other}},该特征总共包含了3个不同的分类值，此时需要3个bit位表示该特征的什么值，bit位为1的位置对应原特征的值，此时得到的独热码为：{100}