dake13的博客

最近在学习李沐的Mxnet/Gluon深度学习的线性回归部分，线性回归是很基本的一种监督学习，分类问题。以前学习完一遍吴恩达的《machine learning》，并把《机器学习实战》里面的主要代码都实现一遍，现在有点忘记了，正好开始深度学习，开始线性回归查缺补漏，MXnet框架其实比较小众，但这次学习主要是专注于算法的原理，框架只不过是工具。这次温故而知新，现将需要的要点材料整理如下：...

与第一课线性回归（linear regression）不同，softmax回归针对的是多分类的情况，即labels不再仅有0,1两个分类。softmax通过指数运算将最后的分类转为0~1间的概率，在终于类别概率中，数值大的为预测概率。与线性回归损失不同，softmax函数计算损失采用的是交叉熵损失（Cross Entropy），原理和公式推导可参考：https://zhuanlan.zhi...

        多层感知机针对于中间有隐藏层的神经网络结构，对于数据的每一层传递都会相应的多一层[w,b]，这中间使用的传参函数称之为激活函数，如果激活函数是线性的话，那么就没什么意义，无论中间有多少层，其实和没有隐藏层是一样的，所以需要非线性的函数作为激活函数。        常使用的有sigmoid(),tanh(),Relu()等，sigmoid()函数在比较深的神经网络中容易出现梯度消...

使用Pytorch对数据集CIFAR-10进行分类，主要是以下几个步骤：下载并预处理数据集 定义网络结构 定义损失函数和优化器 训练网络并更新参数 测试网络效果#数据加载和预处理#使用CIFAR-10数据进行分类实验import torch as timport torchvision as tvimport torchvision.transforms as transf...

Pytorch使用中常会用到torch.squeeze()和torch.unsqueeze()函数：查找资料相关记录如下：参考博客：https://blog.youkuaiyun.com/qq_39709535/article/details/818414261. torch.squeeze(input, dim = None, out = None): 返回一个tensor，当dim不设值时，去...

样例在Pytorch版本“0.4.0”中测试成功。可参考文章为：https://blog.youkuaiyun.com/tfcy694/article/details/85338745 #t.Tensor 与 t.tensor的区别import torch as t#括号中可以传入多个参数t.Tensor(1,2,3)或者传入一个参数但参数的维度为1，如:t.Tensor((1))，按照...