- 博客(36)
- 收藏
- 关注
RSS订阅原创 工具：Zotero Better BibTex插件和Latex基础知识
Zotero+Better BibTex+Overleaf批量导出参考文献。zotero中导出bib文件。修改导出BitTex格式。Latex引用图、表、公式和参考文献的格式。
2024-12-01 22:58:52
1238
1
转载 解决pip install时出现WARNING: Ignoring invalid distribution的警告
在使用pip进行Python包管理时，有时会遇到WARNING: Ignoring invalid distribution的警告。这个警告的出现通常意味着pip在尝试安装一个无效或不完整的包时被忽视。为了解决这个问题，我们需要先了解为什么会出现这种警告，然后采取适当的措施来解决它。出现WARNING: Ignoring invalid distribution的原因。
2024-05-29 09:09:53
5339
原创 pytorch-16 复现经典网络：LeNet5与AlexNet
对于（10,3,227,227）数据表示，10张3通道的图，图的大小（特征数）为227*227.通道数：作为卷积的输入通道数和输出通道数。特征数：特征图的大小步长stride和填充padding：线性减小特征图的尺寸池化pooling：非线性且高效减小特征图的尺寸。
2024-05-28 09:53:56
618
原创 pytorch_trick(4) 模型本地保存与读取方法
同时，借助方法，我们可以实现模型或优化器的本地保存于读取。此处以模型为例，优化器的本地保存相关操作类似。对于模型而言，其实也有方法。通过该方法的调用，可以查看模型全部参数信息。值得注意的是，模型的训练和保存，本质上都是针对模型的参数。而模型的则包含了模型当前全部的参数信息。因此，保存了模型的就相当于是保存了模型。
2024-05-27 23:23:17
484
原创 pytorch-14 数据归一化和Batch Normalization基础理论、代码实现和调参实战
BatchNorm类的三个核心参数num_features：输入数据的特征数量（假设为n），也就是前一层神经元数量或原始数据集特征数量，根据此前的论述，BN层最终构建的是一个n*n的对角矩阵，对角线元素包含γ\gammaγ，并且截距项为β\betaβ；eps：方差分母修正项，为了防止分母为0，一般取值为1e-5，也就是类默认值；affine：是否进行仿射变换，需要注意的是，此时进行仿射变换时将使用无偏估计进行期望和方差的计算，并且初始条件下γ1β0γ1β0。
2024-05-27 23:08:32
1275
原创 pytorch-13_3 模型参数初始化方法：Xavier和Kaiming（HE）
设置随机数种子# 一、nn.Sequential快速构建模型# 二、nn.init初始化模型参数# (1)`.nn.init.uniform_`方法，新生成的参数服从均匀分布nn.init.uniform_(list(relu_test.parameters())[0], 0, 1) # 设置参数值为均匀分布在0，1区间内的随机数nn.init.xavier_uniform_(list(relu_test.parameters())[0]) # Xavier均匀分布的参数创建。
2024-05-27 09:20:53
1525
原创 pytorch-20 lstm实践
在之前的课程中我们了解了3类不同的时间序列数据、以及这些数据所涉及到的7-8类数据重组方式，相信你已经意识到、时间序列任务会比一般的机器学习/深度学习更复杂、更灵活、更有挑战性。在过去的课程中，我们都是以最为经典的“点到序列”的预测方式给大家举例，但事实上，依据时间序列预测的不同细节，时序预测手段可以被分为以下四种——在这4种分类下，我们实际可以有单步递归预测、单步直接预测、多步递归预测和多步直接预测四种预测方法，之前我们所呈现的最经典的“序列到点”的预测就是单步直接预测法。
2024-05-23 23:24:05
1495
原创 pytorch-13_1 深度学习之数据准备
自定义数据集类，封装数据def __init__(self, features, labels): # 创建该类时需要输入的数据集self.features = features # features属性返回数据集特征self.labels = labels # labels属性返回数据集标签self.lens = len(features) # lens属性返回数据集大小# 返回index对应的特征和标签# 返回数据集大小。
2024-05-15 19:36:11
947
原创 pytorch_trick（3）: PyTorch中可微张量的in-place operation问题解决方法
但是该方法会导致叶节点丢失，无法反向传播求导。而在一张计算图中，缺少了对叶节点反向传播求导数的相关运算，计算图也就失去了核心价值。因此在实际操作过程中，应该尽量避免导致叶节点丢失的相关操作。当然，如果出现了一定要修改叶节点的取值的情况，典型的如梯度下降过程中利用梯度值修改参数值时，可以使用此前介绍的暂停追踪的方法，如使用。从报错信息中可知，PyTorch中不允许叶节点使用in-place operation，根本原因是会造成叶节点和其他节点类型混乱。来返回可微张量的取值，从在避免在修改的过程中被追踪。
2024-05-15 16:34:03
450
原创 pytorch_trick（2） 在Jupyter初始化过程中自动加载常用包的设置方法
在每一节课程的开头，我们都要导入常用包，由于这项工作重复而固定，因此我们也可以通过配置jupyter（准确来说应该是ipython）的startup文件，来使得每次新创建一个ipy文件时，都能够自动加载配置好的包，从而就能免去每节开头导入包的相关操作。（所以说，懒惰是推动技术进步的不竭动力。
2024-05-15 16:12:15
310
原创 pytorch-12 深度学习基础网络的数据集创建及手动搭建实现
尽管深度学习也属于机器学习范畴，基本的建模理念和机器学习类似，比如需要确定目标函数和损失函数、找到合适的优化算法对参数进行求解等等，但利用PyTorch在进行建模的过程却和和最大的机器学习库Scikit-Learn中定义的机器学习建模方法有较大的差别。那为何PyTorch的整个实现过程看似会更加复杂？归根结底，还是和深度学习建模的特殊性有关。
2024-05-12 23:37:33
944
1
原创 pytorch_trick：实例化模型时参数的随机取值（torch.manual_seed和random.seed）
若需要完全复现模型训练过程，则需要在实例化之前设置随机数种子，或者在上一个随机数种子之前规定有限次的随机次数。在手动创建模型类之后，每次实例化都会随机生成一组参数值。
2024-05-12 21:31:43
305
原创 pytorch-11 神经网络的学习
（1）神经网络的反向传播（2）优化算法：小批量随机梯度下降SGD的步长 lr 和动量 gamma（3）迭代学习的数据大小batch_size与次数epoches，分割和合并数据集的类TensorDataset与DataLoader（4）在MINST-FASHION上实现神经网络的学习流程
2024-05-11 02:11:44
1234
原创 pytorch-10 神经网络的损失函数
回归：SSE和MSE 误差平方；二分类：BCELoss二分类交叉熵损失函数；多分类：CrossEntropyLoss 多分类交叉熵损失函数
2024-05-11 00:01:37
503
1
原创 pytorch-9 深层神经网络
从结果可以看出，只要隐藏层的h(z)是阶跃函数，XOR网络就一定能有效，这与输出层g(z)是什么函数完全无关。从这里开始，若没有特别说明，当我们提到“激活函数”时，特指隐藏层上的激活函数h(z)。其中，第一层的激活函数是relu，第二层是sigmoid。我们要如何实现它呢？学到这里，我们已经学完了一个普通深度神经网络全部的基本元素——用来构筑神经网络的结构的层与激活函数，输入神经网络的数据（特征、权重、截距），并且我们了解从左向右的过程是神经网络的正向传播（也叫做前向传播，或者向前传播）。
2024-05-10 23:26:12
402
原创 pytorch-8 单层神经网络及激活函数
实际上，神经网络的处理原理是一致的，就连算法的限制、优化方法和求解方法也都是一致的。回归和分类神经网络唯一的不同只有输出层上的σ。
2024-05-10 19:48:21
957
原创 pytorch-5-6 基本优化思想、动态计算图与梯度下降
在正式开始进行神经网络建模之前，我们还需要掌握一些基本数学工具，在PyTorch中，最核心的基础数学工具就是梯度计算工具，也就是PyTorch的AutoGrad（自动微分）模块。AutoGrad模块，就是PyTorch提供的最核心的数学工具模块，我们可以利用其编写一系列的最优化方法，当然，要使用好微分工具，就首先需要了解广泛应用于机器学习建模的优化思想。所谓优化思想，指的是利用数学工具求解复杂问题的基本思想，同时也是近现代机器学习算法在实际建模过程中经常使用的基础理论。
2024-05-10 16:39:46
1089
原创 Excel相关操作（一）POI和easyExcel学习整理
【狂神说Java】POI及EasyExcel一小时搞定通俗易懂主要内容：如何用java操作excel，主要涉及到POI和easyExcel这两个API
2022-03-03 00:03:00
771
原创 Vue基础快速入门学习笔记整理
一、Vue基础课程详情：黑马VUE学习笔记—后端小白入门（附带项目天气预报和音乐播放器所有源码）视频地址：https://www.bilibili.com/video/BV12J411m7MG?p=37&share_source=copy_web课程源代码：链接：https://pan.baidu.com/s/1yQMpgrHDPMnGYkmwfgRseQ提取码：1234提前掌握基础知识：HTML、CSS、JavaScript、AJAX工具：VSCode、插件Live Server课程
2022-02-26 14:57:17
749
原创 SpringBoot框架学习笔记整理
SpringBoot学习笔记整理1、创建一个SpringBoot框架的web项目2、SpringBoot框架集成SpringMVC（相关依赖）3、核心配置文件application.properties4、SpringBoot框架集成JSP 5、SpringBoot框架集成MyBatis
2022-02-21 20:53:43
564
原创 Ubuntu20安装Fabric 1.4 详细步骤（亲测有效，部署快）
使用环境：VMware安装使用Ubuntu镜像文件：ubuntu-20.04.3-desktop-amd64.iso ，直接官网下载，在虚拟机上运行。一、准备阶段1.1 配置阿里镜像源1.2 安装基础软件1.3 安装 go1.4 安装 Docker-CE1.5 安装 Docker-Compose二、Fabric环境部署2.1 Fabric二进制文件2.2 拉取Fabric的Docker镜像2.3 下载fabric-samples文件，运行官方案例first-network
2022-01-08 17:31:42
17725
12
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人