- 博客(23)
- 收藏
- 关注
原创 使用pytorch查看中间层特征矩阵以及卷积核参数
本文以b站up主的讲解为依据 做的一点笔记 (这个up主超厉害 是我导师)使用pytorch查看中间层特征矩阵以及卷积核参数_哔哩哔哩_bilibili
2022-11-16 19:54:02
452
原创 CGSS中国综合社会调查
数据详情:1、包含数据库和问卷2、数据包含的年份为2003、2005、2006、2008、2010、2011、2012、2013、2015、2017。3、2017年数据为SPSS和STATA(14版)+CSV(EXCEL)+编码表4、15年数据为SPSS和STATA(STATA12和14两个版本)+CSV(EXCEL)5、03-13年数据格式为SPSS和STATA(STATA12和14两个版本)以及中英双语调查问卷5、03-08年的是第一期调查,问卷问题和10-19第二年...
2022-04-19 15:30:31
2017
原创 MobileNet网络
指路bilibili,文章只是记录,里面的图片来自于b站up主的成果7.1 MobileNet网络详解_哔哩哔哩_bilibili传统卷积神经网络对于内存需求大,运算量也大,无法在移动设备和嵌入式设备上运行。MobileNet网络由Google团队在2017年提出,专注于移动端或者嵌入式设备中的轻量级CNN网络,相比传统CNN在准确率小幅度下降的基础上大大减少模型参数。网络中的亮点:depthwise convolution (大幅度减少运算量和参数数量);增加超参数α,β...
2021-12-20 18:24:49
296
原创 GNN图神经网络
论文链接:A Gentle Introduction to Graph Neural Networks (distill.pub)零基础多图详解图神经网络(GNN/GCN)【论文精读】_哔哩哔哩_bilibili文章分为四块:什么样的数据可以表示为一张图图和别的数据有什么不一样的地方 为什么要做图神经网络构建GNN 看一下各个模块长什么样子搭建了GNN的playground一、什么样的数据可以表示为一张图图就是表示实体(点nodes)的一些关系(边edges)U表示全..
2021-11-26 09:39:41
2898
原创 Git使用
【狂神说Java】Git最新教程通俗易懂_哔哩哔哩_bilibili还是b站的教程哈git的作用:版本控制,就是版本迭代,便于管理各历史版本的文件、工程,方便查看历史记录,不备份以便回复以前的版本gitbash:与linux相似,使用最多,推荐最多 cleargitcmd:windows的风格 clsgitgui:图形界面的git 不建议初学者用,尽量先熟悉常用命令先在桌面gitbashls可以查看当前目录下的文件一 常用Linux命令1 cd ch...
2021-11-05 13:22:46
95
原创 在Pytorch中使用Tensorboard可视化训练过程
在Pytorch中使用Tensorboard可视化训练过程_哔哩哔哩_bilibili视频地址如上 发布时间是2021.01.04本节课的教程来自pytorch官网tutorial的visualizing models,data,and traing with tensorboard本节课的代码在pytorch_classification的tensorboard_test中up主常用tensorboard四个功能,1在tensorboard -graph中 保存网络结构图,2在s.
2021-11-04 15:11:11
806
原创 使用pytorch配合flask搭建简易web服务
看的b站up主的视频记的笔记视频链接:使用pytorch配合flask搭建简易web服务_哔哩哔哩_bilibili使用文件:本届代码参考来源于pytorch官方tutorial下的deploying pytorch via a REST API with flask,本节课的代码只适合于展示、开发、测试,不适合于生产环境,因为1pytorch模型没有优化,运行结果较慢,2flask的WSGI不适合生产环境,需要配合一个高性能WSGI服务,以后会讲如何用在生产环境中,一般是通过Pytorc...
2021-11-02 14:47:31
1145
原创 在PyTorch中使用自己的数据集
太累了 看了一上午优快云还是没搞明白看的下面的up主的讲解 做一下笔记 免得忘记在pytorch中自定义dataset读取数据_哔哩哔哩_bilibili主要内容:如何划分训练集 验证集 数据读取 预处理代码在github上pytorch_classification文件夹下custom_dataset文件夹中,内有main.py my_dataset.py utils.py三个py文件先看main.py文件import osimport torchfrom ...
2021-11-01 16:56:15
3019
1
原创 ResNet网络结构
注:深度好像就是channel w*h*c根据b站up霹雳吧啦的讲解做的笔记 视频地址6.1 ResNet网络结构,BN以及迁移学习详解_哔哩哔哩_bilibiliR6.2 使用pytorch搭建ResNet并基于迁移学习训练_哔哩哔哩_bilibiliResNet网络解决梯度消失、爆炸,以及退化(我理解成随着层数的增加精度反而下降)问题网络中亮点:1超深的网络结构2提出residuaal模块...
2021-11-01 10:16:30
1352
原创 PyTorch深度学习实践-P13循环神经网络(高级篇)
用RNN做一个分类器~根据名字来判断国家18个语言地区,几千个名字,训练模型,输入新名字,然后告诉我们是使用哪种语言的人 复习:oneho通过嵌入层,然后RNN层,隐状态~做线性层,把输出映射成我们要的维度 hN是最后一个隐层 输入名字M c l e a n是一个序列,而且序列长短不一样 我们把嵌入层RNN 线性层 定义名叫RNNClassifier 主循环: if __name__ == '__main__': #N_C..
2021-10-26 21:34:08
538
原创 PyTorch深度学习实践-P12循环神经网络
Basic RNN 是神经网络的一种DNN dense 稠密网络,deep 深网络 有很多线性层 x1,x2,x3x4...是数据样本的不同特征 quan'lian'e'ji'cen
2021-10-26 16:44:50
300
原创 PyTorch深度学习实践-P2线性模型
1dataset 2model 3training 4infering 假设数据集如下 模型知道输入值对应的输出值,就叫监督学习,模型可以根据输出和预测之间的差异对模型进行调整 数据集一般分为训练training集 可以看到(x,y)、测试test集只能看到x,若数据较少则把数据集分为两份,一份训练,一份评估~开发集Dev 线性模型: w系统随机猜测损失函数: MSE均方误差: 得到结果 w=2时,损失最小 完整代码:#线性模型...
2021-10-25 20:13:15
295
原创 PyTorch深度学习实践-P11卷积神经网络(高级篇)
复习此网络结构与LeNet5很像,LeNet-5是Yann LeCun在1998年设计的用于手写数字识别的卷积神经网络,是早期卷积神经网络中最有代表性的实验系统之一。参考资料:https://blog.youkuaiyun.com/strint/article/details/44163869GoogLeNet:不是串行结构的CNN蓝色:卷积,红色:池化,黄色:softmax,other:拼接或者其他 减少代码冗余:函数/类,图中蓝蓝红 四个蓝 重复多次,考虑变成一块 蓝蓝红 四个蓝叫 Incept
2021-10-25 19:39:01
1525
1
原创 PyTorch深度学习实践-P10卷积神经网络
复习:上一节的全连接神经网络任意两个节点之间都有权重全连接层处理图片时丢失了部分空间信息,因为为它把输入直接连成了一长串,但没有考虑他们在图片中的位置处理图像时常用的二维卷积神经网络:考虑输入输出维度,做空间变换工作方式:输入图像1*28*28的张量 c*w*h卷积层:保留图像的空间特征feature maps:卷积之后,依然是三维张量,得到了4*24*24的图像 通道变了 高度宽度变了feature maps:2*2下采样之后得到了4*12*12的图像,使...
2021-10-25 11:20:13
1241
原创 PyTorch深度学习实践-P8加载数据集
Dataset and DataLoaderdatase用来构造数据集,数据集应该支持索引 ,dataloader用来拿出一个mini-batch来供训练时快速使用。复习:用全部batch,可以提升计算速度,可以使用CPU、GPU的并行能力,在处理性能上会较慢 使用一个样本来随机梯度下降,可以帮助我我们跨过鞍点,但会导致优化时间过长,一个样本本没法使用并行计算能力,数据上下有关联 使用mini-batch平衡性能和时间的需求对于epoch、batch-size、iterations的定义:
2021-10-24 18:17:02
521
原创 PyTorch深度学习实践-P9多分类问题
在Mnist数据集中,我们要得到的输出是0-9,共有十类,这种情况下我们希望输出0-9的概率都大于0,且和为1是最后一层线性层的输出,损失函数:LOSS=-Y*logY_hatNLLLoss:nagative log likelihood loss输入一个 y是真实标签,另一个输入要求是softmax之后求对数实现过程:在PyTorch中,交叉熵损失全部封装成了Torch.nn.CrossEntropyLoss()要求y是长整形张量LongT...
2021-10-24 18:16:32
417
原创 《PyTorch深度学习实践》-P7处理多维特征的输入
一行一样本sample,一列一特征featurediebetes dataset数据集在Anaconda/Lib/sit-packages/sklearn/datasets/data/diabetes_data和diebetes_target多维logistic回归模型(下标特征维度,上标样本)mini-batch(N samples)将运算向量化,变成矩阵 ,这样就可以利用GPU的并行运算能力~而不用for循环来算z1,z2,z3torch.nn.Linear(8,1)..
2021-10-21 19:55:23
222
原创 《PyTorch深度学习实践》-P6逻辑斯蒂回归
逻辑斯蒂回归是做分类用的,输出是概率的分布复习:线性回归回归与分类的区别:分类输出y_hat可以是通过的概率(【0,1】),也可以是结果,通过或挂科。分类输出为概率,在训练时,logistic要把输出值从是实数空间映射到【0,1】在pytorch中把logistic 叫做sigmoidLogstic回归模型:论文中常把logistic函数写成(x)损失函数:线性回归模型中loss=(y_hat-y)**2在几何上表示两点距离差异logi...
2021-10-21 16:09:17
172
原创 《PyTorch深度学习实践》-P5线性回归
1prepare dataset2design model using Class (计算y_hat)3consturct loss and optimizer using PyTorch API构造损失函数和优化器4training cycle (forwward backward update 前馈算损失,后馈算梯度,更新权重)广播机制:用mini-batch的方式来做线性回归第一步X、Y是3x1的tensor(张量),w是3x1的矩阵(这里可以理解为矩阵)(对应位置..
2021-10-21 11:39:59
479
原创 PyTorch深度学习实践--P4BP算法反向传播
2021.10.20线性模型 y=w*x机器学习中最重要的是让损失函数最小,求损失函数对于w的导数来更新权重pytorch中,tensor是用来存数据的,可以存标量、向量、矩阵、高阶tensortensor中包含data和grad,分别保存权重值和损失函数对权重的导数建立了tensor就可以去建立计算图用tensor需要import torch反向传播体现在l.backwardimport torchx_data = [1.0, 2.0, 3.0]...
2021-10-20 17:27:37
265
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人