自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(12)
  • 问答 (6)
  • 收藏
  • 关注

原创 爬虫心得

爬虫锻炼心得 被封ip问题 1、设置代理IP池或代理IP列表 推荐代理IP列表,直接加一行代码,随机提取IP使用,被封概率小 2、设置UA列表 构建header时从UA列表随机选取UA使用

2021-02-18 15:39:23 218

原创 pytorch学习二

动手学课程学习回顾: 2:nlp领域 机器翻译 数据预处理——分词——建立词典——载入数据集 encoder、decoder 注意力机制 输入:询问、键值对 softmax屏蔽 超二维矩阵乘法 点积注意力 多层感知机注意力 seq2seq模型 transformer cnn与rnn的区别 多头注意力基于位置的前馈网络 add and norm 位置编码 优化与估计 局部最小值,鞍点,梯度消失 凸性...

2020-02-18 19:42:52 237

原创 深度学习

近期学习内容:基础机器学习概念如过拟合与欠拟合,线性回归,优化器,梯度下降法,多层感知机等 学习基本的文本处理技术,语言模型和循环神经网络 学习中的薄弱项:softmax和多层感知机函数的概念混淆 对于各种语言模型区别的认识混响,对于细节概念的忽视 对神经网络矩阵乘法概念的模糊 部分学习笔记: random.shuffle()打乱数据 softmax:离散值预测,种类预测,适合于如图像分类任务 输...

2020-02-14 19:36:35 246

原创 手写数字识别

https://blog.youkuaiyun.com/out_of_memory_error/article/details/81414986待学

2019-05-26 13:35:38 181

原创 pytorch之优化器学习笔记

1.各种优化器的基础了解https://blog.youkuaiyun.com/weixin_40170902/article/details/80092628 梯度下降法: 1.标准梯度下降法:GD 每个样本都下降一次,参考当前位置的最陡方向迈进容易得到局部最优,且训练速度慢 2.批量下降法:BGD 不再是一次输入样本调整一次,而是一批量数据后进行调整,模型参数的调整更新与全部输入样本的代价函数的和有关,即...

2019-05-22 14:02:20 437

原创 pytorch之regularization

有时候神经网络的训练能在平时的测验中得到很好的成绩,但在大型考试中却发挥失常。这就是过拟合,神经网络不能表达除了训练数据以外的其他数据。 如何解决: 1.增加数据量 2.运用正则化。L1, L2…regularization 专门用于神经网络的正则化方法:dropout (随机失活)regularization [每次训练其中的一部分数据,随机忽略训练,反复如此使得结果不依赖某一部分特定神经元。]...

2019-05-21 21:22:25 2198

原创 pytorch学习之多层神经网络的搭建——未完成的大坑(会补的,真香)

用PyTorch实现多层网络(给代码截图参考) 引入模块,读取数据 构建计算图(构建网络模型) 损失函数与优化器 开始训练模型 对训练的模型预测结果进行评估 …还没来得及开始的我哭了 先贴代码,考完试慢慢理解八。 https://blog.youkuaiyun.com/Heitao5200/article/details/90310943(同学的代码)。。我也太不争气了 ...

2019-05-19 21:11:52 243

原创 pytorch语法学习整合

torch.linspace(-1, 1, 100) 在-1到1之间取100个数,生成的是一维数据 torch.unsqueeze(torch.linspace(-1, 1, 100), dim=1) 将一维数据变成二维,因为pytorch中只能处理二维数据 [1,2,3,4] ——一维数据 [[1,2,3,4]] ——二维数据 torch.nn.Module 其中包含很多net主模块 ...

2019-05-15 18:40:29 562

原创 pytorch学习三——pytorch实现逻辑回归与构建基本神经网络

其实之前学习贴出来的的代码就是这一块。。。而且忽略了问题是要只用numpy,我会回去补的! 1.pytorch基础实现代码 2.用putorch类实现Logistic regression,torch.nn.module写网络结构 import torch import torch.nn.functional as F from torch.autograd import Variable imp...

2019-05-15 17:07:30 370

原创 python学习

此blog为博主自己对python的学习补充 因为之前学的只有跟着小象学院(当然,他教的特别好!),但是还是好多关于python的知识点需要日积月累的了解,所以) 1.类 2.函数 –函数的参数类型 类 参考blog https://blog.youkuaiyun.com/linshuhe1/article/details/51679096 1.定义 class Test(father_class): ...

2019-05-13 21:25:46 233

原创 pytorch梯度下降法与线性回归构建简单神经模型

本课内容 1.numpy和pytorch实现梯度下降法 2..设定初始值 3.求取梯度 4.在梯度方向上进行参数的更新 5.numpy和pytorch实现线性回归 6.pytorch实现一个简单的神经网络 7.参考资料:PyTorch 中文文档

2019-05-12 20:51:02 728

原创 pytorch学习记录

从头记录pytorch学习过程(涉及太多自己的理解和瞎琢磨,如果有错欢迎指出!) 1.什么是pytorch,为什么选择pytorch? PyTorch是一个深度学习框架,pytorch的祖先是torch,torch是基于lua语言的神经网络库,但是lua语言太不普遍了,所以开发了python版本的torch,名为pytorch。但是putorch的出现并不是为了支持流行语言而对torch进行包装,...

2019-05-11 17:41:44 285

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除