
DL tips
文章平均质量分 93
深度学习学习过程中碰到的问题及解决办法。
双木的木
种一棵树最好的时间是十年前,其次是现在。
展开
-
PyTorch深度学习实践概论笔记5-课后练习2:pytorch官方教程【中英讲解】
官方链接:Learning PyTorch with Examples — PyTorch Tutorials 1.10.1+cu102 documentationAuthor:Justin JohnsonNOTEThis is one of our older PyTorch tutorials. You can view our latest beginner content in Learn the Basics.原创 2021-12-26 21:22:55 · 1595 阅读 · 0 评论 -
PyTorch深度学习实践概论笔记5-用pytorch实现线性回归
现在来看第5讲:用pytorch实现线性回归。主要会介绍nn.Module,如何构造自己的神经网络;如何构造loss函数;以及如何构造sgd优化器。0 Revision回顾之前的课程,解决问题的步骤是构造模型;损失函数;优化器。1 PyTorch Fashion1.1 pytorch版本流程1.2 Example1.2.1 Linear Regression-1.prepare dataset在这个数据集要使用mini-batch的风格,因为只有3个数据,所以都放进去。模原创 2021-12-24 16:10:02 · 2267 阅读 · 3 评论 -
PyTorch深度学习实践概论笔记4-反向传播
结下来第4讲:back propagation。这是神经网络比较重要的一个算法。关于反向传播的详细理论推荐吴恩达老师讲解:1-3 Coursera吴恩达《神经网络与深度学习》第三周课程笔记-浅层神经网络的3.10小结。0 Computer gradient in simple network回归上一讲的线性模型,看成一个比较简单的神经网络。1 What about the complicated network?对于复杂的神经网络,权重w有很多个,写具体的梯度解析式看着是几乎原创 2021-12-22 18:33:04 · 1582 阅读 · 2 评论 -
PyTorch深度学习实践概论笔记3-梯度下降算法
回忆上一讲:构建学习系统,针对我们数据集,选择了最简化的线性模型y = x*w,然后使用穷举法搜索w。但是如果纬度多起来,这个方法不太可行。那我们可以考虑分治法。分治算法比如要搜索100个点,我先把横纵坐标分成4份,先取16个点,看那一个点得到的值最接近真实值,然后在该点所在区域划分区域继续取值。但是对于非凸函数来讲,这样容易错过比较好的解。所以观察法和分治法的缺陷都比较明显,而且对于高纬度的数据集执行起来比较困难。Optimization Problem我们把原创 2021-12-21 17:58:19 · 1354 阅读 · 0 评论 -
PyTorch深度学习实践概论笔记2-线性模型
这0 前言一般而言,处理问题的步骤是:①准备数据集②模型选择设计③训练(大部分模型都需要训练,KNN不需要训练(因为推理时间长,就看新的样本跟数据集里哪一个数据特征最接近,根据训练样本决定它的类别))④应用推理一般拿到数据集,我们将其分成两个部分,训练集和测试集最简单的training方法就是人眼判断。1 Machine learning1.1 问题分析我们要面对的问题如下图:x是学生每周学习的时间,y是期末考试的分数。给出y的数据是training时原创 2021-12-19 22:15:28 · 1382 阅读 · 2 评论 -
PyTorch深度学习实践概论笔记1-概况
关于pytorch深度学习框架的学习,课程名称《PyTorch深度学习实践概论》,视频来源B站up主“刘二大人”。课程封面1首页1 前言深度学习框架学习的实践课程。第一讲介绍深度学习的概况,明确这是一个实践课,不会讲太多的数学知识,主要是讲怎么做出来。PyTorch版本:0.4,目前最新1.10,跟着课程可以用1.0,1.2,1.5的应该也行(重点:要会看文档)大学学的课程总不是最新的(有的说法说高校课程落后于企业的实际需求,其实不是这样),最主要的原因是任何一项技术的发展曲线会原创 2021-12-18 23:18:58 · 1739 阅读 · 0 评论 -
tensorflow和keras版本选择(截止2021-08-08)
最近又碰到了tensorflow和keras版本对应问题,于是就查阅文档的网址List of Available Environments - FloydHub Documentation,把对应的tensorflow+keras+python版本汇总一下,方便之后查阅。以下是FloydHub支持的深度学习环境列表。其中任何一个都可以在floyd的run命令中使用--env选项指定。如果没有提供--env选项,则默认使用tensorFlow -1.9镜像,该镜像和提前装好的Python 3.6、Ke原创 2021-08-09 13:14:53 · 8393 阅读 · 2 评论