
机器学习基础
文章平均质量分 83
一些DL+ML的基础知识点
ndwuhuangwei
这个作者很懒,什么都没留下…
展开
-
【知识点】机器学习降维方法
参考文章:打破“维度的诅咒”,机器学习降维大法好为什么数据需要降维机器模型用来帮忙预测一个目标变量,但是不一定输入图像的每一个特征都对应目标变量,这会使模型变得复杂。这里所说的降维的纬度,就是图像的特征,对于图像分类模型来说,一个像素点就是一个特征降维技术1 特征选择实用python的 scikit-learn库,使用散点图和热图来可视化不同特征的协方差,如果有高度相同的特征,就只留一个。你可能会发现,在你的数据集的25个特征中,有7个对目标变量的影响占到了95%。所以能够删除18个特征,使机原创 2021-06-28 01:57:26 · 306 阅读 · 0 评论 -
【知识点】神经网络输入归一化区别:[0, 1]和[-1, 1]
1 前置知识1.1 ReLU的单侧抑制参考:RELU的单侧抑制单侧抑制含义:relu的曲线是一个折线,在小于0的部分一直为0,而在大于0的部分是一条斜率为1的直线。单侧抑制的优点:使得部分神经元可能输出为0,相当于在本次优化中,一些神经元不参与,进而破坏了全部神经元联动优化的陷阱,使得模型更加的鲁棒。所谓破坏联动优化陷阱,我的理解是类似于Dropout(如果模型参数过多,而训练样本过少,容易陷入过拟合。过拟合的表现主要是:在训练数据集上loss比较小,准确率比较高,但是在测试数据上loss比较大原创 2021-06-08 01:38:56 · 7322 阅读 · 0 评论 -
【文献笔记】【精读】LEARNING TO PROTECT COMMUNICATIONS WITH ADVERSARIAL NEURAL CRYPTOGRAPHY
文章目录1 主要贡献1.1 背景1 主要贡献证明了神经网络可以在指定策略下保护神经网络之间的通信。1.1 背景密码学中的 attacker 有着复杂度以及成功率方面的限制。在密码学中如果一个 mechanism 能够抵御所有 attacker 的攻击,那么我们就可以说它是安全的,也就是说没有 attacker 能够从密文中提取出明文。如何使用 GAN 来保护通信?论文中如是说:In this latter context, the adversaries are neural network原创 2021-08-17 15:00:28 · 1074 阅读 · 1 评论 -
【文献笔记】【精读】Deep Learning-Based Communication Over the Air
文章地址:Deep Learning-Based Communication Over the Air文章目录1 主要贡献2 分段分析2.1 INTRODUCTION2.2 END-TO-END LEARNING OF COMMUNICATIONS SYSTEMS2.2.1 The autoencoder concept2.2.2 Challenges related to hardware implementation2.3 IMPLEMENTATION2.3.1 Two-phase training原创 2021-08-17 15:00:15 · 1597 阅读 · 1 评论 -
【文献笔记】【精读】An Introduction to Deep Learning for the Physical Layer
文章地址:An Introduction to Deep Learning for the Physical Layer其余相关blog参考:【文献学习】An Introduction to Deep Learning for the Physical LayerAn Introduction to Deep Learning for the PhysicalLayer注意,本文一些主观的看法可能是错误的,它们都会以像这样两条线的形式框出,希望读者不要被误导概述这是一篇关于深度学习方法在通原创 2021-08-09 11:31:16 · 3066 阅读 · 7 评论