深度学习从入门到不想放弃-1

最新推荐文章于 2025-12-26 22:25:18 发布
原创 最新推荐文章于 2025-12-26 22:25:18 发布 · 1k 阅读 · 24 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #人工智能

本文介绍了深度学习的基础知识，包括神经元的概念、单层神经网络、感知机、全连接层和激活函数。强调了激活函数在解决非线性问题中的关键作用，并探讨了不同激活函数的选择及其应用场景。

基本功总是很香的，良好的基础才能决定上层建筑的质量和高度。

     从今天开始陆续连载一些深度学习的基础，包括概念，数学原理，代码，最近也确实没什么热点可以蹭

     先看机器学习和深度学习的对比：

Image

     "数据和特征决定了机器学习的上限，而模型与算法则是逼近这个上限而已"，机器学习和深度学习的本质区别之一是特征工程，而特征工程又是决定最终结果好坏的最重要的因素之一；上图最上面描述是机器学习的流程，如果让一个计算机理解输入的信息是一个汽车，那么需要人类做很多特征工程工作，就是提取出这个事物的一些特征信息然后交给机器去认知去处理，上图的下部分就是深度学习的领域，在深度学习领域最重要的就是它可以自动的提取数据的特征，进行处理。

Image

      机器学习和深度学习第二个最大的区别就是数据量了（当然数据质量某种程度上更关键，不在这节课讨论范围），两者需要的数据量基本上是几倍甚至几十倍几百倍的关系。由于数据量的关系，所以深度学习需要的算力和机器学习也不是一个数量级。

      那么深度学习是怎么样实现特征提取的呢？这就引入了另一个概念神经网络。

      生物脑内是如何对这个自然界的一些事件做出反应？我们学过的初高中生物应该讲过，其实是神经元在传递彼此之间

最低0.47元/天 解锁文章
周博洋K
关注
深度学习从入门到不想放弃-7
周博洋的博客
02-14 3002
它是沿什么方向达到的？因为既然是尝试求近似值，一次一次的去尝试，势必不能一次过大，容易超过损失函数的最优解（最优解为0,实际值减计算值，即y-y'），那可不可以特别的小，这个严格来说是可以的，但是这个会导致你训练收敛的速度变的过于慢，影响训练效率，这就引入了学习率的概念。我们以前讨论过，深度学习至少目前很多的方法并不是数学驱动的，而是计算驱动的，为什么通过计算驱动，主要是求得的这个函数F(x)，它是通过不断的try得到近似值，来反推出函数的各个组成部分的权重（系数），推导这些系数的方法就是梯度下降法。
深度学习从入门到不想放弃-6
周博洋的博客
01-18 1957
similar就是我们要的产品设计的相似度，d就是距离，所以我们通过分数的形式，完美诠释了反比，同时统一的相关性，因为d越大，similar就越小，d越小，similar就越大。我们先不看公式，看上图就行，就是比角，两个向量x，y夹角越大，就越不相似，夹角180度，就彻底分道扬镳了，夹角0度，可以认为两个向量就是一样的了, 夹角90度的时候两个向量叫正交。，大概意思能理解吧，就是在相似度比较的时候，d如果过大，那么s基本就平着走了，一些无关紧要的特别大的距离，就不用考虑了，因为没变化，所以说可以规避噪音。
深度学习从入门到不想放弃-3
周博洋的博客
12-10 1088
第二，好饭不怕晚，而且我尽量写的细点，要不后面的东西实话说，真的很抽象，比如算Transformer 进来个embbeding的sequence，加上自注意力后，生成的多头QKV，是怎么转置相乘的(要是今天这个章节没看懂，那这块就是读不下去了)，乘出来的东西又怎么进残差，怎么做Layer Normal，为什么要再进2层FFN，又为什么只有第一层有激活，第二层不激。这里其实不可避免的引入了另一个概念，Tensor的连续性（contiguous），那么什么是Tensor的连续性，我们用下图说明。
深度学习从入门到不想放弃-4
周博洋的博客
12-13 1283
因为我们做深度学习不太可能就一个自变量，所以要求偏导数，偏导数就是多个自变量，比如 Z=f(x，y), 而自变量y固定 这时它就是x的一元函数，这函数对x的导数，就称为二元函数Z对x的偏导数。比如下图，不管你是什么图形，比如这个向上的曲线就是y=x^2的一部分，我可以把它和x轴围成的线用若干个矩形表示，矩形越小，然后把许多个矩形加起来，就越和真实的面积拟合。也叫微积分基本定理。相反的如果你固定了x，那就是对y求偏导数了，以上讲的都是一阶偏导数，实际的计算中，一阶二阶都有，这里就不展开了，就知道概念就行。
003 卷积神经网络（CNN）-- 原理到实践
yy_xzz的博客
12-25 731
卷积操作：局部连接，权重共享池化操作：降维，增加平移不变性经典架构现代技巧：批归一化，Dropout，残差连接实践应用：图像分类，特征可视化# 尝试设计一个用于MNIST的CNN# 你的设计pass# 前向传播pass。
Day46
m0_70488789的博客
12-26 99
作业：手动构造类似的数据集（如cosx数据），观察不同的机器学习模型的差异。4. 经典机器学习在序列任务上的劣势；# DAY 46 序列预测任务介绍。b. 多步预测的2种方式。2. 序列数据的处理：滑动窗口。3. 多输入多输出任务的思路。
Monodepth：基于左右一致性的无监督单目深度估计，单目估计的起步-k学长深度学习专栏
12-23 926
Monodepth是一种创新的单目深度估计方法，通过无监督学习实现深度预测。其核心思想是将深度估计转化为图像重建问题，利用双目相机的左右图像进行训练，无需真实深度标注。方法采用编码器-解码器结构预测视差图，并通过三种关键损失函数（外观匹配损失、视差平滑损失和左右一致性损失）来优化模型性能。最大的创新点是引入左右一致性约束，使模型能更准确地理解场景的几何结构。相比传统方法，Monodepth降低了数据获取成本，提高了深度预测的可靠性，适用于自动驾驶、AR/VR等多个领域。
Day44 简单 CNN 实战
最新发布
W020419的博客
12-26 239
将卷积输出展平成向量，接 1~2 层全连接 + Dropout，输出 10 维 logits。：BatchNorm 稳定分布、Dropout 降低 co-adaptation。这些中间输出就是“特征图”，可借助 Grad-CAM 等方法做可视化解释。第 3 个卷积块：池化后得到 128×4×4，展平即 2048 维向量。第 1 个卷积块：保持尺寸，池化后得到 32×16×16；第 2 个卷积块：池化后得到 64×8×8；提取多尺度特征并逐步减小空间维度。
Day 45 简单CNN@浙大疏锦行
qq_35619695的博客
12-22 788
探究修改卷积神经网络（CNN）的深度与宽度，以及改变学习率调度器对模型训练效果的影响。
【AI课程领学】第四课1/3：CNN 基本组件与操作——卷积/步幅/填充/池化/归一化/激活/感受野（含 PyTorch + NumPy）
2401_89898861的博客
12-25 1493
【AI课程领学】第四课1/3：CNN 基本组件与操作——卷积/步幅/填充/池化/归一化/激活/感受野（含 PyTorch + NumPy）
基于山羚羊优化的LSTM深度学习网络模型(MGO-LSTM)的一维时间序列预测算法matlab仿真
熟悉python,matlab,C,C++,JAVA等
12-26 261
摘要：本文提出一种基于山羚羊优化算法(MGO)的LSTM超参数优化方法，用于时间序列预测。该方法利用MGO自适应搜索LSTM最优隐含层神经元数量，以最小化预测误差。程序在MATLAB2022A/2024B中实现，包含数据预处理、MGO优化、LSTM训练与预测等模块。MGO-LSTM模型通过模拟山羚羊群体智能行为进行全局寻优，克服传统方法的局部最优问题。实验结果显示，该方法能有效提升LSTM预测精度，适用于一维时间序列分析任务。
高级LSTM架构在量化交易中的特殊入参要求与实现
木头大左的博客
12-25 673
本代码实现了基于长短期记忆网络（LSTM）的量化交易策略，通过处理时间序列金融数据预测未来价格走势。主要风险包括过拟合问题、非平稳时间序列导致的梯度消失、以及市场黑天鹅事件引发的异常波动。对于高频交易场景，采用5-30分钟级别的K线数据时，建议设置timesteps=64-128；该实现方案已在CME集团黄金期货(GC)合约上完成实证测试，2018-2023年期间实现年化收益18.7%，夏普比率1.93，最大回撤9.2%。需要注意的是，实际应用中应根据具体交易品种调整参数范围，并建立严格的风控体系。
【深度学习】 循环神经网络
PANSS__的博客
12-22 816
RNN。
一、RNN基本概念与数学原理
m0_54291751的博客
12-22 649
维度匹配：注意PyTorch中RNN的输入输出维度要求隐藏状态管理：正确初始化和传递隐藏状态序列长度：合理选择序列长度平衡效果和效率梯度处理：使用梯度裁剪防止梯度爆炸。
【人工智能导论】07-学习-CNN:卷积+池化+多层堆叠，有效处理图像等结构化数据
hiliang521的博客
12-21 989
【人工智能导论】07-学习-CNN:卷积+池化+多层堆叠，有效处理图像等结构化数据
UPDP: A Unified Progressive Depth Pruner for CNN and Vision Transformer
tongxianchao的博客
12-25 839
传统的通过减少网络通道数来实现模型压缩，但在面对包含以及某些高效模块（如广泛使用的）的高效 CNN 模型时，往往难以取得理想的剪枝效果。已有的通过减少网络层数来压缩模型，但由于部分高效模型中存在，这些方法并不适用于此类结构。此外，若在子网微调阶段，会破坏原有模型权重的分布，从而阻碍剪枝后模型达到较高的性能。为了解决上述问题，本文提出了一种。该方法设计了一种，并为子网提出了。此外，我们还将该剪枝方法中。实验结果表明，在多种剪枝配置下，所提出的方法始终优于现有的深度剪枝方法。
基于深度学习的图像安全与隐私保护研究方向调研（上）
q15516221118的博客
12-23 967
从“事后鉴别”转向“事前免疫 + 事后取证”。
全连接神经网络基本概念详解：输入输入、维度理解、权重矩阵、神经元个数
qq_62634342的博客
12-26 741
全连接神经网络的输入输出通常为二维张量（batch_size × num_features），相当于处理表格数据（行=样本，列=特征）。虽然PyTorch的nn.Linear支持更高维输入（最后一维需匹配in_features），但基础场景下建议保持二维形式。图像/文本等非表格数据需先展平为二维。初学者应始终保留batch维度，避免使用一维输入。 "维度"在不同语境下含义不同： 1）张量形状维度：指数组的轴数和长度（如(3,4)是2维张量） 2）特征空间维度：指向量元素个数（如[0.1,
毕业项目推荐：90-基于yolov8/yolov5/yolo11的工程车辆检测识别系统（Python+卷积神经网络）
weixin_71667732的博客
12-26 836
本文介绍了一个基于深度学习的工程车辆智能监控系统，采用YOLOv8/YOLOv5/YOLO11算法，并集成SE注意力机制提升检测精度。系统支持图片、视频、摄像头输入的实时检测，具备UI界面，可直观展示检测结果并导出xls格式数据。功能包括单张图片识别、文件夹批量识别、视频逐帧检测、摄像头实时监控以及结果查看与导出。该系统可有效识别多种工程车辆类型，为施工安全提供智能化解决方案。文章提供了完整Python代码和使用指南，方便读者学习和应用。
机械学习怎么从入门到放弃
06-13
以下是一个从入门到放弃的建议： 1. 入门：可以从学习基础的数学知识开始，比如线性代数、概率论和统计学等，这些知识是机器学习的基础。同时，也需要掌握一种编程语言，比如Python等，以便能够实现机器学习算法。 ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值