正则化详解

最新推荐文章于 2025-11-24 21:26:24 发布
原创 最新推荐文章于 2025-11-24 21:26:24 发布 · 146 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习

博客提供了一篇深度学习相关参考文章的链接，可通过该链接https://blog.youkuaiyun.com/qq_27825451/article/details/83781270获取相关知识。
ICUD
关注
L1正则化详解
发几十块的吧
10-19 1800
L1正则化详解。
L2正则化详解
发几十块的吧
10-19 2835
L2正则化详解。
Dropout正则化详解
2401_86968005的博客
02-25 1663
Dropout通过随机屏蔽神经元实现正则化，是深度学习中最广泛使用的防过拟合技术之一。其实现简单但效果显著，尤其在全连接网络中不可或缺。合理调整保留概率 ( p ) 和层间配合，可最大化模型性能提升。
Tikhonov正则化详解
Michael的博客
02-24 7551
关于线性回归与非线性优化方向的工作，很多时候需要面对数据噪声，过拟合等问题，实测使用Tikhonov正则化可去的较好的效果。Tikhonov正则化的发音为 ti−khuh−nawf。在中文中一般写作 "提赫诺夫"。
损失函数正则化详解
weixin_71405027的博客
01-17 2308
有些朋友对正则化的原理及使用经常会混淆, 今天来跟大家详细聊一聊正则化。正则化是机器学习中一种常用的技术，它通过在模型的中引入额外的惩罚项，以降低模型的复杂度并提高其泛化能力。正则化可以帮助我们解决过拟合的问题，使得模型更好地适应未见过的数据。在线性回归等线性模型中，正则化将在损失函数中加入一个正则化项，该项会惩罚模型系数的大小。常见的正则化方法有L1正则化（Lasso回归）、L2正则化（Ridge回归）和弹性网络（Elastic Net）。控制模型的复杂度，减少过拟合的风险。
机器学习-L1、L2正则化详解
qq_44936246的博客
04-25 2113
模型产生过拟合的现象表现为：在训练集上误差较小，而在测试集上误差较大。 并且之所以产生过拟合现象是由于训练数据中存在一定的噪音，而我们为了尽可能的做到拟合每一个样本点（包括噪音），往往就会使用复杂的模型。最终使得训练出来的模型很大程度上受到了噪音数据的影响，例如真实的样本数据可能更符合一条直线，但是由于个别噪音的影响使得训练出来的是一条弯曲的曲线，从而使得模型在测试集上表现糟糕。因此，我们可以将这一过程看作是糟糕的训练集导致了糟糕的泛化误差。但仅仅从过拟合的表现形式来看糟糕的测试集（噪音多）也能导致糟糕的.
L1、L2正则化详解
weixin_30900589的博客
12-15 382
正则化是一种回归的形式，它将系数估计（coefficient estimate）朝零的方向进行约束、调整或缩小。也就是说，正则化可以在学习过程中降低模型复杂度和不稳定程度，从而避免过拟合的危险。 一、数学基础 1. 范数 范数是衡量某个向量空间（或矩阵）中的每个向量以长度或大小。范数的一般化定义：对实数p>=1， 范数定义如下： ...
L1与L2正则化详解：原理、API使用与实践指南
wyy202206174248的博客
07-14 1368
正则化是机器学习中防止模型过拟合的核心技术之一，其核心思想是通过在损失函数中添加惩罚项来约束模型参数的大小，从而控制模型的复杂度。在模型训练过程中，正则化能够有效地抑制参数值过度增长，避免模型对训练数据中的噪声和异常值过分敏感。L1正则化（Lasso回归）通过在损失函数中添加模型参数的L1范数作为惩罚项公式表示为：损失函数 + λΣ|w_i|具有特征选择的能力，可以将不重要特征的系数压缩为0适用于高维特征空间中的稀疏特征选择典型应用场景：基因选择、文本分类的特征筛选。
tikhonov正则化 matlab_4 L1和l2正则化详解（花书7.1 参数范数惩罚）
weixin_42138716的博客
01-22 4064
7.1 参数范数惩罚 许多正则化方法通过对目标函数 添加一个参数范数惩罚 ，限制模型（如神经网络、线性回归和逻辑回归）的学习能力。将正则化后的目标函数记为：其中 是权衡范数惩罚项 和标准目标函数 相对贡献的超参数。 在神经网络中，参数包括每一层仿射变换的权重和偏置，我们通常只对权重做惩罚而不对偏置做正则惩罚。精确拟合偏置所需的数据通常比拟合权重少得多每个权重会...
鱼类识别系统【最新版】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积神经网络算法
2301_78372746的博客
11-24 2001
鱼类识别系统，基于TensorFlow搭建卷积神经网络算法，通过收集了包括‘墨鱼’、‘多宝鱼’、‘带鱼’、‘石斑鱼’等在内的30种鱼类图像数据集进行训练，最后得到一个识别精度较高的模型，然后搭建Web可视化操作平台。前端后端：Django算法：TensorFlow、卷积神经网络算法具体功能系统分为管理员和用户两个角色，登录后根据角色显示其可访问的页面模块。登录系统后可发布、查看、编辑文章，创建文章功能中集成了markdown编辑器，可对文章进行编辑。
ResNet (2015)（卷积神经网络）
weixin_45556264的博客
11-23 675
它不是一个复杂的理论突破，而是一个极其优雅和有效的工程解决方案，其“大道至简”的思想深刻地影响了整个领域。直到今天，基于ResNet的架构仍然是许多视觉任务的强大基线。在ResNet出现之前，主流的认知是：网络越深，表达能力越强，性能应该越好。论文中提出了几种不同深度的ResNet变体，最著名的是ResNet-34和ResNet-50/101/152。这种下降不是由过拟合引起的，因为即使在训练集上，深层的模型误差也比浅层模型更高。这是ResNet的核心构建模块。，巧妙地解决了极深神经网络的。
Week 26: 深度学习补遗：LSTM 原理与代码复现
MCHacker的专栏
11-23 981
本周对 LSTM模型利用PyTorch进行了复现，将其实现与数学形式进行了逐条对应，清晰、重点地理解门控机制与细胞状态与其在时序场景下的应用。在 2017 年 Transformer 架构（Attention 机制）横空出世之前，LSTM 曾是序列建模（NLP、语音、时序）的绝对王者。而在 2025 年的今天，它不再是唯一的 SOTA，但依然是非常棒的轻量级选择。本周阅读了一些时序预测领域的工作，发现LSTM在时序预测领域仍然相当活跃，在本周对LSTM进行了数学原理的复习、代码的简单复现和其应用场景的分析。
生成式AI开发入门：Python实现GAN与Diffusion模型
我是 二川兄，对Web开发、GIS开发、3D模型、机器学习、面试技巧等方面都有一些涉猎~ 欢迎您加入技术交流圈！你可以在我的文章末尾找到我~
11-23 1205
# 生成式AI开发入门：Python实现GAN与Diffusion模型
【深度学习新浪潮】如何使用多模态大模型进行图片的开放词汇语义分割？
智能守恒_HengAI
11-23 170
"""加载并预处理图像""""""使用Grounding DINO检测目标边界框""""""使用SAM生成分割掩码"""# 转换图像为numpy数组# 设置SAM图像编码器# 转换边界框格式（xyxy -> yxyx，且归一化到0-1）boxes_yxyx = boxes_xyxy[:, [1, 0, 3, 2]] # SAM要求yxyx格式# 生成掩码本文提出的泛化性强：支持任意文本描述的类别分割，无需重新训练。易用性高：基于开源库构建，代码量少于200行即可落地。性能可靠。
植物识别系统【最新版】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积神经网络算法
2301_78372746的博客
11-24 724
植物识别系统，基于TensorFlow搭建卷积神经网络算法，通过对6种常见的植物叶片图片数据集（涵盖广玉兰、杜鹃、梧桐、樟叶、芭蕉、银杏六类常见植物）进行训练，最后得到一个识别精度较高的模型，然后搭建Web可视化操作平台。前端后端：Django算法：TensorFlow、卷积神经网络算法具体功能系统分为管理员和用户两个角色，登录后根据角色显示其可访问的页面模块。登录系统后可发布、查看、编辑文章，创建文章功能中集成了markdown编辑器，可对文章进行编辑。
深度学习——神经网络
最新发布
2303_80634169的博客
11-24 3311
本文梳理了深度学习中的核心网络模型及其组件。基础模型包括MLP（全连接层堆叠）、CNN（卷积结构处理图像）、RNN（循环结构处理序列）和Transformer（自注意力机制）。扩展模型涵盖跨模态融合（如CLIP）、图神经网络（如GCN）和强化学习网络（如DQN）。核心组件涉及网络层（卷积/全连接/注意力等）、激活函数（ReLU/Sigmoid等）、优化器（Adam/SGD等）、损失函数（交叉熵/MSE等）以及数据处理方法。通过系统分类和典型示例，为深度学习模型选择与设计提供参考框架。
深度学习--TensorFlow框架使用
2502_91709799的博客
11-23 423
TensorFlowTensor - 张量 - 数据Flow - 流动若不想要显示警告日志，增加代码import os图结构：数据（Tensor)+操作(Operation)
Transformer-LSTM 多变量回归预测：Matlab 实现与探索
2508_94230129的博客
11-24 648
Transformer - LSTM 这种组合模型，结合了 Transformer 在处理长序列依赖关系的优势，以及 LSTM 对时间序列数据中短期和长期依赖捕捉的能力。在多变量单输出回归任务里，它就像一个聪明的猎手，能从多个变量中“嗅出”与目标输出相关的关键信息。比如在一些复杂的经济数据预测场景中，多个经济指标（变量）共同影响着某一经济趋势（输出），这个模型就能大显身手。
Tikhonov正则化详解 MATLAB代码
01-04
### Tikhonov 正则化详解 #### 定义与原理 Tikhonov正则化是一种用于解决病态线性方程组的方法，其核心在于通过引入额外项来稳定解的过程。具体而言，在标准最小二乘问题 \( \text{min} ||Ax - b||_2^2 \) 的基础上...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值