笔记-L1、L2范数理解

ZSYGOOOD ZSYGOOOD 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 600+累计阅读 672平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄12年
关注
原创 最新推荐文章于 2026-05-29 10:33:16 发布 672 阅读 AI 写同款· GEO 优化 ›
统计学习方法—第二章 感知机（perceptron）（持续更新） 感知机（perceptron）是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别。类别分别用+1和-1二值表示。顾名思义，这个模型能通过一个“黑箱”“感知到”输入变量的属性/特点，从而将变量分类。感知机（perceptron）是监督学习的一种，监督学习的模型可分为生成模型和判别模型，其中感知机模型为判别模型。感知机模型的工作原理，我们可以简单的理解为：在二维平面里，一条直线把坐标平 阅读详情

L1、L2范数是解决机器学习问题中模型过拟合的典型方法，在模型参数空间进行限制，是机器学习建模逻辑中重要的一环。学习过程中参考链接如下（周志华西瓜书也讲得很详细）：

机器学习中的范数规则化之（一）L0、L1与L2范数 - zouxy09的专栏 - 优快云博客

(1 封私信 / 9 条消息)0 范数、1 范数、2 范数有什么区别？ - 知乎

正则化方法：L1和L2 regularization、数据集扩增、dropout

闲扯数学规划问题(1)-极大值与等高线 - 许野平的专栏 - 优快云博客

收录于
MasterWork-UCAS

当前文章被收录于：

MasterWork-UCAS
67 篇文章 1 人学习
订阅专栏 查看详情
科研|算法|论文

当前文章被收录于：

科研|算法|论文
59 篇文章 0 人学习
订阅专栏 查看详情
笔记

当前文章被收录于：

笔记
53 篇文章 0 人学习
订阅专栏 查看详情
标签
#机器学习 #L1-L2范数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
深入理解L1、L2范数 关于作者 作者小硕一枚，研究方向为机器学习与自然语言处理，欢迎大家关注我的个人博客https://wangjie-users.github.io/，相互交流，一起学习成长。 前言 说起L1、L2范数，大家会立马想到这是机器学习中常用的正则化方法，一般添加在损失函数后面，可以看作是损失函数的惩罚项。那添加L1和L2正则化后到底有什么具体作用呢？为什么会产生这样的作用？本篇博文将和大家一起去探讨L1范... 阅读详情

相关推荐

对于正则化项L1,L2范数的理解

对于正则化项L1,L2范数的理解L2范数正则化L1范数正则化L1范数正则化与L2范数正则化的作用区别L1范数正则化为什么比L2范数正则化更容易获得稀疏解 之前讲到了利用正则化项降低过拟合，这里再总结一下L1，L2这两种范数作为正则化项各自的特点及区别 L2范数正则化 在深度学习一书中，带有L2范数的正则化项的目标函数如下： 其中 wTw{w^T}wwTw=∣∣w∣∣2{||w||}^2∣∣w∣∣...

Laurel1115的博客 1813

L1、L2范数理解--Ridge以及Lasso回归

文章目录一：范数对比二：范数作用三：L0范数和L1范数之间的比较四：L1范数和L2范数的比较五：L1范数和L2范数之反向传播的理解 一：范数对比 L0范数: 指向量中非0的元素的个数。(L0范数很难优化求解) L1范数: 指向量中各个元素绝对值之和 L2范数: 指向量各元素的平方和然后求平方根 注: L0范数,指向量中非零元素的个数。无穷范数,指向量中所有元素的最大绝对值。 二：范数作用 L1范数： 可以进行特征选择，即让特征的系数变为0. L2范数： 可以防止过拟合，提升模型的泛化能力，有助于处理

qq_37534947的博客 8014

L1/2范数正则化模型修正方法在结构损伤识别中的应用

L1/2范数正则化模型修正方法在结构损伤识别中的应用，洪祖江，田福志，针对结构发生损伤时损伤参数具有稀疏性，本文基于灵敏度分析的有限元模型修正方法，提出一种结合L1/2范数正则化过程的结构损伤识�

什么叫L1范数，什么叫L2范数

在正则化中，L1范数和L2范数经常被用作正则化项的一部分，以控制模型的复杂度。L1正则化倾向于使权重稀疏（即某些权重为零），因此可以用于特征选择。L2正则化通过惩罚大的权重，有助于防止过拟合。在二维空间中，L2范数等于向量元素平方和的平方根，也可以表示为从原点到向量所在点的欧几里得距离。在二维空间中，L1范数等于向量元素的绝对值之和，也可以表示为从原点到向量所在点的曼哈顿距离。L1范数和L2范数是向量的范数（norm）的两种不同计算方式。

weixin_50531046的博客 7187

AD17入门简单教程（一）

AD17入门简单教程 我写这篇文章主要是因为最近刚学习完了AD17，想做一下总结，也希望通过自己心得的帮助一些刚入门AD17的小白。 总结一共分为两大部分，包括AD17的下载安装与汉化（文末有详细链接）、工程的创建、元器件库、PCB、走线中的常用命令介绍，文末还附有完整的PCB工程以及讲解视频。 第一部分工程的创建及元器件库常用命令 1.首先在桌面上创建一个文件夹，然后在AD17点击左上角的文件中...

qq_45433195的博客 2万+

从零开始：手把手教你设计DP接口电路（含原理图实战）

本文是一份详尽的DisplayPort接口电路设计实战指南。文章从DP接口的核心架构与HDMI的差异讲起，手把手解析了高速差分对、AUX辅助通道、热插拔检测等关键模块的原理图设计要点，并提供了一个完整的DP Source端原理图实例，最后总结了PCB布局与信号完整性的核心考量，旨在帮助硬件工程师高效、稳定地完成DP接口电路设计。

transformer2023的博客 737

L1范数和L2范数

转载自https://blog.youkuaiyun.com/rocling/article/details/90290576 https://zhuanlan.zhihu.com/p/28023308 把答案放在前面 L0范数是指向量中非0的元素的个数。(L0范数很难优化求解) L1范数是指向量中各个元素绝对值之和 L2范数是指向量各元素的平方和然后求平方根 L1范数可以进行特征选择，即让特征的系数变为0. L2范数可以防止过拟合，提升模型的泛化能力，有助于处理 condition number不好下的矩阵(数据变化

qq_44015059的博客 4662

LabVIEW vs Python：谁更适合你的ATE自动化测试系统？实测对比与选型建议

本文深入对比了LabVIEW和Python在ATE自动化测试系统中的性能表现、开发效率和应用场景，帮助工程师根据实时控制需求、数据处理复杂度及团队技能做出最优选型决策。通过实测数据和典型案例，分析两者在硬件集成、系统性能和维护成本等方面的差异，并提供混合架构实施建议。

weixin_29240711的博客 277

L1范数与L2范数的区别与联系

L1范数与L2范数的区别与联系 本文转自添加链接描述，感谢原创作者！ 目录L1范数与L2范数的区别与联系一、过拟合与正则化二、L1范数与L2范数三、从几何角度直观理解L1范数、L2范数参考链接： 一、过拟合与正则化 过拟合指的就是在机器学习模型训练过程中把数据学习的太彻底，以至于把噪声数据的特征也学习到了，这样会导致在测试的时候不能够很好地识别数据，即不能正确的分类，模型测试的时候不能够很好地识别数据，即不能正确的分类，模型泛化能力较差,也就是高方差(variance)，低偏差（bias）。例如： 　　 正

weixin_46010783的博客 4560

宇树机器人G1二次开发：导览、起始点、目的地与完整示例

通过宇树G1 SDK的导航接口，开发者可以高效地实现机器人的自主移动功能。连接 -> 设置目标点 -> 发送命令 -> 监控状态。本文提供的完整示例涵盖了从环境搭建到代码实现的全部步骤，并解释了起始点、目的地等关键概念。开发者可以在此基础上，结合多目标点巡逻、动态避障（需高级配置）等功能，构建更复杂的机器人应用。建议读者先在小范围、熟悉的平坦环境中测试，成功后再逐步扩展到更复杂的场景。

m0_52645558的博客 750

使用ST-LINK烧录stm32教程说明

使用ST-LINK烧录stm32

qq_34426854的博客 1万+

L1/L2范数

文中内容为一下博文整理而来 https://blog.youkuaiyun.com/iterate7/article/details/75443504 https://blog.youkuaiyun.com/zhaomengszu/article/details/81537197 什么是范数 范数是具有“长度”概念的函数。在向量空间内，为所有的向量的赋予非零的增长度或者大小。不同的范数，所求的向量的长度或者大小是不同的。...

qq_29053993的博客 1万+

AI编程工具深度横评2026：Claude Code × Cursor × Trae × OpenCode，7场景实测+完整免费配置

2026年AI编程工具已进入"自主Agent"时代：Claude Code以80.8% SWE-bench得分领跑编程能力，Cursor 3在用户体验和多Agent协作方面突出，GitHub Copilot保持企业市场优势。这些工具分别代表不同的使用哲学：命令行原生、IDE分支、平台集成、编辑器扩展和后起之秀。本文从开发者视角出发，通过7个真实编程场景的系统性测试，给出每款工具在具体场景下的表现评估和免费使用完整配置方案。所有代码均可直接复制运行，所有工具均有免费使用路径。

撂爪就忘的博客 5784

图像分类数据驱动、K最近邻算法、线性分类

第二个学习日，打卡，继续学习了CS231n的课程。三小节课，分别为数据驱动方法、K最近邻算法、线性分类。 笔记如下 知乎里的文章也相当不错https://zhuanlan.zhihu.com/p/20894041?refer=intelligentunit 对于K最邻近算法中的L1,L2确实可能会让人迷惑，分享一下AI界圣经“花书”《DeepLearning》中关于范数的描述 ...

qq_40816775的博客 222

【MT7628】固件开发-SDK4320添加MT7612E WiFi驱动操作说明

【MT7628】固件开发-SDK4320添加MT7612E WiFi驱动操作说明

wgl307293845的博客 2079

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用，资源的后缀为tar.gz格式的压缩包

什么是范数（norm）？以及L1,L2范数的简单介绍

什么是范数？ 范数，是具有“距离”概念的函数。我们知道距离的定义是一个宽泛的概念，只要满足非负、自反、三角不等式就可以称之为距离。范数是一种强化了的距离概念，它在定义上比距离多了一条数乘的运算法则。有时候为了便于理解，我们可以把范数当作距离来理解。 在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中...

爱喝舒化奶的博客 15万+

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料，已经经过了本人的筛选和整理，希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助！

【转】L1范数与L2范数的区别

把答案放在前面 L0范数是指向量中非0的元素的个数。(L0范数很难优化求解)。 L1范数是指向量中各个元素绝对值之和。 L2范数是指向量各元素的平方和然后求平方根。 L1范数可以进行特征选择，即让特征的系数变为0。 L2范数可以防止过拟合，提升模型的泛化能力，有助于处理 condition number不好下的矩阵(数据变化很小矩阵求解后结果变化很大)。 （核心：L2对大数，对outlier离群点更敏感！） 下降速度：最小化权值参数L1比L2变化的快。 模型空间的限制：L1会产生稀疏 L2不会。 L1会趋向

vincent_duan的专栏 1万+

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章，有部分习题没有答案，全英文复分析阿尔福斯(Ahlfors) 第三版答案

OV9734 DATASHEET，完整规格书

OV9734完整规格书，包括电气参数，尺寸规格，寄存器配置表等

L0、L1、L2范数的理解

一、什么是L1、L2、L3范数 L0范数是指向量中非0的元素的个数。(L0范数很难优化求解) L1范数是指向量中各个元素绝对值之和 L2范数是指向量各元素的平方和然后求平方根 L1范数可以进行特征选择，即让特征的系数变为0. L2范数可以防止过拟合，提升模型的泛化能力，有助于处理 condition number不好下的矩阵(数据变化很小矩阵求解后结果变化很大) （核心：L2对大数，对outlier离群点更敏感！） 下降速度：最小化权值参数L1比L2变化的快 模型空间的限制：L1会产生稀疏

weixin_45492636的博客 7767

L0范数、L1范数和L2范数的区别

我的个人微信公众号：Microstrong 微信公众号ID：MicrostrongAI 公众号介绍：Microstrong(小强)同学主要研究机器学习、深度学习、计算机视觉、智能对话系统相关内容，分享在学习过程中的读书笔记！期待您的关注，欢迎一起学习交流进步！ 知乎专栏：https://zhuanlan.zhihu.com/Microstrong Github：https://githu...

Microstrong 5万+

超简单理解L0、L1、L2范数原理及作用

本博文针对L0、L1、L2范数原理及在机器学习中作用进行了非常通俗易懂的解释，为博主了解相关概念后自我理解，相信对于看完本篇分析的读者来说对理解这几个范数作用将有较大帮助，阅读前，推荐可以先阅读下面这个博主写的更系统介绍，再看我这篇；对范数在机器学习中应用有所了解的可以直接看我这篇。

恩泽君的博客 1万+

正则化 LP、L1、L2范数

正则化的本质很简单，就是对某一问题加以先验的限制或约束以达到某种特定目的的一种手段或操作。在算法中使用正则化的目的是防止模型出现过拟合。

分享学习期间的笔记心得 3197

【什么是范数】L1、L2范数介绍

范数（Norm）是数学中用于衡量向量大小(或距离)的一种概念。在几何和代数中，范数可以提供一个向量长度或大小的量度。更正式地说，范数是一个函数，它将向量的集合映射到非负实数，满足以下性质：在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小，就好比米和尺都可以来度量远近一样当 p=2 时，它是欧几里得范数；

王尼莫的博客 4909

机器学习——L0、L1、L2范数

今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。 监督机器学习问题无非就是“minimize your error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据，而规则化参数是防止我们的...

lovejay7的博客 1万+

L0、L1、L2范数、核范数、优化与调参剖析、向量范数与矩阵范数

我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的...

欢迎关注，共同进步！ 6859

机器学习中的范数规则化之（一）L0、L1与L2范数

机器学习中的范数规则化之（一）L0、L1与L2范数 zouxy09@qq.com http://blog.youkuaiyun.com/zouxy09 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看法...

modabobo 8501
上一篇： kaggle-House Price Prediction
下一篇： 笔记-矩阵与特征值
点赞 1
评论 0
书签 书签 2
ZSYGOOOD
ZSYGOOOD
博客等级 码龄12年 113粉丝 94原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值