机器学习 [合页损失函数 Hinge Loss]

gukedream gukedream 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 2.8k累计阅读 2.8k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄12年
关注
原创 最新推荐文章于 2026-09-07 14:45:05 发布 2.8k 阅读 AI 写同款· GEO 优化 ›
【深度学习】002-损失函数：MSE、交叉熵、铰链损失函数（Hinge Loss） 本文将主要讨论三种常见的损失函数：均方（MSE）损失、交叉熵损失和铰链损失。这些损失函数是在传统机器学习和深度学习模型中最常用的函数，所以本文清楚地讨论了每一个损失函数模型背后的基本理论，以及何时选择使用它们。 阅读详情

函数特性

在机器学习中，hinge loss是一种损失函数，它通常用于"maximum-margin"的分类任务中，如支持向量机。数学表达式为：

L(y)=max(0,1-\hat{y}y)

其中 \hat{y} 表示预测输出，通常都是软结果（就是说输出不是0，1这种，可能是0.87。）， y 表示正确的类别。

  • 如果 \hat{y}y<1 ，则损失为： 1-\hat{y}y
  • 如果 \hat{y}y>=1 ，则损失为：0

其函数图像如下，与0-1损失对比：

 

优化

以支持向量机为例，其模型为： \hat{y}=w\cdot x ，如果用hinge损失，其求导结果如下：

\begin{split}\frac{\partial L}{\partial w_i}=\begin{cases} -y\cdot x_i, & \text{if $\hat{y}y<1$} \\ 0, & \text{otherwise}\end{cases}\end{split}

 

变种

实际应用中，一方面很多时候我们的y的值域并不是[-1,1]，比如我们可能更希望y更接近于一个概率，即其值域最好是[0,1]。另一方面，很多时候我们希望训练的是两个样本之间的相似关系，而非样本的整体分类，所以很多时候我们会用下面的公式：

l(y,y')=max(0, m-y+y')

其中，y是正样本的得分，y’是负样本的得分，m是margin（自己选一个数）

即我们希望正样本分数越高越好，负样本分数越低越好，但二者得分之差最多到m就足够了，差距增大并不会有任何奖励。

比如，我们想训练词向量，我们希望经常同时出现的词，他们的向量内积越大越好；不经常同时出现的词，他们的向量内积越小越好。则我们的hinge loss function可以是：

l(w,w+,w-)=max(0, 1-w^T\cdot w+ + w^T\cdot w-)

其中，w是当前正在处理的词， w_+是w在文中前3个词和后3个词中的某一个词， w_− 是随机选的一个词。

 

参考

[1] Wikiwand Hinge loss

[2] 损失函数：Hinge Loss（max margin）

 

收录于
机器学习

当前文章被收录于：

机器学习
14 篇文章 2 人学习
订阅专栏 查看详情
标签
#合页损失函数 #Hinge Loss
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
损失函数Hinge Loss介绍 Hinge Loss 的特点强调决策边界的间隔，促使分类器找到一个对噪声数据较为鲁棒的决策边界。仅对误分类或距离边界太近的样本（支持向量）有非零损失，从而节省计算。通常与线性模型结合（如线性 SVM），但也可以扩展到非线性模型（如核 SVM）。在 yif(xi)=1 的位置不可导，但通常可以通过次梯度法优化。 阅读详情

相关推荐

Hinge Loss（铰链损失函数）详解：SVM 中的关键损失函数

Hinge Loss（铰链损失），是支持向量机（SVM, Support Vector Machine）中常用的一种损失函数，用于最大间隔分类。当预测结果已经正确并且与真实标签的乘积超过1时，损失为0；否则损失线性增长。这意味着模型不仅要预测对，还要“足够自信”才能不受惩罚。Hinge Loss 是支持向量机的核心损失函数，强调最大间隔分类。不同于逻辑回归的 log-loss，hinge loss 不是概率损失，但在分类效果上尤其对 margin 要求更高。适用于需要模型输出“置信度强烈倾斜”

2501_91641025的博客 916

hinge loss

在机器学习中，hinge loss作为一个损失函数(loss function)，通常被用于最大间隔算法(maximum-margin)，在网上也有人把hinge loss称为铰链损失函数，它可用于“最大间隔(max-margin)”分类，其最著名的应用是作为SVM的损失函数。而最大间隔算法又是SVM(支持向量机support vector machines)用到的重要算法(注意：SVM的学习算法有两种解释：1. 间隔最大化与拉格朗日对偶；2. Hinge Loss)。

小麦粒的Python 7790

SQL实现数据仓库ETL：分层设计、增量抽取与性能优化实践

在数据仓库建设过程中，ETL（抽取、转换、加载）是数据流转的核心环节。传统观点常将ETL与专业工具或大数据框架绑定，但在中小规模数据场景下，基于SQL的ETL方案凭借低门槛、高可维护性和直观的排错体验，成为高效且务实的选择。本文从ETL的基础概念出发，阐述数据仓库分层（ODS、DWD、DWS、ADS）中每层ETL的定位与职责，重点剖析增量抽取策略（时间戳、主键、日志）下的SQL实现方式，以及数据清洗、去重和格式化的常见写法。同时，结合真实项目经验，分享慢SQL优化技巧、任务调度依赖设计、幂等性保障和常见问题

weixin_33290540的博客 345

【损失函数】Hinge Loss 合页损失

Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。

Next_SummerAgain的博客 7922

1104全部报表版本号-银监会报表

G4B_Ⅲ（a）X1《与非中央交易对手的衍生具交易对手信用风险违约风险计算表（现期风险暴露法）（第一档）》G4B_Ⅲ（b）X1《与非中央交易对手的证券融资交易对手信用风险违约风险计算表（权重法）（第一档）》G4B_Ⅲ（a1）X2《与非中央交易对手的衍生具交易对手信用风险违约风险计算表（标准法）（第二档）》Ⅲ（a）X2《与非中央交易对手的衍生具交易对手信用风险违约风险计算表（现期风险暴露法）（第二档）》Ⅲ（a1）X1《与非中央交易对手的衍生具交易对手信用风险违约风险计算表（标准法）（第一档）》

数字化老司机 6278

Scratch离线版部署指南：解决资源缺失与页面显示异常问题

本文提供了一份详尽的Scratch离线版部署指南，旨在解决网络依赖导致的资源缺失与页面显示异常问题。通过从基础文件获取、自动化资源抓取到生产环境部署的完整流程，帮助教育工作者和开发者在无网络环境下搭建功能完整的本地Scratch编辑器，确保编程教学的顺利进行。

wine的专栏 1260

【漫话机器学习系列】076.合页损失函数（Hinge Loss）

Hinge Loss（合页损失），也叫做合页损失函数，广泛用于支持向量机（SVM）等分类模型的训练过程中。它主要用于二分类问题，尤其是支持向量机中的优化目标函数。Hinge Loss 是一种专为二分类问题设计的损失函数，它强调边际最大化，使得支持向量机（SVM）等模型不仅仅关注分类正确性，还鼓励模型产生具有大间隔的决策边界。通过这种方式，Hinge Loss 能够提高模型的泛化能力，减少过拟合的风险。

IT古董 1081

CANoe UDS $27服务DLL生成实战：从工程配置到算法修改全流程

本文详细介绍了在Vector CANoe中为UDS（统一诊断服务）的$27安全访问服务生成定制化DLL（动态链接库）的全流程。从定位官方参考工程、配置Visual Studio开发环境，到深入解析核心的GenerateKeyEx函数接口，并重点演示了如何修改和实现自定义的种子-密钥安全算法，最终完成DLL的编译、部署与CANoe集成测试，为汽车电子诊断开发提供实战指导。

star5的专栏 534

SVM 的终极视角：合页损失函数 (Hinge Loss) 与正则化

本文从损失函数和正则化视角重新解读SVM算法，揭示了SVC目标函数与Hinge Loss的内在联系。通过将约束条件转化为无约束形式，证明SVM本质上是一个使用Hinge Loss（合页损失）和L2正则化的线性分类器。这种视角不仅统一了机器学习框架，还解释了支持向量的稀疏性：当样本分类足够准确时，Hinge Loss为零，对应的梯度也为零，使得这些样本不会影响模型优化。最终将SVC目标函数转化为优雅的"经验风险+正则化"形式

colus_SEU的博客 508

映泰TB250-BTC主板魔改BIOS支持8/9代CPU实战与开机故障排查

BIOS（基本输入输出系统）是计算机硬件与操作系统之间的桥梁，负责初始化硬件和提供运行时服务。其工作原理是通过存储在主板芯片中的固件程序，在上电自检（POST）阶段完成对CPU、内存等关键组件的检测与配置。魔改BIOS的技术价值在于突破硬件限制，通过修改微码和电源管理模块，让旧平台支持新处理器，从而以极低成本实现性能跃升，在预算有限或追求极致性价比的DIY、办公和软路由等应用场景中极具吸引力。本文以映泰TB250-BTC矿板为例，详细解析了通过软刷方式刷入魔改BIOS，并重点解决了刷写后常见的“开机风扇转一

weixin_29164185的博客 404

LLC型自驱动半桥谐振变换器：电压电流变化与自然换向解析

变换器的工作状态经历了多个阶段，从模态一的关断状态，到模态二和三的电流供电状态，每个阶段都得到了合理的设计和优化。的工作原理，尤其是在半个周期内的电压和电流变化。上图 展示了该变换器在工作时的电压和电流波形，它为我们揭示了变换器如何通过精确的电流和电压控制，优化性能并实现高效能转换。，并根据负载情况调整电流和电压的工作模式，能够极大提升变换器的效率，尤其是在零电压开通和自然换向的设计中，发挥着关键作用。这意味着，电流会随着时间周期的变化，呈现典型的振荡波形，从而达到良好的电流控制。是两个关键的电流变量。

weixin_43199439的博客 279

损失函数总结以及python实现：hinge loss(合页损失)、softmax loss、cross_entropy loss(交叉熵损失)...

损失函数在机器学习中的模型非常重要的一部分，它代表了评价模型的好坏程度的标准，最终的优化目标就是通过调整参数去使得损失函数尽可能的小，如果损失函数定义错误或者不符合实际意义的话，训练模型只是在浪费时间。 所以先来了解一下常用的几个损失函数hinge loss(合页损失)、softmax loss、cross_entropy loss(交叉熵损失)： 1：hinge loss(合页损失...

adssk04484的专栏 994

聊聊蓝牙配对技术-CTKD OVER BR/EDR

摘要：本文探讨了蓝牙设备通过跨传输密钥派生（CTKD）机制实现双模连接的技术细节。研究发现，手机在连接双模耳机时优先通过BR/EDR配对，再利用CTKD派生BLE连接所需的密钥。关键条件包括：设备地址一致性、启用安全连接（Secure Connection）及禁用justworks配对方式。文章详细剖析了从BR/EDR链路密钥派生BLE长期密钥（LTK）的算法流程，重点解析了H6/H7加密函数的作用机制与安全差异。研究还通过HCI日志验证了密钥交换和加密建立的完整过程，指出蓝牙5.1版本对CTKD安全性的强

十多年蓝牙协议软件开发，擅长蓝牙协议分析 2691

深度学习基础--loss与激活函数--合页损失函数、折页损失函数；Hinge Loss；Multiclass SVM Loss

合页损失函数、折页损失函数；Hinge Loss；Multiclass SVM Loss   Hinge Loss是一种目标函数（或者说损失函数）的名称，有的时候又叫做max-margin objective。用于分类模型以寻找距离每个样本的距离最大的决策边界，即最大化样本和边界之间的边缘。   其最著名的应用是作为SVM的目标函数。 定义   在二元分类中，hinge 损失函数按以下方式定义： ...

wydbyxr的博客 1700

使用Python爬虫获取Facebook帖子和评论数据

Web爬虫是用于自动抓取网页数据的程序。它通过发送HTTP请求，获取网页的HTML源代码，再对源代码进行解析，提取所需的内容。爬虫常用于数据收集、信息提取、数据分析等应用。

2201_76125261的博客 1998

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用，资源的后缀为tar.gz格式的压缩包

机器学习中的损失函数（Loss Function）介绍、说明

损失函数损失函数介绍常见的损失函数1.对数损失函数（Logloss）2. hinge loss 合页损失函数3. exp-loss 指数损失函数4. cross-entropy loss 交叉熵损失函数5. quadratic loss 平方误差损失函数6. absolution loss (绝对值损失函数)7. 0-1 loss (0-1损失函数) 损失函数介绍 解决一个机器学习问题主要有两部分：数据和算法。 算法又有三个部分组成：假设函数、损失函数、算法优化。 损失函数： 用于计算损失的函数。在机器

weixin_44177594的博客 1万+

假人有限元模型

假人模型，车辆碰撞假人有限元模型，适合做乘员安全的研究者利用

python损失函数实现_损失函数总结以及python实现：hinge loss(合页损失)、softmax loss、cross_entropy loss(交叉熵损失)...

损失函数在机器学习中的模型非常重要的一部分，它代表了评价模型的好坏程度的标准，最终的优化目标就是通过调整参数去使得损失函数尽可能的小，如果损失函数定义错误或者不符合实际意义的话，训练模型只是在浪费时间。所以先来了解一下常用的几个损失函数hinge loss(合页损失)、softmax loss、cross_entropy loss(交叉熵损失)：1：hinge loss(合页损失)又叫Multic...

weixin_39566493的博客 1311

温度PID控制PLC程序

温度PID稳定控制程序，适用于欧姆龙PLC，对其他PLC也具有很大参考价值

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过，这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后，重新检测通过。

常见的损失函数

1、损失函数的意义 机器学习中的监督学习本质上是给定一系列训练样本 ，尝试学习 的映射关系，使得给定一个 ，即便这个 不在训练样本中，也能够得到尽量接近真实 的输出 。而损失函数（Loss Function）则是这个过程中关键的一个组成部分，用来衡量模型的输出 与真实的 之间的差距，给模型的优化指明方向。 2、回归问题的损失函数 2.1 均方差损失 均方差 Mean Squared Error (MSE) 损失是机器学习、深度学习回归任务中最常用的一种损失函数，也称为 L2 Loss。 从直觉上理.

先锋小牛 9646

svm的简明推导hinge loss

https://www.cnblogs.com/wangxiu/p/5663140.html

weixin_44523062的博客 409

机器学习常用损失函数总览：基本形式、原理、特点

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达 本文转自 | 视觉算法 机器学习中的监督学习本质上是给定一系列训练样本，尝试学习的映射关系，...

小白学视觉 473

loss function总结

hinge loss: Given an example (xi,yi)(xi,yi) (x_{i}, y_{i}), where the xixix_{i} is the image and where yiyiy_{i} is the integer label. and using the shorthand for the scores vector: s=f(xi,W）s=f(xi,...

还未出道的朱亚文的博客 337

机器学习回归与分类任务中常用的损失函数

本文介绍了机器学习中回归与分类任务常用的损失函数及其特点。回归任务常用均方误差(MSE)、绝对误差(MAE)和Huber损失，其中MSE易受异常值影响但易优化，MAE鲁棒性强但在零点不可导，Huber损失结合了两者优点。分类任务常用0-1损失、对数似然损失、合页损失和交叉熵损失，其中交叉熵最常用。文章还详细解释了决定系数R²及其衍生物调整R²，指出R²用于评估回归模型拟合优度，而调整R²通过惩罚无关特征避免过拟合。最后说明了这些指标在sklearn中的实现方式。

2401_88109715的博客 673

合页损失,铰链损失_多点铰链损失功能 使用Python的线性代数

合页损失,铰链损失Hinge Loss is a loss function used in Machine Learning for training classifiers. The hinge loss is a maximum margin classification loss function and a major part of the SVM algorithm. 铰链损失是机...

cumtb2002的博客 489

常用的损失函数（MSE、MAE、Cross-Entropy Loss、Hinge Loss、 0-1 Loss、Huber Loss）

损失函数（Loss Function）概念、特点及不同类型的损失函数及其适用场景（均方误差（Mean Squared Error, MSE）、 平均绝对误差（Mean Absolute Error, MAE）、 交叉熵损失（Cross-Entropy Loss）、Hinge Loss、0-1 Loss、Huber Loss）

m0_73684307的博客 4203

和你一起学习合页损失函数(hinge loss function)

损失函数，loss function的定义为：将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。在机器学习中，损失函数经常被当作学习准则与优化问题相联系，也就是通过最小化损失函数求解和评估模型。合页损失函数(hinge loss function)就是常见的损失函数之一，今天就给大家分享什么是合页损失函数。 一、合页损失函数简介 目标函数第一项为经验损失或经验风险，就是合页损失函数hinge loss function，其中下标“+”表示以下取正值。 我们将

zy的博客 6089
上一篇： 机器学习 [交叉熵损失函数]
下一篇： 常用工具 [ubuntu 图像编辑软件]
点赞 0
评论 0
书签 书签 3
gukedream
gukedream
博客等级 码龄12年 480粉丝 87原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值