NDCG(归一化折损累计增益)

已于 2023-03-11 21:51:00 修改
阅读量1.6k 收藏 5
点赞数 1
文章标签： 人工智能
于 2023-03-11 21:18:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_42018521/article/details/129467973
版权
NDCG是推荐系统中衡量top-k推荐效果的指标，考虑了物品相关性和位置权重。Gain表示物品相关性，CG为累计收益，DCG引入位置折损因子，IDCG是理想情况下的DCG，而NDCG则是对DCG的归一化，用于不同长度序列的比较。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

乍一看这个名字有点唬人，其实就是只纸老虎，看完本文肯定有所收获。

NDCG可作为推荐系统中top-k推荐的评测指标，顾名思义top-k推荐就是一次给用户推荐k个物品(长度为k的列表[1,2,3, ……,k])，那怎么去评价这个推荐列表的好坏呢？让我们按G-CG-DCG-IDCG-NDCG的顺序一步一步来看。

1. Gain：表示物品的相关性分数，符号为rel_{i}，推荐系统中表示推荐给用户的列表中的第i个物品，用户是否喜欢（喜欢为1，不喜欢为0）。

2. Cumulative Gain(CG)：对列表中的所有物品i的收益进行累加，符号表示为CG = \sum_{i=1}^{k}rel_{i}。这个很好理解，就是推荐给用户的列表中用户喜欢的物品的总数量，这只有数量上的意义，但其实序列中各物品排列的顺序顺序的不同，对用户的偏好也是存在影响的，所以就有了接下来的指标。

3.Discounted  Cumulative Gain(DCG)：DCG考虑了位置因素，为每一个rel_{i}都添加了一个折损值，公式如下所示。注意DCG只是简单的累加，只能用于同等长度的序列之间的比较，毕竟列表越长不一定越好是不是。

        DCG = \sum_{i=1}^{k}\frac{rel_{i}}{log_{2}(i+1))}

可见物品在列表中位置越靠前，折损值越小；越靠后，折损值越大。

4. IDCG：DCG的一种特例，物品i在列表中按rel_{i}从大到小排列即DCG最大的情况。

5. NDCG(归一化折损累计增益)：用IDCG对DCG做归一化，可用于不同长度序列之间的比较。同等长度序列之间比较，也可以实现去量纲。

       NDCG = \frac{DCG}{IDCG}

【推荐系统排序指标】CG、DCG、NDCG、Hit Rate
发现问题，并解决问题，批判性思维
05-14 2397
文章目录一、CG，累计增益 Cumulative Gain二、DCG，折损累计增益 Discounted cumulative gain三、NDCG，归一化折损累计增益 Normalized Discounted Cumulative Gain3.1 NDCG简介3.2 电影推荐的一个栗子3.3 代码实践栗子四、Hit Rate五、推荐系统评测指标Reference 一、CG，累计增益 Cumulative Gain CG表示对K个item的Gain进行累加，其中Gain表示列表中每一个item的相关性分数
搜索领域查询优化：提升搜索可扩展性的方法
最新发布
AI天才研究院
05-15 864
随着互联网数据量以每年50%的速度增长（IDC预测），搜索系统面临前所未有的挑战：如何在千亿级文档规模下实现毫秒级响应？如何支持千万级并发查询？传统单节点搜索架构在数据吞吐量、延迟稳定性、横向扩展能力上逐渐失效。本文聚焦查询处理链路优化与系统架构可扩展性设计，涵盖从底层索引结构到上层业务逻辑的全栈优化方法，适用于搜索引擎、电商搜索、企业知识图谱检索等场景。基础理论：解析搜索系统核心组件与可扩展性瓶颈算法优化：从传统统计模型到机器学习排序的演进架构设计：分布式索引、缓存策略、向量检索的工程实现实战指南。
归一化折扣累积增益 (NDCG)：返回归一化折扣累积增益-matlab开发
06-01
NDCG 的一种直接实现，一种衡量排名质量的方法，它严格遵循https://en.wikipedia.org/wiki/Discounted_cumulative_gain的定义。
《Python机器学习基础教程》第十一章推荐系统基础11.11 推荐系统评估指标：深入解析准确率、召回率、F1分数、NDCG和MAP
03-30 752
我们也可以自定义评估函数来计算这些指标。"""自定义准确率计算:param y_true: 真实标签:param y_pred: 预测标签:return: 准确率"""return 0.0"""自定义召回率计算:param y_true: 真实标签:param y_pred: 预测标签:return: 召回率"""return 0.0"""自定义F1分数计算:param y_true: 真实标签:param y_pred: 预测标签:return: F1分数"""
NDCG归一化折损累积增益
weixin_37598719的博客
06-03 1560
NDCG常用于TOP-K排序的评价指标，不仅体现了预测的TOP-K个结果是否真的相关(有无点击)，同时体现这TOP-K个结果的相对排序。 累积增益CG：推荐系统中CG表示将每个推荐结果相关性的分值累加后作为整个推荐列表的得分： CGk=∑i=1kreli​CG_k = \sum_{i=1} ^{k}rel_i ​CGk​=∑i=1k​reli​​ 其中， relir e l_ ireli​ 表示位置 iii 的预测结果的相关性，kkk 表示推荐列表的大小。 CG没有考虑每个推荐结果处于不同位置对整个推荐结果
归一化折扣累积增益
weixin_47520540的博客
08-10 747
NDCG 是用来评估搜索结果或推荐系统中结果排序质量的指标。它通过考虑相关性和位置的折扣来衡量排序的好坏，确保排名靠前的结果对用户最有价值。
推荐算法——NDCG归一化折扣累积增益
AndrewPerfect的博客
07-11 416
（Normalized Discounted Cumulative Gain），是一种常用的衡量搜索引擎和推荐系统结果质量的指标。NDCG考虑了结果的相关性和结果的排名位置，其值在0到1之间，值越大表示搜索结果质量越高。IDCG是理想情况下的DCG，即结果按相关性排序时的DCG。其计算方法与DCG相同，只不过结果列表是按相关性降序排列的。其中，relirel_ireli​ 表示结果列表中第 iii 个结果的相关性评分，ppp 是结果列表的长度。
NDCG
平平淡淡，戒急用忍，一生学闭嘴。
07-04 641
可能大家接触比较多的是MAP，MAP考虑的是0和1的排序。而NDCG则是考虑到评分的排序。说到NDCG就需要从CG开始说起。 CG（cumulative gain，累计增益）可以用于评价基于打分/评分的个性推荐系统。假设我们推荐kkk个物品，这个推荐列表的CGkCG_kCGk​计算公式如下： CGk=∑i=1kreli. CG_k=\sum_{i=1}^k \text{rel}_i. CGk​=i=1∑k​reli​. reli\text{rel}_ireli​表示第kkk个物品的相关性或者评分。
py代码-NIR-ch7--检索评估--NDCG.py
07-14
NDCG（归一化折损累积增益）是评估信息检索系统中搜索结果排名质量的一个指标。在实际应用中，我们通常希望最相关的文档出现在搜索结果的顶部。NDCG考虑了每个相关文档的位置，并对较高的位置给予更高的权重，因为...
RAG评估指标 Recall、MRR、NDCG
u010249118的博客
03-19 915
指标核心目标适用场景局限性Recall减少漏检疾病诊断、安防检测忽略误检，需与 Precision 平衡MRR优化首位结果质量导航搜索、事实查询忽略后续结果，仅关注首个命中NDCG多等级排序质量评估推荐系统、个性化搜索计算复杂，需明确相关性等级定义参考资料：Recall 的定义与目标检测应用；：MRR 的计算与搜索场景；：NDCG 的原理与代码实现。
nDCG（归一化折损累计增益） 是衡量排序质量的指标，常用于搜索引擎或推荐系统
陈开心的博客
04-30 774
是衡量排序质量的指标，常用于搜索引擎或推荐系统。。最终通过对比实际排序与理想排序的得分，得到一个0到1之间的值（越接近1，排序越好）。
评估指标及代码实现（NDCG）
weiyaner的博客
06-22 1万+
机器学习领域，推荐/搜索算法的常用评估指标，NDCG等
NDCG及其实现
热门推荐
lujiandong1的专栏
08-12 2万+
1、NDCG的目标：希望得到的排序列表，质量越高越好。并且，如果将更相关的排到更前面，那么计算得到的NDCG是会越高的。 AUC和NDCG的区别： 1、AUC的含义：把正样本排在负样本前的概率。AUC关注的是全局的排序，只要正样本排在负样本之前，就可以得分。并没有加权。 2、NDCG也是关注排序，但是NDCG关注的是，加权排序。比如我们希望top10的排序准确度，要比bottom10的排序准
NDCG的理解
weixin_44813041的博客
10-29 8159
概念 NDCG，Normalized Discounted cumulative gain 直接翻译为归一化折损累计增益，可能有些晦涩，没关系下面重点来解释一下这个评价指标。这个指标通常是用来衡量和评价搜索结果算法（注意这里维基百科中提到了还有推荐算法，但是我个人觉得不太适合推荐算法，后面我会给我出我的解释）。DCG的两个思想： 1、高关联度的结果比一般关联度的结果更影响最终的指标得分； 2、有高关联度的结果出现在更靠前的位置的时候，指标会越高； 累计增益（CG） CG，cumulative gain，是D
搜索评价指标——NDCG
Buevara的博客
11-22 5124
转载自：胖喵~的博客 概念 NDCG，Normalized Discounted cumulative gain 直接翻译为归一化折损累计增益，可能有些晦涩，没关系下面重点来解释一下这个评价指标。这个指标通常是用来衡量和评价搜索结果算法（注意这里维基百科中提到了还有推荐算法，但是我个人觉得不太适合推荐算法，后面我会给我出我的解释）。DCG的两个思想： 1、高关联度的结果比一般关联度的结果更影响最终的指标得分； 2、有高关联度的结果出现在更靠前的位置的时候，指标会越高； 累计增益（CG） CG，c
NDCG中那个返回文档列表的相关性分数是怎么给出的呢
03-08
### NDCG 计算方法 为了衡量返回文档列表的质量，可以采用归一化折损累积增益 (Normalized Discounted Cumulative Gain, NDCG)，这是一种广泛应用于信息检索和推荐系统的评估指标。该度量考虑了排名位置的影响以及各个项目的相关性得分。 假设有一个查询对应的理想排序结果为 `[A, B, C]` 并且已知各项目的真实相关程度分别为 `rel(A)=3`, `rel(B)=2`, 和 `rel(C)=1`。如果系统给出的实际排序结果是 `[B, A, C]` 或者其他顺序，则可以通过下面的方法来计算其 DCG 值： #### 折损累积增益（Discounted Cumulative Gain） 对于给定的一个查询 q 的第 i 位上的文档 d_i ，定义其贡献值为: \[ \text{gain}(d_{i})=\left\{\begin{array}{ll} 2^{\operatorname{rel}\left(d_{i}\right)}-1 & , \mathrm{i}>0 \\ \operatorname{rel}\left(d_{i}\right) & , \mathrm{i}=0 \end{array}\right.\] 其中 rel(di) 表示文档 di 对于当前查询的相关等级[^3]。 因此，在位置 k 处的累计收益可表示为： \[ \mathrm{DCG}_{k}=\sum_{i=1}^{k} \frac{\text { gain }(d_{i})}{\log _{2}(i+1)} \] 这里引入了一个对数函数作为折扣因子，用来惩罚那些排在较后的高分项；同时保证即使两个序列中有相同的元素集合，只要它们的位置不同也会得到不同的评分。 #### 归一化的折损累积增益（NDCG） 由于实际应用中的最优排列通常是未知的，所以需要先求得理论最大可能达到的最佳情况下的 DCG 即 Ideal DCG(IDCG): \[ \mathrm{IDCG}_k = \max (\mathrm{DCG_k}) \] 最后通过将原始 DCG 除以 IDCG 来获得标准化的结果 —— 这就是所谓的 NDCG : \[ \mathrm{NDCG}_k = \frac{\mathrm{DCG}_k } {\mathrm{IDCG}_k }\] 这样做的好处是可以让不同长度或规模的数据集之间具有可比性，并且使得最终得分范围固定在 [0, 1] 内，便于直观理解。 ```python import math def dcg_at_k(r, k): """Compute the discounted cumulative gain at rank position k.""" r = r[:k] return sum((2**relevance - 1) / math.log(i + 2, 2) for i, relevance in enumerate(r)) def ndcg_at_k(r, k): """Compute Normalized Discounted Cumulative Gain (nDCG).""" idcg = dcg_at_k(sorted(r, reverse=True), k) if not idcg: return 0. return dcg_at_k(r, k) / idcg # Example usage with a list of relevances scores from most relevant to least relevances_scores_example = [3, 2, 3, 0, 1, 2] print(f"NDCG@5: {ndcg_at_k(relevances_scores_example, 5):.4f}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值