【IR Information Research】信息检索多样化方面常见的metrics

最新推荐文章于 2025-12-29 20:13:14 发布
原创 最新推荐文章于 2025-12-29 20:13:14 发布 · 1.4k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #深度学习 #搜索引擎

信息检索（IR）旨在从海量数据中找到相关结果，面对query的不确定性，多样化任务至关重要。本文讨论了多样化评估指标α-DCG和ERR-IA，指出它们存在的问题——无法直接用于深度学习模型优化。通过sigmoid函数近似离散变量，实现了metrics的连续化。最后，提出基于Gumbel分布的随机化损失函数，适用于多query场景的深度学习优化。

文章目录

IR是什么

粗略的理解就是在海量的信息中抓取有用的那几个，最常见的应用就是搜索引擎。百度存有千亿级别的网页，而根据用户的query需要在第一页给出最符合要求的那些。
这个领域中目前的方法可以分为两类：implicit & explicit。前者主要关注于在一堆文档中进行分类，后者关注于query的信息。当然还有hybrid的一些研究方法。
在优化返回给用户的信息时，由于query通常有着不确定性，比如我搜索"apple"，有可能是想卖个肾，也可能是想吃点水果。这个时候理想的返回结果应该将二者都囊括进来。这就是今天提的多样化任务。

Metrics

  1. α − D C G \alpha-DCG α−DCG在这里插入图片描述
    对于一个已经排好的序列与qeury，首先把query分为m个可能的sub-topic，类似苹果公司与水果苹果。有n个网页根据某种算法排了个序， r i r_i ri​指第i篇文档的排名(rank)， y i l y_{il} yil​表示第i篇网页是否涵盖了第l个sub-topic， c i l c_{il} cil​表示排名靠前的文档中有多少对sub-topic l已经覆盖到了，
最低0.47元/天 解锁文章
Petersburg
关注
LLM在信息检索领域的技术创新
AI天才研究院
12-03 1203
《LLM在信息检索领域的技术创新》 关键词: 语言模型 信息检索 大规模预训练 深度学习 自然语言处理 个性化检索 跨语言检索
信息检索——常见名词缩写汇总
榕城候佳人的博客
02-13 1431
IR——Information Retrieval，信息检索。
利用向量的多样性重排-DALETOR-Diversification-Aware Learning to Rank using Distributed Representation
weixin_42536121的博客
08-27 408
目前多样性一般是基于seq2seq的方式进行，在选定top n-1的基础上，选择第n个doc。但是，这会造成需要考虑的排序list情况很多，所以通常采用数据采样的方式来解决，但这会降低学习效果。
CVPR2019论文列表（中英对照）
dovings的博客
07-04 1万+
CVPR论文列表，中英对照
【CVPR2019】完整论文列表二
TomRen
06-11 8314
CVPR 2019 Paper list[1001-1294] CVPR2019 完整列表一 论文题目与链接 Semantic Component Decomposition for Face Attribute Manipulation R3 Adversarial Network for Cross Model Face Recognition Disentan...
评估指标（Metric）（一）
weixin_49346755的博客
10-16 1652
也称为真阳性率）是指实际为阳性的样本中，判断为阳性的比例（例如真正有生病的人中，被医院判断为有生病者的比例），计算方式是真阳性除以真阳性+假阴性（实际为阳性，但判断为阴性）的比值（能将实际患病的病例正确地判断为患病的能力，即患者被判为阳性的概率）。，也称为真阴性率）是指实际为阴性的样本中，判断为阴性的比例（例如真正未生病的人中，被医院判断为未生病者的比例），计算方式是真阴性除以真阴性+假阳性（实际为阴性，但判断为阳性）的比值（能正确判断实际未患病的病例的能力，即试验结果为阴性的比例）。
Elasticsearch(8) --- 聚合查询(Metric聚合)
a8892117的博客
09-21 1157
Elasticsearch(8) --- 聚合查询(Metric聚合) 在Mysql中，我们可以获取一组数据的 最大值(Max)、最小值(Min)。同样我们能够对这组数据进行 分组(Group)。那么对于Elasticsearch中 我们也可以实现同样的功能，聚合有关资料官方文档内容较多，这里大概分3篇或者4篇博客写这个有关Elasticsearch聚合。 官方对聚合有四个关键字: M...
信息检索领域的前沿话题与挑战
信息检索(IR)作为计算机科学的一个重要分支，涉及从大量数据集中检索所需信息的技术与方法。Chengxiang Zhai在其概览性演讲中，可能介绍了信息检索的基本概念、发展历程、关键技术和应用领域。这包括了文档集合的...
经典信息检索外文电子图书资源汇编
3. **《Information Retrieval Data Structures & Algorithms》**：专注于信息检索领域的数据结构和算法，这方面的知识是实现高效的搜索系统所必不可少的。该书可能涵盖了倒排索引、布尔检索、排名算法等关键概念。 ...
metrics 指标分析
breakout_alex的博客
06-10 2019
metrics简述 Metrics可以为你的代码的运行提供无与伦比的洞察力。作为一款监控指标的度量类库，它提供了很多模块可以为第三方库或者应用提供辅助统计信息， 比如Jetty, Logback, Log4j, Apache HttpClient, Ehcache, JDBI, Jersey, 它还可以将度量数据发送给Ganglia、Graphite、grafana+Influxdb以提供图形化的监控。推荐使用grafana。 Metrics提供了Gauge、Counter、Meter、Histogram
Gulimall学习：ElasticSearch进阶聚合--Metric聚合
qq_39198749的博客
10-30 437
官方对聚合有四个关键字：Metric(指标）、Bucketing(桶）、Matrix(矩阵）、Pipeline(管道）。 1. 聚合概念 1.1 ES聚合分析是什么？ Elasticsearch除全文检索功能外提供的针对Elasticsearch数据做统计分析的功能。它的实时性高,所有的计算结果都是即时返回。 Elasticsearch将聚合分析主要分为如下4类： Metric(指标): 指标分析类型，如计算最大值、最小值、平均值等等 （对桶内的文档进行聚合分析的操作） Bucket(桶): 分
信息检索（IR）的评价指标介绍 - 准确率、召回率、F1、mAP、ROC、AUC
热门推荐
架构和代码
07-06 5万+
在信息检索、分类体系中，有一系列的指标，搞清楚这些指标对于评价检索和分类性能非常重要，因此最近根据网友的博客做了一个汇总。准确率、召回率、F1信息检索、分类、识别、翻译等领域两个最基本指标是召回率(Recall Rate)和准确率(Precision Rate)，召回率也叫查全率，准确率也叫查准率，概念公式:             召回率(Recall)      =  系统检索到的相关文件 /
rank类问题常用的评价指标
caoluguang2006的专栏
01-10 1096
1、准确率 = 被分对的样本数 / 所有的样本数 就是被分对的样本数除以所有的样本数，通常来说，正确率越高，分类器越好。 缺点：准确率这个评价指标有很大的缺陷。比如在互联网广告里面，点击的数量是很少的，一般只有千分之几，如果用acc，即使全部预测成负类（不点击）acc也有 99% 以上，没有意义。因此，单纯靠准确率来评价一个算法模型是远远不够科学全面的。 2、精确率 = 被分对的正例样本...
DVERGE快速理解
小闹钟的机器学习时间
06-22 413
DVERGE：Diversifying Vulnerabilities for Enhanced Robust Generation of Ensembles 今天看了这篇论文，大致了解了一下。先讲一下自己的理解，后半部分放翻译（可能存在错误）。 针对对抗攻击有两种常用的解决方法，第一种是对抗学习，即人为设计较小的噪声（约束，保证视觉上无法辨认）加入到图像中，让模型学习处理过的图像，从而增强图像的鲁棒性。第二种是集成学习，通过训练多个子模型，希望子模型之间能够具有互补的效果。但是研究发现在同一数据集上训练
机器学习——贝叶斯
2401_83998832的博客
12-29 829
正向概率：假设袋子里有10个白球，90个黑球，然后从袋子里面拿出1个球，拿出的球是白球的概率是多少？显然，白球的概率是1/10逆向概率：如果我们事先并不知道袋子里白球、黑球的比例，然后通过多次试验，根据拿出来的球的颜色推测袋子里白球、黑球的比例贝叶斯分类器的代码使用：朴素贝叶斯算法，中文处理classalpha=1.0参数：1.多项式分布的朴素贝叶斯。2.控制模型拟合时的平滑度定义：alpha是一个浮点数，表示添加剂（拉普拉斯/Lidstone）平滑参数。
机器学习 - Python 库
路漫漫其修远兮，吾将上下而求索
12-29 650
Python机器学习库概述：NumPy提供高效数组运算，是科学计算基础；Pandas擅长数据处理与分析；SciPy扩展科学计算功能；Scikit-learn实现主流机器学习算法；PyTorch和TensorFlow是深度学习框架；Keras提供高级神经网络API；Matplotlib和Seaborn用于数据可视化；OpenCV处理计算机视觉任务；NLTK和spaCy支持自然语言处理。这些库构成了Python强大的机器学习生态系统，覆盖数据处理、模型构建、训练评估等全流程，显著提升开发效率。
CHIPX Global 计划在马来西亚建设一座 8 英寸氮化镓/碳化硅（GaN/SiC）晶圆制造工厂
qq_28126171的博客
12-25 160
总部位于都柏林的爱尔兰 CHIPX 公司，计划于马来西亚设立一座 8 英寸氮化镓/碳化硅（GaN - on - SiC）晶圆制造工厂。CHIPX 公司宣称，其专注于 GaN - on - SiC 技术，能够制造出具备高耐压特性的功率集成电路以及光子器件。此类核心技术对于人工智能数据中心、电视以及航空航天领域的高性能系统而言，具有举足轻重的意义。除了开展工厂建设工作，CHIPX 还谋划打造一个垂直整合的平台。该平台涵盖有组织的技术转让、工程合作伙伴关系以及针对当地人才的专项培养计划等内容。
戴西软件AICrash：基于机器学习的行人保护仿真新范式
2501_94173415的博客
12-26 313
AICrash行人保护模块是戴西基于人工智能算法和行人保护法规开发出来的快速行人保护评价的解决方案。提取发罩曲率分布、厚度梯度、加强筋拓扑等300+空间参数（如图示特征热力图），构建结构化数据库。在CAxWorks.VPG平台中自动处理几何清理、网格划分、材料赋值，生成标准化的有限元模型。通过对模型特征数据的提取，建立有效的预测模型。通过机器学习的算法优化和大数据模型的训练，可以得到更加快速、便捷和可靠的分析手段。一键生成发罩HIC分布云图，自动标记超标区域（如边缘弱区），输出结构强化建议。
机器学习--SVM
最新发布
2301_77717128的博客
12-29 179
在SVM中我们不用0和1来区分，使用+1和-1来区分，这样更严格，假设超平面可以将训练的样本正确。想象你在平面上有两类点（红点和蓝点），SVM的目标是找到一条最优的。是一种经典的监督学习算法，主要用于。（这就是"最大间隔"）
深入探讨现代信息检索的IR模型
信息检索（Information Retrieval，简称IR）是计算机科学中的一个重要分支，它涉及到从大量非结构化的信息资源中检索所需信息的技术和方法。IR模型是信息检索系统中的核心组成部分，用于指导信息检索的实现，评估...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值