ranker-Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning

最新推荐文章于 2025-12-18 16:27:04 发布
原创 最新推荐文章于 2025-12-18 16:27:04 发布 · 250 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#论文笔记

本文介绍了如何通过UncertaintyAlgorithm和MinExpErrorAlgorithm两种不确定性方法，实现主动学习(Active Learning)来提高大规模数据集中未标注数据的利用效率。这两种方法分别从数据的不确定性及其对模型改进的影响程度出发，挑选最有价值的数据进行人工标注。

论文Scaling Up Crowd-Sourcing to Very Large Datasets A Case for Active Learning提出两种AL算法。

  首先找到分类器θ对未标注数据的不确定程度。然后让crowd对这些数据进行标定。下边介绍两种不确定性方法。
下边的u是未标记数据，但是是指未标注数据的每一个，而不是整体。

一：Uncertainty Algorithm

这里写图片描述
这里写图片描述
第二项计算公式：
这里写图片描述
这里写图片描述
这里写图片描述

二：MinExpError Algorithm

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
  所以说MinExpError scores算法结合了，question的难度（不确定性）和这个回答能够提高我们分类器的结果的程度（影响较大的数据）。

三：附加小知识

这里写图片描述

大模型回答重排：bge-reranker-large
ZJQ的博客
10-31 1614
在自然语言处理的检索增强生成（RAG）技术领域有着重要应用。RAG 技术先检索与问题相关的信息，再基于这些信息生成回答，而bge-reranker-large在这个过程中用于对检索到的文档进行重新排序，确保与查询问题最相关的文档排在前面，从而提高语言模型生成回答的准确性和质量。
Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning-笔记
sunyao_123的博客
04-17 405
  通过Active Learning（AL）算法，找到最小的需要标注的数据进行训练，来标记未标记的数据。   AL必须满需下边的需求才能作为crowd-sourced database的默认的最优策略： Generality：算法必须能够应用到任意的分类和标记任务。因为crowd-sourced systems应用广泛。 Black-box treatment of the ...
activate learning-Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning
sunyao_123的博客
04-17 436
Active Learning Notation 本文是介绍论文Scaling Up Crowd-Sourcing to Very Large Datasets A Case for Active Learning中的AL算法。   Active learning algorithm主要由：1.一个ranker R； 2. selection strategy S；3. budget allo...
Elasticsearch：崭新的打分机制 - Learning To Rank (LTR)
Elastic 中国社区官方博客
04-22 6443
“学习排名 (Learning To Rank)” 功能处于技术预览版，可能会在未来版本中更改或删除。Elastic 将努力解决任何问题，但此功能不受官方 GA 功能的支持 SLA 的约束。：此功能是在版本 8.12.0 中引入的，并且仅适用于某些订阅级别。有关更多信息，请参阅。Learning To Rank (LTR) 使用经过训练的机器学习（ML）模型来构建搜索引擎的排名函数。通常，该模型用作第二阶段的重新排序器，以提高简单的第一阶段检索算法返回的搜索结果的相关性。
论文解读： R3：Reinforced Ranker-Reader for Open-Domain Question Answering
夏栀的博客
11-11 960
论文解读： R3R^3R3：Reinforced Ranker-Reader for Open-Domain Question Answering   开放领域问答主要目标是从开放的资源中寻找答案，在目前自动问答任务中十分关键。本文是一篇2017年AAAI会议的问答系统，其认为当前大多数的问答都是基于事先提取好的候选文本作为抽取答案的passage，而并不符合实际应用；而在实际中，需要结合信息检索方法来自主地搜索与问题相关的passage并进行答案的抽取，这一过程非常繁琐，且依赖于检索的候选passage的
Retrieval-Augmented Generation for Large Language Models: A Survey——(1)Overview
qq_19300283的博客
01-31 1554
首篇全面RAG(检索增强生成)综述, 包括RAG的概念和分类, 与ICL(in-context learning), FT(微调)的对比, RAG优化检索(retrieval), 索引(indexing), 生成(generation), 增强(augmentation)的不同方法
Langchain-Chatchat结合Active Learning提升模型表现
最新发布
weixin_42584758的博客
12-18 184
结合 Langchain-Chatchat 与主动学习，打造安全可控且持续优化的本地化知识问答系统。通过置信度评估识别盲区，引导人工标注高价值样本，实现低资源下的高效迭代。适用于对准确性与数据安全要求高的企业场景，推动知识在使用中自我进化。
ranker-frontend:Ranker的前端项目
03-22
使用和模板通过引导了该项目。 可用脚本 在项目目录中，可以运行： yarn start 在开发模式下运行该应用程序。打开在浏览器中查看它。 如果您进行编辑，则页面将重新加载。您还将在控制台中看到任何棉绒错误。...
Python库 | arg_ranker-2.6.tar.gz
03-01
《Python库arg_ranker-2.6：提升后端开发效率的利器》 在现代软件开发中，Python凭借其简洁的语法、丰富的库支持以及强大的社区成为了一个热门的开发语言，尤其在后端开发领域更是备受青睐。今天我们将探讨一个名为...
Social 11 Ranker-crx插件
04-04
《Social 11 Ranker-crx插件：提升谷歌排名的智能工具》 Social 11 Ranker-crx是一款专为谷歌搜索引擎优化（SEO）设计的Chrome浏览器扩展程序，主要面向西班牙语用户（español）。它以简洁、高效的3步流程帮助用户...
Python库 | power_ranker-1.1.0-py3-none-any.whl
04-24
资源分类：Python库 所属语言：Python 使用前提：需要解压 资源全名：power_ranker-1.1.0-py3-none-any.whl 资源来源：官方 安装方法：https://lanzao.blog.youkuaiyun.com/article/details/101784059
Deep Learning for Brain MRI Segmentation: State of the Art and Future Directions笔记
sunyao_123的博客
06-29 9534
作者： Zeynettin Akkus & Alfiia Galimzianova & Assaf Hoogi & Daniel L. Rubin & Bradley J. Erickson 时间：2017Abstract 这篇综述的目的是提供关于最近基于深度学习的分割方法对脑部MRI（磁共振成像）定量分析的概述。首先我们看一下最新用来分割脑部解剖结构和脑部损伤的深度学习框架。接下来
unet和segnet的结合-论文笔记
sunyao_123的博客
07-22 9475
U-SEGNET: FULLY CONVOLUTIONAL NEURAL NETWORK BASED AUTOMATED BRAIN TISSUE SEGMENTATION TOOL SegNet结构： 上采样使用的是maxpooling的索引。全体采用VGG16结构，两边完全对称。 该论文将SegNet 和U-Net结合起来，在SegNet引入skip connection，进行更好的...
SegAN:Adversarial Network with Multi-scale L1 Loss for Medical Image Segmentation-笔记
sunyao_123的博客
05-12 5393
这次介绍将对抗网络第一次应用到医学图像分割的文章。 作者提出用对抗网络进行分割，损失函数使用多尺度L1损失函数。该论文的判别器和生成器分别为critic network (C)和segmentor network (S)。 首先介绍一下SegAN与原始的GAN的区别。 1，损失函数的区别。经典的GAN的generator和discriminator的损失是分开的。本论文为segment...
The One Hundred Layers Tiramisu: Fully Convolutional DenseNets for Semantic Segmentation_2016
sunyao_123的博客
07-19 4342
作者：Simon Jégou Michal Drozdzal David VazquezAbstract 典型的语义分割架构由（a）一条下采样路径，负责提取粗的语义特征，再加一个（b）一条上采样路径，负责回复图像分辨率，和一个可选的后处理模块（比如，条件随机场）来精调模型预测。 最近一个新的架构DenseNets，主意来源于：如果每层直接连接其他层，就像前馈机制一样，网络会变
V-Net: Fully Convolutional Neural Networks for Volumetric Medical Image Segmentation-论文笔记
sunyao_123的博客
05-06 4144
代码开源 代码开源 方法： 说说网络结构。卷积核大小5X5。每一层增加残差学习，论文说增加残差能够加速收敛。没有使用pooling，使用卷积来降采样（核大小2x2x2，步长2）。非线性函数使用PReLu。是右边使用反卷积。左右两边通过拼接而不是相加。 卷积和反卷积如下： 每层输出特征感受眼如下： 损失函数： 本文提出一个基于dice coefficient的损失函数。两个...
Two at Once: Enhancing Learning and Generalization Capacities via IBN-Net论文笔记
sunyao_123的博客
07-31 2978
论文主要贡献有3点：1）IN学习到的是对形状变换，比如颜色，风格，虚拟的或现实的不敏感的特征，而BN是保留纹理相关的特征；2）灵活，能够用到很多的架构；3）在迁移学习的时候不需要目标领域的数据就能够提高网络的表现。 目的是：解决输入图片的外观不变性。 方法是将IN和BN结合起来，IBN-Net。 结果是：IBN-Net能够学习捕获和消除外观的变换，而保持学到的特征的区别性。 结构特性：将I...
unsupervised image segmentation by backpropagation-论文笔记
sunyao_123的博客
05-05 2765
这是一个有趣的非监督分割方法 代码短小精悍 直接说算法 1.首先对原图进行超像素分割。 2.使用卷积网络进行正向传播。网络输出100channel，输出和输入大小相同。也就是说，每个输入像素对应输出100个像素。这100个channel相当于对每个像素点进行100类的分类。通过这100个channel的输出，我们可以得到每个像素的预测类别。 3.那么我们如何得到每个像素...
The Importance of Skip Connections in Biomedical Image segmentation_2016
sunyao_123的博客
07-24 2416
作者：Michal Drozdzal， Eugene Vorontsov， Gabriel Chartrand， Samuel Kadoury and Chris Pal Abstract论文研究了在FCNs上长短跳跃连接对医学图像分割的影响。类似残差网络，作者在FCNs上增加短跳跃连接，这样网络可以做的很深（100多层）。梯度流动的观察证实了，对于一个非常深的网络，长短跳跃连接是有益的。
bge-ranker-large部署
02-27
### 部署 bge-reranker-large 模型 为了成功部署 `bge-reranker-large` 模型，需关注几个核心方面来确保模型能够高效运行并满足预期效果。 #### 1. 环境搭建 首先，创建适合的开发环境对于顺利部署至关重要。推荐使用 Python 虚拟环境管理工具如 `conda` 或者 `venv` 来隔离项目依赖项。安装必要的库文件，特别是 PyTorch 和 Transformers 库，因为这些是加载预训练模型的基础组件[^2]。 ```bash conda create --name myenv python=3.8 conda activate myenv pip install torch transformers ``` #### 2. 加载模型 接着，通过 Hugging Face 提供的 API 接口下载并实例化 `bge-reranker-large` 模型。这一步骤涉及到指定正确的模型名称以及设置设备（CPU/GPU），以便后续可以快速响应查询请求[^3]。 ```python from transformers import AutoModelForSequenceClassification, AutoTokenizer model_name = "BAAI/bge-reranker-large" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForSequenceClassification.from_pretrained(model_name).to('cuda' if torch.cuda.is_available() else 'cpu') ``` #### 3. 数据处理管道构建 针对输入文本或文档集合建立有效的预处理流程非常重要。此过程通常包括分词、编码转换等操作，目的是让原始数据适应于模型的要求格式。此外，考虑到该模型主要用于跨语言场景下的重排序任务，因此还需要特别注意不同语种之间的差异性处理。 ```python def preprocess(texts): inputs = tokenizer( texts, padding=True, truncation=True, max_length=512, return_tensors="pt" ).to('cuda' if torch.cuda.is_available() else 'cpu') with torch.no_grad(): outputs = model(**inputs) scores = outputs.logits.softmax(dim=-1)[:, 1].tolist() return list(zip(texts, scores)) ``` #### 4. 构建服务接口 最后，基于上述准备工作，可以通过 Flask/Django RESTful Web Service 或 FastAPI 等框架封装成易于调用的服务端点。这样不仅方便前端应用集成，也便于后期维护升级工作。 ```python import uvicorn from fastapi import FastAPI app = FastAPI() @app.post("/rerank/") async def rerank_texts(request: dict): texts = request.get("texts", []) ranked_results = preprocess(texts) return {"results": sorted(ranked_results, key=lambda x: x[1], reverse=True)} if __name__ == "__main__": uvicorn.run(app, host="0.0.0.0", port=8000) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值