LLM-DA: Data Augmentation via Large Language Models for Few-Shot Named Entity Recognition

本文是LLM系列文章,针对《LLM-DA: Data Augmentation via Large Language Models for
Few

LLM-DA:基于大语言模型的数据增强用于小样本命名实体识别

摘要

尽管大型语言模型(LLM)具有令人印象深刻的功能,但它们在信息提取任务上的性能仍然不完全令人满意。然而,他们非凡的重写能力和丰富的世界知识为改进这些任务提供了宝贵的见解。在本文中,我们提出了LLM-DA,这是一种新的基于LLM的数据增强技术,用于小样本NER任务。为了克服现有数据增强方法的局限性,这些方法会损害语义完整性,并解决LLM生成文本中固有的不确定性,我们通过在上下文和实体层面增强原始数据,利用NER任务的独特特征。我们的方法包括采用14种上下文重写策略,设计相同类型的实体替换,并结合噪声注入以增强鲁棒性。大量实验证明了我们的方法在有限数据的情况下提高NER模型性能的有效性。此外,额外的分析提供了进一步的证据,支持我们生成的数据质量超过其他现有方法的断言。

1 引言

2 提出方法

3 实验设置

4 实验设置

5 相关工作

6 结论

在本文中,我们介绍了LLM-DA,这是一种利用LLM进行小样本NER任务的数据增强方法。我们的方法利用LLM的重写能力和丰富的世界知识,有效地解决现有方法中遇到的句法或语义不一致问题。此外,我们通过在上下文和实体级别结合提示,在数据多样性和不可预测

2022-03-10-NLP文本场景的数据优化 NLP 文本场景的数据优化 @(NLP)[数据增强, 噪声] 序言 数据增强(Data Augmentation,简称DA),是指根据现有数据,合成新数据的一类方法。毕竟数据才是真正的效果天花板,有了更多数据后可以提升效果、增强模型泛化能力、提高鲁棒性等。数据增强主要在CV应用中比较常见,然而由于NLP任务天生的难度,类似CV的裁剪方法可能会改变语义,既要保证数据质量又要保证多样性,所以大家在做... 阅读详情

相关推荐

【架构实战】在使用 LLM 大模型服务过程中,怎样实现数据脱敏? 给出一个数据安全的脱敏方案:具体的方案原理,实操步骤,编程语言使用golang

本文介绍了一种数据安全的脱敏方案,包括方案原理、实操步骤和 Markdown 格式的示例代码。该方案通过对称加密算法和密钥管理技术实现数据脱敏,可以确保数据在处理过程中的安全性和隐私性。在实际使用中,您需要根据自己的需要选择合适的加密算法和密钥管理技术,并将密钥保存在安全的位置,以确保数据的安全性。

AI天才研究院 1万+

具身智能【2026-01】:Being-H0.5【VLA + Flow Matching】【MoT+MoE架构】【UniHand2.0数据集:4 亿个样本/35000小时 】

BeingBeyond Teamhttps://research.beingbeyond.com/being-h05Real-World Deployment Figure 1: Being-H0.5 at a Glance. We scale human-centric robot learning with Being-H0.5 toward cross-embodiment generalization. We introduce UniHand-2.0, a large-scale corpus

u013250861的博客 256

Distilling Named Entity Recognition Models for Endangered Species from Large Language Models

自然语言处理(NLP)从业者正在利用大型语言模型(LLM),在不具备特定领域知识的情况下,从专利、论文和论文等半结构化和非结构化数据源创建结构化数据集。与此同时,生态专家正在寻找各种方法来保护生物多样性。为了促进这些努力,我们专注于濒危物种,并通过上下文学习,从GPT-4中蒸馏知识。实际上,我们通过两个阶段的过程为命名实体识别(NER)和关系提取(RE)创建了数据集:1)我们从四类濒危物种的GPT-4中生成了合成数据,2)人类验证了合成数据的事实准确性,得到了黄金数据。

c_cpp_csharp的专栏 302

工业组态软件Intouch(单机版)入门{第一篇}

通俗来讲Intouch就是一个能将PLC里的信号显示在画面上的软件。

weixin_41571357的博客 1万+

虚拟机ubuntu22.04.3中安装vitis2024.1注意事项

虚拟机ubuntu安装vitis2024.1

qq_52033578的博客 2497

Zynq裸机调试RTL8211FS网卡踩坑记:从ping不通到完美兼容的完整代码修改

本文详细记录了在Zynq平台上使用Xilinx SDK(XSDK)调试RTL8211FS网卡的完整过程,从最初的ping不通问题到最终实现完美兼容的解决方案。通过分析PHY芯片的寄存器配置差异,提供了关键代码修改和调试技巧,帮助开发者快速解决类似问题。

weixin_42550597的博客 422

XILINX偶然加载不成功的问题原因及解决方法

本文为明德扬原创文章,转载请注明出处! 一、项目背景 明德扬(MDY)在2021年承担了多个基于XILINX芯片的研发项目,包括VPX网络透明传输项目(芯片为XC7K325T-2FBG900)、某高端测试仪项目(芯片为XCKU060-FFVA1156)、某网闸设备项目(芯片为XC7Z030-FBG676)等,另外,明德扬自研了基于XC7K325T-2FBG900和基于XC7K410T-2FBG900芯片的核心板,在XILINX研发领域拥有丰富的经验。即使拥有丰富经验和积累,每个新项目我们均...

6036

matlab 图像合成_用MATLAB做图像合成加雾的处理

众所周知,现在有很多算法来对图像进行去雾处理。但反之,对图像增加雾的代码却少之又少,本代码就是基于Matlab实现了对图像的加雾处理。该方法可用做雾天图像的合成数据集。代码公开如下:clear;clc; % close all; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%i...

weixin_35719260的博客 2060

GD32F4系列定时器正交译码器实战:用TIMER1读取旋转编码器信号(附完整代码)

本文详细介绍了GD32F4系列定时器正交译码器的实战应用,重点讲解如何使用TIMER1模块高效读取旋转编码器信号。内容涵盖硬件连接、定时器配置、方向判断与速度计算等关键环节,并提供了完整的代码实现和优化建议,帮助开发者快速掌握GD32微控制器在工业控制和消费电子领域的编码器接口设计。

weixin_29169505的博客 201

JavaScript 书签脚本实战:腾讯/优酷/爱奇艺等5大视频站m3u8链接一键提取

本文详细介绍了如何使用JavaScript书签脚本一键提取腾讯视频、优酷、爱奇艺等五大视频平台的m3u8流媒体链接。通过分析播放器内部对象结构,开发者可以高效获取视频源文件,避免录屏画质损失。文章包含各平台适配方案、实战增强功能开发及企业级解决方案设计,帮助用户快速掌握这一实用技术。

weixin_27945229的博客 615

YOLO系列算法改进 | 自研篇 | C3k2融合Circulant Attention注意力模块 | 给局部特征提取器装上了全局动态卷积核,兼顾效率、精度与泛化能力!| AAAI 2026

YOLO系列算法改进 | 自研篇 | C3k2融合Circulant Attention注意力模块 | 给局部特征提取器装上了全局动态卷积核,兼顾效率、精度与泛化能力!| AAAI 2026 (以YOLO26最新目标检测模型为基础,融合C3k2_Circulant创新模块改进Backbone)

2502_91881744的博客 242

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

上一篇: Towards Unified Task Embeddings Across Multiple Models: Bridging the Gap for Prompt-Based LLM
下一篇: UFO: a Unified and Flexible Framework for Evaluating Factuality of Large Language Models
UnknownBody
博客等级 码龄16年 5601粉丝 4741原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值