AD-LLM: Benchmarking Large Language Models for Anomaly Detection

本文是LLM系列文章,针对《AD-LLM: Benchmarking Large Language Models for Anomaly Detection》的翻译。

摘要

异常检测(AD)是一项重要的机器学习任务,具有许多实际用途,包括欺诈检测、医疗诊断和工业监控。在自然语言处理(NLP)中,AD有助于检测垃圾邮件、错误信息和异常用户活动等问题。尽管大型语言模型(LLMs)对文本生成和摘要等任务产生了强烈的影响,但它们在AD中的潜力还没有得到足够的研究。本文介绍了AD-LLM,这是第一个评估LLM如何帮助NLP异常检测的基准。我们研究了三个关键任务:(i)零样本检测,使用LLM的预训练知识在没有特定任务训练的情况下执行AD;(ii)数据增强,生成合成数据和类别描述,以改进AD模型;以及(iii)模型选择,使用LLM来建议无监督的AD模型。通过对不同数据集的实验,我们发现LLM可以在零样本AD中很好地工作,精心设计的增强方法是有用的,并且解释特定数据集的模型选择仍然具有挑战性。基于这些结果,我们概述了阿尔茨海默病LLMs的六个未来研究方向。

1 引言

2 AD-LLM前言

3 任务1:LLM用于零样本检测

4 任务2:LLM用于数据增强

5 任务3:用于AD模型选择的LLM

6 结论和未来工作

在这项工作中,我们提出了AD-LLM,这是第一个将LLM集成到NLP异常检测的三个核心方面的综合基准:检测、数据增强和模型选择。我们的结果表明,LLMs在这些任务中具有很强的潜力。在检测方面,L

大语言模型在异常检测任务中的精调 大语言模型在异常检测任务中的精调 作者:禅与计算机程序设计艺术 1. 背景介绍 近年来,随着大规模语言模型(Large Language Model,LLM)技术的迅速发展,这些模型在各种自然语言处理任务中展现出了出色的性能。其中,异常检测是一个重要的应用场景,可以用于检测数 阅读详情

相关推荐

异常检测(Anomaly Detection) 原理与代码实例讲解

异常检测, Anomaly Detection, 机器学习, Machine Learning, 数据挖掘, Data Mining, 统计学, Statistics, 监督学习, Unsupervised Learning, 算法原理, 代码实例, Python 1. 背景介绍 在

AI大模型应用之禅 315

AnomalyLLM: Few-shot Anomaly Edge Detection for Dynamic Graphs using Large Language Models

检测动态图的异常边缘旨在识别明显偏离正常模式的边缘,并可应用于各种领域,例如网络安全、金融交易和 AIOps。随着时间的推移,异常边缘的类型不断涌现,每种类型的标记异常样本都很少。当前方法要么旨在检测随机插入的边缘,要么需要足够的标记数据进行模型训练,这损害了它们在实际应用中的适用性。在本文中,我们通过配合大型语言模型 (LLM) 中编码的丰富知识来研究这个问题,并提出了一种方法,即 AnomalyLLM。

c_cpp_csharp的专栏 572

LARGE LANGUAGE MODELS FOR FORECASTING AND ANOMALY DETECTION: A SYSTEMATIC LITERATURE REVIEW

这篇系统的文献综述全面考察了大型语言模型(LLM)在预测和异常检测中的应用,强调了研究的现状、固有挑战和未来的发展方向。LLM在解析和分析广泛的数据集以识别模式、预测未来事件和检测各个领域的异常行为方面表现出了巨大的潜力。然而,这篇综述确定了阻碍其更广泛采用和有效性的几个关键挑战,包括对庞大历史数据集的依赖、不同背景下的可推广性问题、模型幻觉现象、模型知识边界内的局限性以及所需的大量计算资源。

c_cpp_csharp的专栏 498

「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品)

「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品)

jks212454的博客 322

从硅到氮化镓:用Sentaurus TCAD仿真GaN HEMT功率器件,我踩过的那些坑

本文分享了使用Sentaurus TCAD仿真GaN HEMT功率器件的实战经验,详细解析了从硅基到氮化镓的技术转型中遇到的五大关键挑战:材料参数设置、极化效应建模、网格划分策略、陷阱模型校准以及仿真与实测数据匹配。通过具体案例和参数优化方法,帮助工程师避开常见陷阱,提升TCAD仿真精度与效率。

weixin_28726671的博客 379

AI原生应用在UGC内容审核中的实战经验

AI原生应用(AI-Native Application)——以机器学习模型为核心驱动力,深度整合数据、算法、工程架构的完整系统——为破解这一三角难题提供了全新范式。全链路数据驱动:从数据采集、模型训练到决策优化,形成闭环自治系统,无需人工规则干预多模态深度理解:同时处理文本、图像、音频、视频等多类型内容,理解语义而非简单匹配特征自适应进化能力:通过人机协同反馈持续学习新型违规模式,模型周级迭代成为常态审核效率提升300%:单条视频审核耗时从2.3秒降至0.7秒。

AI算力网络与通信的博客 1150

Fast-LIO2轮速计融合实战:打滑检测与协方差调参避坑指南

多传感器融合是提升移动机器人定位鲁棒性的关键手段。在激光雷达与惯性测量单元(IMU)紧耦合的基础上,加入轮式编码器作为额外的速度约束,能够有效抑制长走廊、重复纹理等退化场景下的漂移。其核心原理是通过运动学模型将轮速转换为机体系速度,并作为因子引入迭代误差状态卡尔曼滤波器(ESIKF)。然而,打滑现象与协方差参数设置是融合成败的关键。本文从工程实践出发,系统梳理了传感器配置、外参标定、打滑检测策略(运动学一致性、轮速自洽性)以及观测噪声协方差R与初始协方差P0的调参方法,并给出实测参数与问题排查速查表,为在F

weixin_34159110的博客 435

3D Slicer的学习(二) 图像的分割

先对不同层级标注,然后点击Fill between slices -> Initialize -> Apply拖动层级颜色区域就会变成连续自适应的动态变化区域。如图,点击Level tracing,在图像上放置鼠标,会显示可能想要选中区域的轮廓,点击鼠标右键会将其显示为蓝色。然后点击Grow from seeds -> Initialize -> Apply,显示3D之后会自动扩展到其他位置的相同部位,从而展示整个部位。如图为copy之后,将黄色区域的颜色复制到原本的绿色区域。

tuweibazong的博客 6086

IVP 2021 UNETR: Transformers for 3D Medical Image Segmentation

动机 具有跟踪和扩展路径的全卷积神经网络(FCNNs)(如编码器和解码器),近年来在各种医学图像分割应用中显示出了突出的地位。在这些体系结构中,编码器通过学习全局上下文表示来扮演一个不可或缺的角色,该全局上下文表示将进一步用于解码器的语义输出预测。 卷积层作为FCNN的主要构造块,其局部性限制了此类网络学习长时空间依赖的能力。 在NLP领域,基于transformer的模型已经在各种任务中实现了最先进的基准。transformer中的自我注意机制使他们能够动态地突出词序列的重要特征并学习其长时依赖关系。这

smile909的博客 1979

数据分析案例-基于红米和华为手机的用户评论分析

在智能手机市场日益繁荣的今天,红米与华为手机作为国产手机品牌的佼佼者,凭借其各自独特的品牌魅力和技术实力,赢得了广泛的用户群体和高度关注。随着技术的不断进步和消费者需求的日益多样化,用户对手机的期望已不仅限于基本的通讯功能,更涵盖了性能、拍照、续航、用户体验等多个方面。因此,深入探究红米与华为手机在用户长期使用过程中的实际表现,尤其是用户评论中所反映出的真实反馈,对于理解市场需求、优化产品设计及提升用户体验具有重要意义。本实验的背景正是基于这样的市场环境和技术发展趋势。我们旨在通过收集并分析红米与华为手机的

m0_64336780的博客 1万+

【C++】DDS:FastDDS环境配置与使用示例

FastDDS环境配置与使用示例

DevFrank的博客 6511

无人机正射影像DOM孔洞修补的另一种方法并调整影像色差(附GlobalMapper24安装包(中文注册版))

之前介绍了用GlobalMapper联合PhotoShop对无人机正射影像DOM进行破洞修补,但是ps修图非常耗时,需要耐心和足够的细心。对于大面积的水域空洞,纹理特征都差不多,没必要修补得那么细致入微,本文介绍另一种直接在Global Mapper中快速修补大面积水域空洞的方法。 一、Global Mapper中检查数据 二、使用“数字化”工具,绘制需要补洞的多边形区域 三、导出绘制好的矢量区域 四、打开影像下载软件,选择影像图源 五、下载影像 六、调整影像的色差 七、合并影像并输出 八、检查结果数据

从地图看世界的专栏 1549

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

上一篇: DeepSeek-V3 Technical Report
下一篇: SepLLM: Accelerate Large Language Models by Compressing One Segment into One Separator
UnknownBody
博客等级 码龄16年 5601粉丝 4744原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值