AD-LLM: Benchmarking Large Language Models for Anomaly Detection

最新推荐文章于 2025-11-25 12:11:01 发布
最新推荐文章于 2025-11-25 12:11:01 发布
阅读量376 收藏
点赞数 5
CC 4.0 BY-SA版权
分类专栏： LLM Daily Anomaly Detection 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/144986008

本文是LLM系列文章，针对《AD-LLM: Benchmarking Large Language Models for Anomaly Detection》的翻译。

AD-LLM：用于异常检测的大型语言模型基准测试

摘要

异常检测（AD）是一项重要的机器学习任务，具有许多实际用途，包括欺诈检测、医疗诊断和工业监控。在自然语言处理（NLP）中，AD有助于检测垃圾邮件、错误信息和异常用户活动等问题。尽管大型语言模型（LLMs）对文本生成和摘要等任务产生了强烈的影响，但它们在AD中的潜力还没有得到足够的研究。本文介绍了AD-LLM，这是第一个评估LLM如何帮助NLP异常检测的基准。我们研究了三个关键任务：（i）零样本检测，使用LLM的预训练知识在没有特定任务训练的情况下执行AD；（ii）数据增强，生成合成数据和类别描述，以改进AD模型；以及（iii）模型选择，使用LLM来建议无监督的AD模型。通过对不同数据集的实验，我们发现LLM可以在零样本AD中很好地工作，精心设计的增强方法是有用的，并且解释特定数据集的模型选择仍然具有挑战性。基于这些结果，我们概述了阿尔茨海默病LLMs的六个未来研究方向。

1 引言

2 AD-LLM前言

3 任务1：LLM用于零样本检测

4 任务2：LLM用于数据增强

5 任务3：用于AD模型选择的LLM

6 结论和未来工作

在这项工作中，我们提出了AD-LLM，这是第一个将LLM集成到NLP异常检测的三个核心方面的综合基准：检测、数据增强和模型选择。我们的结果表明，LLMs在这些任务中具有很强的潜力。在检测方面，L

了解本专栏 订阅专栏 解锁全文 超级会员免费看
LARGE LANGUAGE MODELS FOR FORECASTING AND ANOMALY DETECTION: A SYSTEMATIC LITERATURE REVIEW
c_cpp_csharp的专栏
04-12 434
这篇系统的文献综述全面考察了大型语言模型（LLM）在预测和异常检测中的应用，强调了研究的现状、固有挑战和未来的发展方向。LLM在解析和分析广泛的数据集以识别模式、预测未来事件和检测各个领域的异常行为方面表现出了巨大的潜力。然而，这篇综述确定了阻碍其更广泛采用和有效性的几个关键挑战，包括对庞大历史数据集的依赖、不同背景下的可推广性问题、模型幻觉现象、模型知识边界内的局限性以及所需的大量计算资源。
异常检测(Anomaly Detection) 原理与代码实例讲解
AI大模型应用之禅
10-02 245
异常检测, Anomaly Detection, 机器学习, Machine Learning, 数据挖掘, Data Mining, 统计学, Statistics, 监督学习, Unsupervised Learning, 算法原理, 代码实例, Python 1. 背景介绍 在
AnomalyGPT: Detecting Industrial Anomalies Using Large Vision-Language Models翻译
weixin_45625419的博客
07-11 1545
大型视觉-语言模型（LVLMs），如MiniGPT-4和LLaVA，已经展示了理解图像的能力，并在各种视觉任务中取得了显著的表现。尽管它们由于广泛的训练数据集而在识别常见物体方面拥有强大的能力，但它们缺乏特定领域的知识，并且对物体内部的局部细节理解较弱，这限制了它们在工业异常检测（IAD）任务中的有效性。另一方面，大多数现有的IAD方法只提供异常分数，并需要手动设置阈值来区分正常和异常样本，这限制了它们的实际实施。在本文中，我们探讨了利用LVLM解决IAD问题，并提出了AnomalyGPT，一种基于LVLM
ICLR 2025 | 多模态大模型能否胜任工业异常检测？MMAD基准揭示真相
Paper weekly
02-17 2041
本文由南方科技大学、腾讯优图实验室、阿尔伯塔大学、上海交通大学合作完成，已被 ICLR 2025 会议接收。完整论文、数据和代码均已开源。论文标题：MMAD: The First-Ever Comprehensive Benchmark for Multimodal Large Language Models in Industrial Anomaly Detection论文地址：https://...
Anomaly Detection系列（ICASSP2025 SUVAD论文解读）
quetalangtaosha的博客
06-28 1643
本文提出SUVAD方法，一种基于多模态大语言模型（MLLM）的无训练视频异常检测框架。该方法通过MLLM生成视频语义描述，结合大型语言模型进行异常检测，突破了传统视觉特征方法的局限性。SUVAD采用粗粒度到细粒度的分层检测机制，并设计了字幕校正、分数平滑等策略对抗MLLM幻觉问题。实验表明，SUVAD在场景泛化能力上显著优于传统方法，在五个主流数据集上实现了无训练方法的最优性能。该方法支持灵活的异常定义调整，无需重新训练模型，同时提供可解释的检测结果。未来研究将聚焦于复杂动作识别和低质量视频场景下的性能提升
时序论文速递：涵盖生成与增强、预测与因果推理、异常检测等方向！（10.01-10.10）
2501_91070801的博客
10-13 802
本周精选12篇时间序列领域前沿论文，覆盖4个时序方向：时间序列生成与数据增强，时间序列预测与因果推理，时间序列异常检测，时间序列推理与不确定性量化方向。源码和论文感兴趣的dd。
【AI视野·今日CV 计算机视觉论文速览 第272期】Fri, 20 Oct 2023
TomRen
10-24 1176
AI视野·今日CS.CV 计算机视觉论文速览 Fri, 20 Oct 2023 Totally 62 papers 👉上期速览✈更多精彩请移步主页 Daily Computer Vision Papers Putting the Object Back into Video Object Segmentation Authors Ho Kei Cheng, Seoung Wug Oh, Brian Price, Joon Young Lee, Alexander Schwing我们提出了 Cu
大语言模型在异常检测任务中的精调
AI天才研究院
03-26 1524
大语言模型在异常检测任务中的精调 作者：禅与计算机程序设计艺术 1. 背景介绍 近年来，随着大规模语言模型（Large Language Model，LLM）技术的迅速发展，这些模型在各种自然语言处理任务中展现出了出色的性能。其中，异常检测是一个重要的应用场景，可以用于检测数
AI 科普丨调研180多篇论文，这篇综述终于把大模型做算法设计理清了
2401_84204413的博客
11-08 1544
本文提供了一份最新的关于大语言模型在算法设计中应用（LLM4AD）的系统性综述。通过系统回顾这一新兴研究领域的主要贡献文献，本文不仅突出了 LLM 在算法设计中的当前状态和发展，还引入了一个全新的多维分类体系，分类了 LLM 的结合范式、搜索方法、提示词方法和应用场景。这一分类体系为学术界和工业界的研究人员提供了一个框架，帮助他们理解和使用 LLM 进行算法设计。我们还讨论了该领域当前面临的限制和挑战并提出和探讨未来研究方向来激发和指引后续研究。
Quo Vadis, Anomaly Detection? LLMs and VLMs in the Spotlight 论文阅读
weixin_44609958的博客
12-28 1703
视频异常检测（VAD）通过整合大语言模型（LLMs）和视觉语言模型（VLMs）取得了显著进展，解决了动态开放世界场景中的一些关键挑战，如可解释性、时序推理和泛化能力。本文深入回顾了2024年基于LLM/VLM的前沿方法，重点关注四个关键方面：（i）通过语义洞察和文本解释增强可解释性，使视觉异常更易于理解；（ii）捕捉复杂的时序关系，检测和定位视频帧中的动态异常；（iii）支持少样本和零样本检测，减少对大量标注数据集的依赖；
AnomalyLLM: Few-shot Anomaly Edge Detection for Dynamic Graphs using Large Language Models
c_cpp_csharp的专栏
09-17 470
检测动态图的异常边缘旨在识别明显偏离正常模式的边缘，并可应用于各种领域，例如网络安全、金融交易和 AIOps。随着时间的推移，异常边缘的类型不断涌现，每种类型的标记异常样本都很少。当前方法要么旨在检测随机插入的边缘，要么需要足够的标记数据进行模型训练，这损害了它们在实际应用中的适用性。在本文中，我们通过配合大型语言模型 （LLM） 中编码的丰富知识来研究这个问题，并提出了一种方法，即 AnomalyLLM。
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 229
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
三大空间信息焕新：辉视让酒店服务、教育通知、监所管控更智能高效
CalebLXL的博客
11-24 406
走访这些场所后我发现，系统的真正价值不在于那些炫目的屏幕，而在于它构建了一套"空间信息免疫系统"——就像人体淋巴网络般，能智能识别各区域的信息需求，精准输送"营养"，快速清除"毒素"。当我们在酒店大堂不再错过末班机场大巴，在学校走廊偶遇恰好需要的竞赛通知，甚至在高墙内获得规整的信息权时，或许该重新思考：所谓智能化，本质是对空间信息代谢效率的一次外科手术式改造。这种荒诞的割裂感，正是传统信息分发模式崩溃的缩影——直到我最近走访数家采用辉视系统的场所，才意识到我们早已进入"精准信息触达"的新纪元。
（116页PPT）关于5G和新基建赋能智慧工地整体解决方案（附下载方式）
最新发布
2501_92808811的博客
11-25 284
在整体架构方面，方案以“5G智慧工地平台”为核心，依托多类感知设备（如传感器、摄像头、AI眼镜、智能安全帽等）采集数据，通过5G网络实时回传至云平台，再借助大数据、云计算、人工智能等技术进行分析处理，最终在PC、手机、监控大屏等多终端进行可视化展示。此外，文件还详细列举了传统智慧工地子系统（如深基坑监测、升降机监控、扬尘噪音监测、智能水电计量等）的功能与部署方式，并补充了如5G企业专网、实测机器人、智慧科技体验中心等延伸应用，体现出方案的系统性与前瞻性。详细资料请看本解读文章的最后内容。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 406
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 398
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 497
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 294
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
EAGLE-2：通过动态草稿树加速语言模型推理
11-24 80
现代 Large Language Models（LLMs）的推理过程既昂贵又耗时，而 speculative sampling 已被证明是一种有效的解决方案。大多数 speculative sampling 方法（例如 EAGLE）使用静态的 draft tree，并默认 draft token 的接受率仅依赖于其位置。有趣的是，我们发现 draft token 的接受率也依赖于上下文。本文在 EAGLE 的基础上提出了，该方法引入了一种新的技术用于 draft 建模。
3d-llm: Injecting the 3d world into large language models
03-28
<think>嗯，用户想了解如何将3D世界注入大型语言模型的相关研究或实现方法。我需要先回忆一下相关的文献和技术方向。记得最近多模态大语言模型（MM-LLMs）发展很快，比如Video-LLaMA，可以处理视频和音频，但3D方面可能还比较新。 首先，可能得考虑3D数据的表示方式，比如点云、网格或者体素。然后，如何将这些数据编码成LLM能理解的嵌入向量是关键。可能需要使用3D卷积网络或者Transformer来处理这些数据。接着，跨模态对齐也是一个挑战，比如将3D结构与自然语言描述联系起来，可能需要对比学习或者交叉注意力机制。 然后，实现方法方面，可能有端到端框架，或者分阶段的训练。比如先预训练3D编码器，再和LLM结合。还有数据集的构建，现有的3D数据集如ScanNet、ShapeNet，可能需要结合文本描述来训练模型。 用户可能还关心具体的应用场景，比如机器人导航、虚拟现实中的交互，或者是3D场景问答系统。此外，技术挑战方面，计算资源、数据标注成本、模型泛化能力都是需要考虑的。 还要注意引用之前提到的资料，比如引用[1]中的单智能体系统，可能可以结合感知、决策和行动模块，将3D信息整合进去。引用[2]里的Video-LLaMA的多分支跨模态预训练框架，可能对处理3D的不同模态（如几何、纹理）有借鉴意义。 另外，用户可能需要具体的论文或项目案例，比如3D-LLM、Point-Bind等，这些可以作为例子说明当前的研究进展。最后，生成相关问题的时候，要覆盖技术难点、应用场景、数据集、评估方法等方面，帮助用户进一步探索。</think>### 如何将3D世界注入大型语言模型的研究与实现 #### 1. **核心挑战与技术方向** - **3D数据表示**：3D数据通常以点云、网格或体素形式存在，需将其编码为LLM可理解的连续向量。例如，使用基于Transformer的3D编码器（如Point Transformer[^1]）提取几何特征。 - **跨模态对齐**：需建立3D结构与自然语言描述之间的语义关联，可通过对比学习（如CLIP3D[^2]）或跨模态注意力机制实现。 - **时空建模**：动态3D场景（如机器人导航）需融合时序信息，可借鉴Video-LLaMA的多分支架构处理时空特征[^2]。 #### 2. **关键实现方法** - **3D感知编码器** 使用预训练的3D网络（如PointNet++、VoxelNet）提取几何特征： $$f_{3D} = \text{Encoder}_{\text{3D}}(P) \quad (P \in \mathbb{R}^{N \times 3})$$ 将特征投影到语言模型嵌入空间：$h_{3D} = W \cdot f_{3D} + b$，并与文本token拼接输入LLM。 - **多模态联合训练** 采用类似Flamingo的交叉注意力机制，在LLM中插入适配层： $$\text{Attention}(Q_{\text{text}}, K_{\text{3D}}, V_{\text{3D}}) = \text{softmax}(\frac{Q_{\text{text}}K_{\text{3D}}^T}{\sqrt{d_k}})V_{\text{3D}}$$ 通过指令微调优化跨模态对齐[^1]。 - **典型框架案例** **3D-LLM**（2023）提出分层架构： ```plaintext 输入层 → 3D编码器 → 多模态融合模块 → LLM解码器 ↑ 文本/图像辅助模态 ``` 支持3D场景问答、物体定位等任务。 #### 3. **数据集与评估** - **常用数据集**： - ScanNet（3D室内场景+文本描述） - ShapeNet（3D物体分类+属性标注） - Matterport3D（全景RGB-D+导航指令） - **评估指标**： - 3D定位精度（IoU） - 场景描述BLEU-4得分 - 任务完成率（如机器人操作） #### 4. **应用场景** 1. **增强现实交互**：通过语言指令操控虚拟物体 2. **机器人自主导航**：理解“请移动到红色桌子左侧” 3. **3D设计辅助**：根据文本生成/修改3D模型
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值