aiops-handbook与大模型结合:LLM在智能运维中的创新应用与案例

aiops-handbook与大模型结合:LLM在智能运维中的创新应用与案例

【免费下载链接】aiops-handbook Collection of slides, repositories, papers about AIOps 【免费下载链接】aiops-handbook 项目地址: https://gitcode.com/gh_mirrors/ai/aiops-handbook

aiops-handbook是AIOps领域的论文、演讲、开源库汇总手册,按照《企业AIOps实施建议白皮书》中的场景分类进行收集和展示。随着大模型技术的飞速发展,LLM在智能运维领域展现出巨大潜力,为AIOps带来了诸多创新应用与实践案例。

大模型在指标监控与分析中的应用案例

GPT4TS大模型:时序预测与异常检测的基准之作

清华大学基于GPT2开发的GPT4TS大模型是AIOps领域时序数据处理的开山之作,成为后续相关研究进展的基准。该模型在单维度和多维度指标的分类、长短期预测、异常检测等任务中表现出色,为智能运维中的指标分析提供了强大的技术支撑。

ChatTS:指标问答大模型的实践

清华裴丹团队开源的ChatTS指标问答大模型(https://github.com/NetManAIOps/ChatTS)基于qwen2.5-14B进行增量预训练和微调对齐。在预训练数据合成方面,参照evol-instruct设计了一套TS-Evol方案。指标数据在输入大模型之前,先经过一个自训练的5层MLP编码器处理,实现了指标数据与自然语言的高效交互,让运维人员可以通过自然语言查询和分析复杂的指标数据。

MonitorAssistant:LLM助手提升指标监控效率

微软与清华发表的MonitorAssistant在指标监控和标注流程中引入LLM助手。新指标上线时,LLM助手可推荐配置参数;指标告警时,除考虑指标时序相似度外,还结合指标描述的文本相似度进行历史告警推荐。在工单对话中,通过文本问答反馈异常类型是否为误报或不关心,有效提升了指标监控的效率和准确性。

大模型在日志处理与分析中的创新应用

LogPPT:基于大模型的日志异常检测

澳大利亚纽卡斯尔大学开源的LogPPT项目(https://github.com/LogIntelligence/LogPPT)利用RoBERTa大模型和loghub数据集。针对loghub数据集中每类日志仅有2k条有标签的情况,该项目反向使用2k有标签数据作为prompt,实现了高效的日志异常检测,为日志分析提供了新的思路。

LogBase数据集:大模型辅助构建高质量日志数据

复旦与阿里开源的LogBase数据集(https://dl.acm.org/doi/pdf/10.1145/3728969)构建方法独特。从GitHub上爬取130个主要的Java开源项目的logger代码,根据logger所在method的parameters命名模板变量,然后用大模型CoT方法生成对应84300个模式的样例日志。该数据集为日志分析算法的训练和评估提供了高质量的数据支持。

SuperLog数据集:多维度日志问答数据构建

华为开源的SuperLog数据集在loghub数据集基础上进行模式比例调整重构,针对每个模板,分Grok正则、日志解读、根因分析、组件关联分析、潜在故障预测5个维度,10个模板,生成25万条问答数据,为日志相关的问答系统训练提供了丰富的素材。

大模型在根因分析与故障处理中的实践案例

RCACopilot:基于LLM的故障根因分析

微软发表的RCACopilot论文(https://yinfangchen.github.io/assets/pdf/rcacopilot_paper.pdf)提出了一种创新的根因分析方法。先总结告警信息,然后使用预训练的fasttext嵌入模型对历史故障进行向量搜索,将摘要、故障分类和描述纳入最终提示,让LLM判断是否为旧故障及处理方式。虽然该方法对评估团队和业务环境有较强依赖,但其提供的评估数据和思路具有一定的参考价值。

SparseRCA:无监督根因分析在微服务测试追踪中的应用

清华大学与蚂蚁金服的SparseRCA论文(https://netman.aiops.org/wp-content/uploads/2024/09/SparseRCA__Unsupervised_Root_Cause_Analysis_in_Sparse_Microservice_Testing_Traces__ISSRE24_Camera_Ready_.pdf)通过案例研究提出,部分span的自身耗时与child的数量有关,利用EM算法构建对未知trace pattern耗时的拟合函数,用于RCA异常检测和排序,为微服务环境下的根因分析提供了新的解决方案。

大模型在智能运维评测与数据集构建中的贡献

CodeFuse-DevOpsEval:DevOps与AIOps评测数据集

北大与蚂蚁金服开源的CodeFuse-DevOpsEval评测数据集(https://github.com/codefuse-ai/codefuse-devops-eval/blob/main/README_zh.md)涵盖DevOps和AIOps两大块12类场景,为大模型在智能运维领域的性能评估提供了全面的测试基准。

MOMENT模型与Time-Series Pile数据集

卡内基梅隆大学的MOMENT模型和Time-Series Pile数据集(https://arxiv.org/pdf/2402.03885.pdf)对标大语言模型的Pile数据集,收集了常用的5个指标数据集,覆盖单维度和多维度指标的分类、长短期预测、异常检测等任务。预训练了moment-base、large、small三个规格的指标大模型,为时序数据大模型的研究和应用奠定了基础。

大模型与aiops-handbook的结合,为智能运维带来了前所未有的机遇。从指标监控、日志分析到根因定位,LLM技术不断推动AIOps向更智能、高效的方向发展。随着相关研究的深入和数据集的丰富,相信未来会有更多创新应用和实践案例涌现,为企业的智能运维提供更强大的支持。如果您想深入了解相关内容,可以clone仓库进行研究,仓库地址是 https://gitcode.com/gh_mirrors/ai/aiops-handbook 。

【免费下载链接】aiops-handbook Collection of slides, repositories, papers about AIOps 【免费下载链接】aiops-handbook 项目地址: https://gitcode.com/gh_mirrors/ai/aiops-handbook

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值