Leveraging Large Language Models for NLG Evaluation: A Survey

828 篇文章

已下架不支持订阅

本文是对《Leveraging Large Language Models for NLG Evaluation: A Survey》的翻译,探讨了大型语言模型在自然语言生成评估中的使用,提出了一种分类法和评估框架,分析了优势和局限性,讨论了未解决的挑战,如偏见、稳健性等,旨在推动更公平和先进的评估技术发展。

本文是LLM系列文章,针对《Leveraging Large Language Models for NLG Evaluation: A Survey》的翻译。

利用大型语言模型进行NLG评估:一项调查

摘要

在自然语言生成(NLG)评估的快速发展领域,引入大型语言模型(LLM)为评估生成的内容质量开辟了新的途径,例如连贯性、创造力和上下文相关性。这项调查旨在全面概述利用LLM进行NLG评估的情况,这是一个缺乏系统分析的新兴领域。我们提出了一个连贯的分类法来组织现有的基于LLM的评估指标,并提供了一个结构化的框架来理解和比较这些方法。我们的详细探索包括批判性地评估各种基于LLM的方法,以及比较它们在评估NLG输出方面的优势和局限性。通过讨论尚未解决的挑战,包括偏见、稳健性、领域特异性和统一评估,本调查旨在为研究人员提供见解,并倡导更公平、更先进的NLG评估技术。

1 引言

2 形式化与分类

3 生成性评估

4 基准和任务

5 开放的问题

6 结论

在这项调查中,我们仔细调查了LLM在NLG评估中的作用。我们的综合分类法将工作分为三个主要维度:评价功能、评价参考和评价任务。该框架使我们能够系统地对基于LLM的评估方法进行分类和理解。我们深入研究了各种基于LLM的方法,仔细研究了它们的优势并比较了它们的差异。此外,我们总结了NLG评估的普遍元评估基准。在整个研究过程中,我们强调了这一快速发展领域的进步和普遍挑战。尽管LLM在评估NLG产出方面具有开创性的潜力,但仍有一些尚未解决的问题需要关注,包括偏见、稳健性、混合评估方法的集成,以及在基于LLM的评估人员中进行

《KnowledgeNavigator: Leveraging Large Language Models for Enhanced Reasoning over Knowledge Graph》聚焦于利用大型语言模型增强知识图谱推理。大型语言模型(LLM)在复杂推理和问答(QA)任务中的知识限制方面存在局限性,而KnowledgeNavigator框架利用知识图谱中的外部知识来增强LLM推理[^4]。 该框架主要包括三个阶段:问题分析、知识检索和推理。在问题分析阶段,预测推理跳数,生成相似的问题,以增强推理逻辑挖掘;知识检索阶段,根据给定的问题和大语言模型指导,从知识图谱中迭代检索和过滤相关知识;推理阶段,将检索到的知识转化为对LLM有效的提示,以此增强其推理能力。并且该框架在KGQA基准测试中优于以前的知识图谱增强LLM方法[^4]。 ```python # 以下为简单示意框架各阶段伪代码 # 问题分析 def question_analysis(question): # 预测推理跳数 hop_count = predict_hop_count(question) # 生成相似问题 similar_questions = generate_similar_questions(question) return hop_count, similar_questions # 知识检索 def knowledge_retrieval(question, llm_guide, knowledge_graph): relevant_knowledge = [] # 迭代检索和过滤相关知识 for step in range(max_steps): new_knowledge = retrieve_and_filter(question, llm_guide, knowledge_graph) relevant_knowledge.extend(new_knowledge) return relevant_knowledge # 推理 def reasoning(relevant_knowledge, llm): prompt = convert_to_prompt(relevant_knowledge) result = llm.generate(prompt) return result ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值