- 博客(127)
- 收藏
- 关注
RSS订阅原创 论文 | GraphReader: Building Graph-based Agent to Enhance Long-Context Abilities of Large Language Mod
尽管许多优化方法（例如改进位置编码或注意力机制）取得了一定进展，但现有方法在处理复杂任务和多跳推理方面仍存在不足，特别是“中间信息丢失”现象（lost in the middle）。本文提出了一种新型的基于图的代理系统——通过图结构捕捉全局信息，结合代理的计划与反思能力，该方法不仅突破了上下文窗口的限制，还显著提高了复杂任务的解答能力。这种从“模型优化”到“系统设计”的转变，为解决长文本处理问题提供了新的研究方向。，旨在通过图结构捕捉长文本中的全局信息和多跳关系，克服上下文窗口限制。
2024-12-16 21:13:26
929
原创 论文翻译 | GraphReader: Building Graph-based Agent to Enhance Long-Context Abilities of Large Language M
长文本处理能力对于大型语言模型（LLMs）应对复杂和长输入任务至关重要。尽管已经进行了许多努力来优化LLMs以处理长文本，但在稳健处理长输入方面仍存在挑战。在本文中，我们介绍了GraphReader，这是一个基于图的代理系统，旨在通过将长文本结构化为图并采用代理自主探索此图来处理长文本。在接收到问题后，代理首先进行逐步分析并制定合理的计划。然后，它调用一组预定义的函数来读取节点内容和邻居，从而实现从粗到细的图探索。
2024-12-16 21:08:13
1185
原创 论文 | ChunkRAG: Novel LLM-Chunk Filtering Method for RAG Systems
本文详细介绍了一种新颖的检索增强生成（Retrieval-Augmented Generation, RAG）系统方法——ChunkRAG，该方法通过对文档的分块语义分析和过滤显著提升了生成系统的准确性和可靠性。ChunkRAG通过对检索内容的分块处理和高级过滤，成功提升了RAG系统的准确性和可靠性，尤其在知识密集型任务中具有显著优势。这篇论文为RAG系统的发展提供了新的思路，其基于ChunkRAG的分块过滤方法不仅改进了生成内容的相关性，还为解决生成幻觉问题提供了可能性。
2024-12-12 21:52:27
691
原创 论文翻译 | ChunkRAG: Novel LLM-Chunk Filtering Method for RAG Systems
使用大型语言模型（LLM）的检索-增强生成（RAG）系统经常由于检索不相关或松散相关的信息而生成不准确的响应。现有的在文档级别操作的方法无法有效地过滤掉此类内容。我们提出了LLM驱动的块过滤，ChunkRAG，这是一个框架，通过在块级别评估和过滤检索到的信息来增强RAG系统，其中“块”代表文档中较小的、连贯的部分。我们的方法使用语义分块将文档划分为连贯的部分，并利用基于LLM的相关性评分来评估每个块与用户查询的一致性。通过在生成阶段之前过滤掉不太相关的块，我们显著减少了幻觉，提高了事实的准确性。
2024-12-12 21:46:28
904
原创 论文 | RARE: Retrieval-Augmented Reasoning Enhancementfor Large Language Models
针对上述问题，作者提出了检索增强推理增强（RARE，Retrieval-AugmentedReasoningERARE基于现有的 rStar，其中语言模型生成推理步骤，另一个进行验证，在无需微调或使用高级模型的情况下提升准确性。为生成有效的多步骤推理路径，RARE 涵盖了五种类型的动作来提示语言模型生成下一个推理步骤。什么是rStar？
2024-12-09 21:18:36
952
原创 论文翻译 | RARE: Retrieval-Augmented Reasoning Enhancement for Large Language Models
受rStar（Qi等人，2024年）的生成器-判别器结构的启发，RARE引入了一个检索增强生成器和事实性评分器，以提升大型语言模型中的推理准确性和事实完整性。如图1所示，RARE在两个主要阶段进行操作。候选生成与检索增强生成器：检索增强生成器基于MCTS的rStar自生成器构建，整合了两种新的检索增强动作，这些动作动态地获取相关的外部信息。这些动作通过将上下文丰富知识整合到中间推理步骤中，提高了候选推理路径的相关性和准确性，特别是对于复杂问题。
2024-12-09 21:02:43
1333
原创 论文 | Leveraging Passage Retrieval with Generative Modelsfor Open Domain Question Answering
论文探讨了开放域问答（Open Domain Question Answering, ODQA）任务中的关键挑战。传统生成式问答模型（如GPT-3）尽管表现优异，但其在没有外部知识的情况下需要大规模参数存储全部信息，导致成本高昂。此外，提取式方法虽然能够结合外部知识，但在处理多个文段时存在整合证据的困难。本文提出了一种创新性的方法，将生成模型与检索技术结合，用于开放域问答任务。通过“解码器融合”机制，该方法在多个数据集上取得了优异表现，同时展示了生成模型在多文段信息整合上的潜力。
2024-12-06 11:13:56
784
原创 论文翻译 | Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering
我们的研究表明，通过在解码器中融合来自多个段落的证据，可以显著提高开放领域问答的性能。我们的方法不仅简单，而且在NaturalQuestions和TriviaQA基准上超越了最先进的技术。此外，我们展示了通过增加检索到的段落数量，可以进一步提高模型的准确性。我们还发现，即使是大型生成模型，也可以通过使用检索来引入额外的知识，从而实现性能的显著提升。最后，我们的实验还表明，减少训练过程中的段落数量可以在保持高性能的同时显著降低计算成本。这些发现为开放领域问答和大型语言模型的进一步研究提供了有价值的见解。
2024-12-06 11:06:28
1062
原创 论文 | EfficientRAG: Efficient Retriever for Multi-Hop Question Answering
本文提出了一个新的检索增强生成（RAG）方法——EfficientRAG，它专门用于解决复杂的多跳问题。在多跳问答中，问题的答案需要从多个信息源中检索并结合起来，远比单跳问题复杂，因此也更加具有挑战性。作者指出，传统的RAG方法虽然在单跳问题上表现良好，但在处理多跳问题时面临较大的挑战，特别是在每次检索时都依赖于多次调用大型语言模型（LLM），这会导致高昂的计算开销。为了解决这一问题，EfficientRAG提出了一种新的方法，通过迭代生成查询来代替每一步都调用LLM，并在每轮检索中筛
2024-12-05 22:03:33
752
原创 论文翻译 | EfficientRAG: Efficient Retriever for Multi-Hop Question Answering
检索增强生成（RAG）方法在处理复杂问题（如多跳查询）时会遇到困难。虽然迭代检索方法通过收集附加信息来提高性能，但当前的方法通常依赖于对大型语言模型（LLM）的多次调用。本文介绍了高效的多跳问答检索器EfficientRAG。EfficientRAG迭代地生成新的查询，而不需要在每次迭代时调用LLM，并过滤掉不相关的信息。实验结果表明，在三个开放域多跳问答数据集上，效率trag优于现有的RAG方法。代码可在中获得。
2024-12-05 21:56:39
1176
原创 论文 | Multi-Review Fusion-in-Context
基于外部知识的文本生成（Grounded Text Generation）：该任务要求生成的文本能够准确地与外部信息（如多个文档或源文本）相匹配。长篇问答和摘要生成是常见的基于外部知识的文本生成任务，其中模型需要根据给定的信息生成适当的答案或摘要。内容选择与内容整合内容选择：从多个文档中选择出相关的信息。内容整合：将选中的内容融合成一个连贯的文本输出。当前的文本生成方法通常将这两个任务作为一个黑箱过程处理，缺乏可解释性和控制性，这使得这些方法在实际应用中存在一定的局限性。模块化方法。
2024-12-04 22:40:02
988
原创 2024论文翻译 | Multi-Review Fusion-in-Context
融合上下文（FiC）任务被定义为从给定的文档集中合成连贯文本的过程，特别关注这些文档中预先选择的部分，称为高亮内容。正式来说，给定一个带有标记跨度H = {h1, h2, ..., hn}的文档集D（使得hi可能是不连续的），生成一个连贯且非冗余的段落f，遵循以下两个标准：(1) 高亮忠实度——f必须由H中的内容共同蕴含，只添加为了连贯所需的最少非高亮内容；(2) 高亮覆盖率——每个hi ∈ H必须在f中得到体现，可以是直接体现，或者通过概括性引用。
2024-12-04 22:32:06
932
原创 论文 | LazyLLM: DYNAMIC TOKEN PRUNING FOR EFFICIENTLONG CONTEXT LLM INFERENCE
LazyLLM提出了一种新的方法，通过动态修剪那些对预测下一个令牌不重要的令牌，只计算那些对下一个令牌生成有显著影响的令牌的KV对，从而大幅减少了计算量，优化了推理效率。： 虽然LazyLLM针对的是基于Transformer的语言模型，但其动态令牌修剪的思想可能适用于其他类型的序列生成模型，甚至在不同架构中也能发挥作用。： LazyLLM的修剪策略可能是针对特定任务或数据集优化的，未来研究可以探索如何使其方法具有更好的通用性，能够适应不同类型的输入和任务。
2024-12-03 22:30:11
871
原创 论文翻译 | LazyLLM: DYNAMIC TOKEN PRUNING FOR EFFICIENT LONG CONTEXT LLM INFERENCE
基于transformer的大型语言模型的推理包括两个顺序阶段：1）预填充阶段，用于计算提示的KV缓存并生成第一个令牌；2）解码阶段，用于生成后续令牌。对于长提示，在预填充阶段必须计算所有令牌的KV缓存，这可能会显著增加生成第一个令牌所需的时间。因此，预填充阶段可能成为生成过程中的瓶颈。一个悬而未决的问题是，是否所有提示令牌对于生成第一个令牌都是必要的。为了回答这个问题，我们引入了一种新颖的方法——LazyLLM，它在预填充和解码阶段选择性地为对下一个令牌预测重要的令牌计算KV。
2024-12-03 22:24:06
1843
原创 2024论文 | Attention Instruction: Amplifying Attention in the Middle via Prompting
这篇论文通过创新性的注意力指令方法解决了LLMs在长上下文中“中间部分遗失”的问题。其贡献不仅在于理论验证，还为工业界的检索增强生成（RAG）应用提供了指导思路。这项研究拓展了LLMs在长文本理解和多文档问答中的潜力。
2024-11-27 11:45:17
949
原创 2024论文翻译 | Attention Instruction: Amplifying Attention in the Middle via Prompting
为了测试指导模型增加对不同搜索结果片段注意力的有效性，我们设计了一系列在多文档问答（MDQA）任务（Singh等人，2021）下的实验，在该设置中，只有一个文档包含正确答案，即金文档。考虑到金文档可以出现在任何位置并可能因为位置偏差而被忽视，我们设计了注意力指令，这是一个由两个句子组成的指令，指导LLMs关注选定的片段，从而防止信息的忽视。输入提示和一些示例可以在图2中看到。
2024-11-27 11:31:36
923
原创 论文翻译 | BERTese: Learning to Speak to BERT
大型预训练语言模型已被证明可以在其参数中编码大量的世界知识和常识性知识，这导致了对提取这些知识的方法的极大兴趣。在过去的工作中，知识是通过手动编写查询并使用单独的管道为它们收集释义来提取的。在这项工作中,我们提出一个方法来自动重写查询到“BERTese”,改写查询,直接向更好的优化知识提取。为了鼓励有意义的重写，我们添加了辅助损失函数，以鼓励查询对应于实际的语言标记。我们的经验表明，我们的方法优于竞争基线，避免了复杂管道的需要。此外，BERTese对语言类型提供了一些见解，帮助语言模型执行知识提取。
2024-11-25 23:01:04
951
原创 论文 | Recitation-Augmented Language Models
Recitation-Augmented Language Models》展示了语言模型在闭卷知识生成中的潜力，并提出了极具创新性的RECITE框架。通过引入“背诵”步骤，该方法有效提升了知识提取能力，特别是在知识密集型任务中表现卓越。然而，其计算复杂度和知识更新问题仍需进一步研究。论文为未来的语言模型发展提供了重要的方向，特别是在提升语言模型内部记忆利用效率和改进闭卷问答任务性能方面。未来将RECITE与外部知识检索、动态更新机制结合，或可解决其现存不足。
2024-11-21 20:01:38
1187
原创 论文翻译 | RECITATION-AUGMENTED LANGUAGE MODELS
我们提出了一种新范式，称为RECITation-augmented gEneration（RECITE），以帮助大型语言模型（LLMs）在不从外部语料库检索的情况下生成更准确的事实知识。与在生成输出前检索相关文档的检索增强型语言模型不同，给定一个输入，RECITE首先通过采样从LLMs自己的记忆中复述一个或几个相关段落，然后产生最终答案。我们展示了RECITE是面向知识密集型NLP任务的一种强大范式。
2024-11-21 19:52:17
1076
原创 论文 | AI Chains: Transparent and Controllable Human-AI Interaction by Chaining Large Language Model P
大语言模型的潜力与挑战大语言模型（LLMs），如 GPT-3，通过对海量数据的训练展现了强大的自然语言处理能力，但在复杂任务上表现欠佳，原因在于：缺乏透明性：模型如何生成结果难以理解。可控性不足：难以通过调整输入来获得预期输出。单步推理能力有限，尤其是在处理多目标任务时（如同时生成建议和改进语气）。论文的核心提案提出了“链式任务分解”的概念，即将复杂任务分解为多个子任务，每个子任务对应一个独立的 LLM 操作，并通过结果传递逐步解决复杂任务。
2024-11-20 17:06:52
448
原创 论文翻译| AI Chains: Transparent and Controllable Human-AI Interactionby Chaining Large Language Model P
尽管大型语言模型（LLM）已经在简单任务上展示了令人印象深刻的潜力，但它们的范围太广、缺乏透明度和可控性不足，使得它们在帮助人类完成更复杂的任务时效率较低。作为回应，我们引入了将LLM步骤链接在一起的概念，其中一步的输出成为下一步的输入，从而汇总每一步的收益。我们首先定义了一组用于构建链的LLM基本操作，然后提出了一个交互式系统，用户可以以模块化的方式修改这些链及其中间结果。在一项20人的用户研究中，我们发现链接不仅提高了任务结果的质量，而且显著增强了系统的透明度、可控性和协作感。
2024-11-20 16:53:56
685
原创 论文 | Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?
论文通过对比不同的实验方法，系统分析了演示的作用及其影响因素，重新定义了人们对上下文学习的认知。研究表明，语言模型的能力不仅来自于输入-标签对的直接指导，还依赖于演示的整体结构和标签空间，这为理解和改进语言模型的推理能力提供了重要的理论基础。
2024-11-19 19:19:23
689
原创 论文翻译 | Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?
大型语言模型（LMs）能够通过上下文学习——仅通过在几个输入-标签对（示例）上进行条件推断，并对新输入进行预测，从而执行新任务。然而，对于模型如何学习以及示例的哪些方面有助于最终任务性能，目前尚缺乏深入理解。在本文中，我们表明实际上并不需要真实的示例——在示例中随机替换标签几乎不会对一系列分类和多选题任务的性能造成影响，这一发现在包括GPT-3在内的12个不同模型中一致成立。
2024-11-19 15:59:19
1077
原创 论文 | Learning to Transfer Prompts for Text Generation
论文提出了一种创新的PTG（Prompt Transfer Generation）方法，旨在通过迁移提示的方式解决传统预训练语言模型（PLM）在数据稀缺情况下微调的问题。通过将一组已在源任务中训练好的提示迁移到目标任务，PTG能够有效地减少数据依赖，并提高文本生成任务的表现。核心技术之一是自适应注意力机制，该机制能够动态地从源任务的提示中选择最相关的信息，从而生成高质量的目标文本。
2024-11-18 20:07:02
1064
原创 论文翻译 | Learning to Transfer Prompts for Text Generation
预训练语言模型（PLMs）通过微调在文本生成任务中取得了显著进展。然而，在数据稀缺的情况下对plm进行微调是具有挑战性的。因此，开发一个通用的、轻量级的、能够适应各种基于plm的文本生成任务的模型是非常重要的。为了实现这一目标，最近的基于提示的学习提供了一个潜在的解决方案。在本文中，我们改进了这一技术，并提出了一种新的基于提示的文本生成方法（PTG）。首先，PTG为各种源生成任务学习一组源提示，然后将这些提示作为目标提示传输，以执行目标生成任务。
2024-11-18 16:28:18
1791
原创 论文 | On Second Thought, Let’s Not Think Step by Step!
本文探讨了“零样本链式思维”（Zero-shot Chain of Thought, CoT）在大语言模型（LLM）中的应用及其潜在的偏见与有害内容生成风险。论文指出，尽管CoT在多种逻辑推理任务中提高了模型的表现，但在涉及社会敏感领域（如有害问题或刻板印象基准测试）时，却会增加模型生成有害或不良输出的风险。研究认为，这种风险在不同提示格式和模型变体中具有一致性，并且随着模型规模的增加，这种趋势更加明显。论文特别强调零样本链式思维在涉及边缘化群体或敏感话题时的潜在危害。
2024-11-15 20:12:25
1167
原创 论文翻译 | On Second Thought, Let’s Not Think Step by Step! Bias and Toxicity in Zero-Shot Reasoning
警告：本文包含一些有毒和冒犯性的言论。生成思维链（CoT）已被证明可以在广泛的NLP任务中持续提高大型语言模型（LLM）的性能。然而，之前的工作主要集中在逻辑推理任务（例如算术，常识QA）；目前尚不清楚这种改进是否适用于更多种类型的推理，特别是在社会情境中。具体而言，我们在两个社会敏感领域：有害问题和刻板印象基准上对零样本CoT进行了控制评估。我们发现，在敏感领域中，零shot CoT推理显著增加了模型产生有害或不期望输出的可能性，并且在不同的提示格式和模型变体中保持趋势。
2024-11-15 11:44:02
1056
原创 论文 | The Capacity for Moral Self-Correction in LargeLanguage Models
论文探讨了大规模语言模型是否具备“道德自我校正”的能力，即在收到相应指令时避免产生有害或偏见输出的能力。研究发现，当模型参数达到一定规模（至少22B参数）并经过人类反馈强化学习（RLHF）训练后，这种自我校正能力显现，并随着模型规模的增加和RLHF训练的加强而提高。论文通过多项实验检验这一假设，揭示了模型在不同干预下的偏见和歧视程度。
2024-11-14 19:20:57
876
原创 论文翻译 | The Capacity for Moral Self-Correction in Large Language Models
我们测试了自然语言指令对两种相关但不同的道德现象的影响：刻板印象和歧视。刻板印象包括以通常有害或不受欢迎的方式对群体进行概括为了测量刻板印象，我们使用了两个众所周知的刻板印象基准，BBQ[40]（§3.2.2）和Windogender[49]（§3.2.3）。对于歧视，我们关注的是模型是否基于与结果无关的受保护特征对个体做出不同的决定为了衡量歧视，我们构建了一个新的基准来测试法学院课程录取问题中种族的影响（§3.2.4）。
2024-11-14 17:36:07
1485
原创 论文 | EVALUATING THE SUSCEPTIBILITY OF PRE-TRAINEDLANGUAGE MODELS VIA HANDCRAFTED ADVERSARIALEXAMPL
这篇论文探讨了大型预训练语言模型（PLM）在面对手工制作的对抗性示例时的脆弱性。作者提出了一种特定的攻击方法，演示了在未经过微调的模型中，GPT-3 和 BERT 类模型如何无法有效抵御对抗性干扰。通过一系列实验，作者展示了传统质量度量方法和嵌入相似性评分的局限性，提出对这些模型进行额外防护的必要性。
2024-11-13 11:59:22
777
原创 论文翻译 | EVALUATING THE SUSCEPTIBILITY OF PRE-TRAINED LANGUAGE MODELS VIA HANDCRAFTED ADVERSARIAL EXAM
近期，大型语言模型的发展取得了新的进展，使得公众能够接触到最先进的预训练语言模型（PLMs），包括生成式预训练变压器3（GPT-3）和来自变压器的双向编码器表示（BERT）。然而，实际上对PLMs的评价显示，在开发和微调阶段，它们容易受到对抗性攻击。此类攻击可能导致错误输出，模型生成的仇恨言论，以及用户敏感信息的泄露。尽管现有研究关注了PLMs在训练或微调期间的对抗性攻击，但关于这两个开发阶段之间的攻击信息却鲜有研究。
2024-11-13 11:28:38
917
原创 软件测试学习记录 Day1
根据黑马程序员最新版的软件测试课程所做的笔记，需要原件后台私信：练习提取测试点：博主的答案，有不一样看法的可评论区讨论：
2024-11-11 20:06:38
409
原创 论文翻译 | Chain of Hindsight aligns LanguageModels with Feedback
从人类偏好中学习对于语言模型匹配人类需求并与人类和社会价值观保持一致非常重要。先前的研究通过学习人类的反馈来理解和遵循指令，取得了显著的成功。尽管如此，这些方法要么是建立在人工注释者青睐的精心挑选的模型上，这使得它们在数据利用方面效率低下，并且很难在一般情况下应用，要么是依赖于强化学习，而强化学习往往受到不完美的奖励函数的影响，并且依赖于极具挑战性的优化。在这项工作中，我们提出了一种新的技术，即后见之明链，它很容易优化，并且可以从任何形式的反馈中学习，无论其极性如何。
2024-11-11 19:58:00
1179
原创 论文 | Teaching Algorithmic Reasoning via In-context Learning
这篇论文《通过上下文学习教授算法推理》探讨了如何通过上下文学习（In-context Learning, ICL）有效训练大型语言模型（LLMs）以进行算法推理。
2024-11-07 20:26:45
686
原创 论文翻译 | Teaching Algorithmic Reasoning via In-context Learning
大型语言模型（LLMs）通过扩大模型和数据规模，展现了不断增强的上下文学习能力。尽管取得了这一进展，LLMs仍然无法解决算法推理问题。尽管在提供最终答案的同时给出解释促进了在多步骤推理问题上的进一步改进，但Anil等人（2022年）指出，即使是简单的算法推理任务，比如奇偶性判断，也远未得到解决。在这项工作中，我们识别并研究了成功教授LLMs算法推理的四个关键阶段：(1)将算法表述为技能，(2)同时教授多个技能（技能累积），(3)教授如何结合技能（技能组合）以及(4)教授如何将技能作为工具使用。
2024-11-07 20:20:53
805
原创 论文 | PromptChainer: Chaining Large Language Model Prompts through Visual Programming
PromptChainer展示了LLM链路构建的可能性，并指出了多步AI交互应用的挑战。未来研究可以探讨如何提升链路间的任务依赖性管理、复杂链路的可追踪性，以及支持“粗略原型”的快速构建，帮助用户更灵活地探索多种链构思。此论文为复杂任务的LLM应用提供了技术思路，同时也揭示了多步AI交互应用面临的现实挑战。
2024-11-06 14:42:40
741
原创 论文翻译 | PromptChainer: Chaining Large Language Model Prompts through Visual Programming
尽管大语言模型（LLMs）使得快速原型化新的机器学习功能成为可能，但许多现实世界应用涉及复杂任务，无法通过单次运行LLM轻松处理。最近的研究发现，将多个LLM运行串联起来（一个步骤的输出成为下一步的输入）可以帮助用户完成这些更复杂的任务，并且这种方式被认为是更透明和可控的。然而，对于非AI专家在编写他们自己的LLM链时需要什么，这仍然是一个未知数——这是降低非AI专家原型化融合AI应用障碍的一个关键步骤。在这项工作中，我们探讨了LLM链的编写过程。
2024-11-06 14:31:31
861
原创 论文 | Can ChatGPT Understand Too? A Comparative Study on ChatGPT and Fine-tuned BERT
这篇文章标题为《ChatGPT也能理解吗？——ChatGPT与微调BERT的对比研究》。研究的主要目的是评估ChatGPT在自然语言理解（NLU）任务中的表现，并将其与经过微调的BERT模型进行对比。作者探讨了一个重要问题：尽管ChatGPT在生成任务中表现出色，它在理解任务上的表现如何？随着大规模语言模型（LLM）的快速发展，像GPT-3、InstructGPT和ChatGPT等模型因其强大的生成能力受到广泛关注。
2024-11-05 17:22:11
674
原创 论文翻译 | Can ChatGPT Understand Too? A Comparative Study on ChatGPT and Fine-tuned BERT
最近，ChatGPT因为能够对人类的询问产生流畅的、高质量的响应而备受关注。先前的一些研究表明，与现有模型相比，ChatGPT具有显著的生成能力。然而，对ChatGPT理解能力的定量分析却很少受到重视。在本报告中，我们通过在最流行的GLUE基准上对ChatGPT进行评估，并将其与4个具有代表性的微调bert风格模型进行比较，来探索ChatGPT的理解能力。我们发现：1)ChatGPT在处理释义和相似任务方面存在不足；2) ChatGPT在推理任务上优于所有BERT模型；
2024-11-05 17:10:17
1273
原创 论文 | Evaluating the Robustness of Discrete Prompts
这篇论文通过系统实验揭示了离散提示生成方法在面对随机和对抗性扰动时的鲁棒性，指出了AutoPrompt和手动提示在鲁棒性和泛化性方面的缺陷，并为未来研究提供了重要参考。这一研究强调了在数据稀缺条件下开发稳定且通用提示生成方法的必要性，同时对提示生成方法的适用性提出了新挑战。
2024-11-04 21:40:14
1113
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人