Rich Semantic Knowledge Enhanced Large Language Models for Few-shot Chinese Spell Checking

本文是LLM系列文章，针对《Rich Semantic Knowledge Enhanced Large Language Models for Few-shot Chinese Spell Checking》的翻译。

摘要

汉语拼写检查（CSC）是一项应用广泛的技术，在语音转文本（STT）和光学字符识别（OCR）中发挥着至关重要的作用。大多数现有的CSC方法都依赖于BERT架构，实现了优异的性能。然而，受基础模型规模的限制，基于BERT的方法在小样本场景中效果不佳，在实际应用中显示出一定的局限性。在本文中，我们探索使用一种名为RS-LLM（基于丰富语义的LLM）的无文本学习方法来引入大型语言模型（LLM）作为基础模型。此外，我们还研究了在我们的框架中引入各种汉语丰富语义信息的影响。我们发现，通过引入少量特定的汉语丰富语义结构，LLM在小样本CSC任务中比基于BERT的模型取得了更好的性能。此外，我们在多个数据集上进行了实验，实验结果验证了我们提出的框架的优越性。

1 引言

2 相关工作

3 前言

4 方法

5 实验

6 结论和未来工作

在本文中，我们为CSC任务引入了一种名为RS-LLM的上下文学习方法，其核心组件之一是在CSC任务的LLM中使用汉语富语义。RS-LLM利用在CSC任务的特定小样本提示集中添加少量特定的汉语丰富语义