A SURVEY ON POST-TRAINING OF LARGE LANGUAGE MODELS——大型语言模型的训练后优化综述——第9部分—

应用

尽管预训练为大型语言模型（LLMs）赋予了强大的基础能力，但在部署于专业领域时，LLMs仍经常遇到持续的限制，包括上下文长度受限、容易产生幻觉（hallucination）、推理能力欠佳和固有的偏见。在现实世界的应用中，这些不足显得尤为重要，因为在这些场景中，精确性、可靠性和伦理一致性是至关重要的。这些问题引发了一些根本性的探讨：(1) 如何系统地提高LLM的表现以满足特定领域的需求？(2) 在实际应用环境中，有哪些策略可以有效缓解内在的实际障碍？

后训练成为了一个关键解决方案，通过改进LLMs对特定领域术语和推理模式的识别来增强其适应性，同时保持其广泛的竞争力。本章将阐述经过后训练的LLMs在专业、技术和互动领域中的变革性应用，说明定制化的后训练方法如何解决上述挑战，并在多样化的背景下提升模型的实用性。

9.1 专业领域

法律助手

法律领域是一个利用后训练技术赋予LLMs专门知识的引人注目的舞台，使其能够驾驭法律知识的复杂环境，并解决法学中固有的多方面挑战。越来越多的研究[485, 486, 487]探讨了LLM在这一领域的应用，范围涵盖了法律问答[488, 489]、判决预测[490, 491]、文档摘要[492, 493]以及检索增强和司法推理等更广泛的任务[494, 495, 496]。

经过后训练的法律助手，如LawGPT[497]和Lawyer-LLaMA[498]所示例的那样，展示了显著的专业能力，不仅能够在各种法律事务中提供可靠的指导，还在专业资格考试中取得了成功，这证明了它们先进的解释和分析能力。LexiLaw[499]和SAUL[500]等模型提供的多语言支持将这种实用性扩展到了包括英语和中文在内的多种语言，拓宽了可访问性。

这些进展的核心是在精选的法律语料库上进行后训练，例如ChatLaw[501]，它将大量的法律文本整合到对话数据集中，使模型能够改进其推理能力和术语识别。通过这种方式，后训练的法律助手不仅能更精准地理解和处理法律问题，还能够为不同语言背