面向AI从业者、技术爱好者的知识共享平台，聚焦技术解析、实战应用与前沿趋势，打造“专业性与可读性并存”的AI学习社区

在本专栏中，我们探讨了大型语言模型的工作原理，以及如何将其应用于从简单聊天机器人到搜索引擎等复杂系统的开发。通过掌握这些技术，读者将能释放大语言模型的潜力，创造出受益于其能力的创新解决方案。随着本专栏接近尾声，我们想强调，我们对大语言模型的探索才刚刚开始。未来还有更多激动人心的进展值得期待，我们鼓励您持续关注这一领域的新动态。以本专栏为指引，我们相信您已准备好驾驭大语言模型的广阔天地，并为这一快速发展的领域贡献重要力量。希望本专栏能让您更深入地理解大语言模型在各类应用中的价值，以及它们变革行业的潜力。

在本章中，我们将以一个预训练文本生成模型为例，详细讲解微调（fine-tuning）的完整流程。微调是生成高质量模型的关键步骤，也是我们工具包中用于将模型适配到特定预期行为的重要工具。通过微调，我们可以让模型适配特定的数据集或领域。本章将引导您了解两种最常见的文本生成模型微调方法：监督式微调（supervised fine-tuning）和偏好微调（preference tuning）。我们将深入探索微调预训练文本生成模型的变革潜力，帮助您将其转化为更高效的应用工具。

在第四章中，我们使用了预训练模型对文本进行分类。我们直接使用了未经任何修改的预训练模型。这可能会让你产生疑问：如果我们对模型进行微调会发生什么？如果有充足的数据，微调通常能产生性能最佳的模型。在本章中，我们将探讨几种微调BERT模型的方法和应用：《监督式分类》展示了微调分类模型的通用流程；《少样本分类》将介绍SetFit方法——一种通过少量训练样本高效微调高性能模型的技术；《基于掩码语言建模的继续预训练》探讨了如何对预训练模型进行持续训练；《命名实体识别》研究了基于词元级别的分类任务。

文本嵌入模型是众多强大自然语言处理应用的基础。它们为文本生成模型等已令人惊叹的技术奠定了根基。在本书中，我们已在多个场景中应用过嵌入模型，包括监督式分类、无监督式分类、语义搜索，甚至为ChatGPT等文本生成模型赋予记忆能力。几乎无法夸大嵌入模型在该领域的重要性，因为它们支撑着众多应用的核心运作。因此，本章我们将探讨多种创建和微调嵌入模型的方法，以增强其表征能力和语义表现力。

在本章中，我们将探索多种具备多模态能力的LLMs及其在实际应用场景中的意义。首先，我们将通过改进原始Transformer技术，研究图像如何被转化为数值表示；接着，我们将展示如何通过这种Transformer扩展LLMs以涵盖视觉任务。

大型语言模型（LLM）文本生成能力的提升催生了一种新型搜索系统，这类系统包含一个能根据查询生成答案的模型。这类系统更合适的名称是RAG系统（检索增强生成系统）。RAG系统是整合了搜索功能的文本生成系统，其目的是减少模型生成内容的“幻觉”（即不真实或错误信息）、提高事实准确性，和/或将生成模型的输出锚定在特定数据集上。

在本章中，我们将深入探讨几种改进生成文本质量的方法论与核心概念：模型输入输出，加载和使用大语言模型。记忆,帮助大语言模型记忆。智能体：结合复杂行为与外部工具。链式结构：连接方法与模块。

本章将更详细地探索这些生成式模型，深入研究提示工程、基于生成模型的推理过程、结果验证，乃至评估其输出质量的方法论。通过系统性的学习路径，读者不仅能掌握生成式AI的核心原理，更能获得实际应用中的关键技巧。

尽管近年来像分类这样的监督技术在行业中占据主导地位，但文本聚类等无监督技术的潜力仍不可小觑。文本聚类的目标是根据语义内容、含义和关系对相似文本进行分组。由语义相似文档形成的聚类结果不仅能够高效地对大量非结构化文本进行分类，还为快速探索性数据分析提供了可能。

自然语言处理中的一项常见任务是分类任务。该任务的目标是训练模型为输入文本分配一个标签或类别（见图4-1）。文本分类在全球范围内广泛应用于多种场景，包括情感分析、意图检测、实体抽取和语言检测等领域。无论是表示型语言模型（如BERT）还是生成型语言模型（如GPT），它们对分类任务的影响均不可忽视。在本章中，我们将探讨利用语言模型进行文本分类的多种方法。作为使用预训练语言模型的入门指引，我们将呈现这个领域的全景视图。鉴于文本分类的广泛性，我们将通过多种技术方案深入。

现在我们已经对分词和词嵌入有了基本认识，接下来可以更深入地探讨语言模型的工作原理。本章我们将解析Transformer语言模型的核心技术原理，重点聚焦文本生成模型，以帮助读者特别加深对生成式大语言模型（LLMs）运作机制的理解。我们将同时探讨相关概念，并提供一些代码示例来演示这些原理。首先，我们将加载一个语言模型，并通过声明一个管道来为生成任务做好准备。在初次阅读时，可以选择跳过代码部分，集中精力理解相关概念。随后在第二次阅读时，可以通过代码来实际应用这些概念。

词元和嵌入是使用大型语言模型（LLMs）的两个核心概念。正如我们在第一章中所看到的，它们不仅对于理解语言AI的历史非常重要，而且如果我们没有对词元和嵌入有一个良好的认识，我们就无法清楚地了解LLMs的工作原理、它们是如何构建的，以及它们将来会走向何方。在本章中，我们将更仔细地研究什么是词元以及用于支持大型语言模型（LLM）的分词方法。

自2012年起，基于深度神经网络的人工智能系统研发进入快速通道，将这一技术推向了新高度：至2019年底，首个能够撰写与人类文章真假难辨的软件系统问世，这个名为GPT-2（生成型预训练变换模型2）的AI模型开启了新纪元。2022年ChatGPT的发布标志着技术质变，它不仅革新了人机交互方式（推出5天即突破百万用户，2个月后活跃用户过亿），更展现出从文本生成、多语言翻译到知识提炼的通用能力，迅速成为程序开发、教学科研领域的革命性工具。这些本地模型的一个主要优势是，作为用户的您对模型拥有完全的控制权。