【科普小白】LLM大语言模型的基本原理

一、要了解LLM大模型的基本原理就要先来了解一下自然语言处理（NLP）。

NLP 是 AI 的一个子领域，专注于使计算机能够处理、解释和生成人类语言，主要任务包括：文本分类、自动翻译、问题回答、生成文本等。到底是NLP促生了LLM还是LLM激活了NLP，这个大家可以自行深度思考一下！！！

 

在 LLM 诞生之前，NLP 一直在匍匐前进，异常的艰难，直到 LLM 的出现，才彻底的改变了 NLP 的现状。

但是没有NLP也不会有LLM的爆发，在定义上，NLP和LLM虽各有侧重，但它们的关系密不可分。NLP是目的，LLM是手段；NLP是问题的提出者，LLM是解决方案的一部分。随着LLM的进化，NLP的边界也在不断拓展，二者形成了一种共生关系。

二、什么是 LLM？

大语言模型：LLM（Large Language Models），是试图完成文本生成任务的一类 ML（Machine Learning，机器学习）模型。

LLM 使计算机能够处理、解释和生成人类语言，从而提高人机交互效率。为了做到这一点，LLM 会分析大量文本数据或基于这些数据进行训练，从而学习句子中各词之间的模式和关系。

这个学习过程可以使用各种数据源，包括维基百科、Reddit、成千上万本书，甚至互联网本身。

在给定输入文本的情况下，这个学习过程使得 LLM 能够预测最有可能出现的后续单词，从而生成对输入文本有意义的回应。

在过去的 2