14、大语言模型（LLMs）与Haskell框架的深度解析

大语言模型（LLMs）与Haskell框架的深度解析

1. 大语言模型（LLMs）概述

大语言模型（LLMs）本质上是一种人工神经网络（ANN），其核心功能是在给定一系列所谓“标记”（tokens）的上下文后，预测下一个标记出现的概率。近年来，通过“注意力”技术，LLMs在感知上下文方面取得了显著进展，能够处理更多的输入信息且不致迷失，但核心原理始终未变。

1.1 标记（Tokens）的作用

标记是几个符号，可以是一个简短的英文单词，也可以是较大单词的一部分。相较于基于完整单词或单个字符训练LLMs，使用标记是一种更优的解决方案。因为基于完整单词训练，LLMs对复杂或不存在的单词学习效果不佳；基于单个字符训练，则会产生过多噪声。

1.2 LLMs的高效表现与推理能力

LLMs在某些任务上表现出色，甚至让人觉得它们具备“推理”能力。例如，对于常见问题“多少个网球能装进波音747飞机”，由于训练数据中多次出现该问题的答案，LLMs能够准确回答。而对于类似但未在训练数据中明确表述的问题，如“多少个儿童积木能装进特斯拉汽车”，它们也能给出相近的思路，展现出一定的推理能力。

1.3 向量嵌入与向量数据库

向量嵌入催生了向量数据库，这是人工智能领域发展迅速的一个方向。向量数据库允许基于“语义”而非关键词进行搜索，在后续应用中具有重要意义。

2. LLMs的优势与局限

2.1 LLMs的优势

LLMs在多个方面表现出色，具体如下：
|应用场景|描述|
| ---- | ---- |
|文本转换|借助向量嵌入