10、自然语言处理中的特征提取与编码

自然语言处理中的特征提取与编码

在自然语言处理（NLP）领域，准确理解和处理文本信息至关重要。本文将深入探讨命名实体识别、介词词义消歧、依存句法分析等任务中的特征提取方法，以及如何将文本特征编码为适合分类器输入的特征向量。

1. 命名实体识别（NER）

命名实体识别任务旨在给定文档中找出如人名、地名、组织机构名等命名实体，并将其分类到预定义的类别中，如位置（LOCATION）、组织（ORGANIZATION）、人物（PERSON）或其他（OTHER）。该任务具有上下文依赖性，例如“Milan”既可以指城市，也可以指体育团队。

1.1 示例与输出

输入句子 “John Smith, president of McCormik Industries visited his niece Paris in Milan, reporters say.” 的预期输出为 “[PER John Smith], president of [ORG McCormik Industries] visited his niece [PER Paris] in [LOC Milan], reporters say.”。

1.2 BIO 编码标签

通常将 NER 任务建模为序列标注任务，使用 BIO 编码标签为每个单词分配标签，具体如下表所示：
| Tag | Meaning |
| — | — |
| O | Not part of a named entity |
| B - PER | First word of a person name |
| I - PER | Continua