19、自然语言处理中的结构化预测技术：从生成模型到基于转换的方法-优快云博客

本文链接：https://blog.youkuaiyun.com/ansible6ops/article/details/151094772

自然语言处理中的结构化预测技术：从生成模型到基于转换的方法

1. 结构化预测中的常用技术

在结构化预测中，多种技术被广泛应用。例如，概率链规则、独立性假设和贝叶斯规则用于生成模型的参数化，而动态规划则用于解码以及在对数线性模型训练中计算边际概率。这些技术对于设计解决其他自然语言处理（NLP）任务的结构化预测模型非常有用。

依赖树是另一种用于表示语法的典型树结构。研究文献中已经对动态规划解码器和大间隔判别模型在依赖解析任务中的应用进行了探讨。与其他任务类似，依赖解析的动态解码器要求特征具有局部性，即特征的上下文范围较小。例如，弧因子模型将特征限制在单个依赖弧上，允许以 $O(n^3)$ 的时间复杂度进行精确推理，其中 $n$ 是输入句子的长度。特征上下文范围越大，时间复杂度越高。为了在不影响运行效率的情况下更好地利用非局部信息，人们开发了近似推理算法。