自然语言处理(国科大2021-2022秋季学期课程)-基础概念及算法

自然语言处理-刘洋-国科大2021-2022秋季学期课程


声明: 部分图片来自于课程讲义,(刘洋,宗成庆)

数学基础

拉格朗日乘子法

在这里插入图片描述
在这里插入图片描述

熵、相对熵、交叉熵

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

隐马尔科夫模型

马尔科夫模型

前向、后向算法:观测状态序列概率计算

前向概率

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

后向概率

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Viterbi算法:最优隐状态序列计算

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

支持向量机

KKT条件

在这里插入图片描述
⽀持向量机中的KKT条件:
在这里插入图片描述

松弛变量

在这里插入图片描述

神经网络

递归神经网络

在这里插入图片描述
循环神经⽹络的⼀⼤特点是通过参数共享实现参数规模与序列长度的⽆关性,从⽽显著降低了存储要求。

循环神经⽹络的另⼀个特点是串⾏计算。由于输⼊向量、隐藏向量和输出向量在不同位置上存在着严格的依赖关系,必须等待前继向量计算完成,才能够计算后继向量。

卷积神经网络

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

多通道卷积

在这里插入图片描述

注意力神经网络

在这里插入图片描述
在这里插入图片描述

语言模型

n-gram

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

数据平滑

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

词法分析

基本概念

在这里插入图片描述

组合型歧义与交集型歧义

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

分词与词性标注结果评价方法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

汉语自动分词基本算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

句法分析

[考试要求] 句法分析这一部分的重点是CFG分析算法、PCFG算法、决策式的(确定性的)依存句法分析方法、依存句法分析器性能评价
在这里插入图片描述

短语结构分析

短语结构分析的基本方法可以分为以下两类:
在这里插入图片描述
在这里插入图片描述

线图分析法(Chart Parsing)

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

请添加图片描述
在这里插入图片描述

CYK分析算法

[考试要求] 不需要掌握乔姆斯基文法范式化的过程,重点掌握识别矩阵的构造方法
完整的CYK分析算法流程描述如下:1. 首先需要完成对句子的分词以及词性标注;2. 构造识别矩阵;3. 对识别矩阵完成分析过程。

结合例子说明CYK分析算法,给定一个文法G(S),以及一个待分析的句子The boy hit the dog with a rool

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值