n-gram模型是自然语言处理中的一种方法，通过考虑前后文的n个词汇来预测下一个词出现的概率。从uni-gram到tri-gram，模型复杂度逐渐增加，效果也相应提升。为了解决数据稀疏导致的零概率问题，可以采用数据平滑技术。常见的应用包括智能输入法如智能狂拼、微软拼音。语言模型还可以通过缓存、混合方法或最大熵模型进行自适应改进。
n 元文法(n-gram)模型。
通常地，当n=1时，即出现在第i位上的基元wi独立于历史；一元文法也被写为uni-gram或monogram。
当 n=2 时，2-gram(bi-gram) 被称为1阶马尔可夫链。
当 n=3 时，3-gram(tri-gram)被称为2阶马尔可夫链。
依次类推。
为了保证条件概率在 i=1 时有意义，同时为了保证句子内所有字符串的概率和为 1，即可以在句子首尾两端增加两个标志: <BOS>w1 w2 w3 w4……wm <EOS>
如果汉字的总数为:N
最低0.47元/天 解锁文章
扫一扫
765
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
