15、物联网与人工智能技术在文本和多媒体挖掘中的应用

物联网与人工智能技术在文本和多媒体挖掘中的应用

1. Word2Vec结构

Word2Vec可采用两种结构之一：持续跳字模型（persistent - skip - gram）或连续词袋模型（consistent bag of words，CBOW）。
- 持续跳字模型 ：通过当前词来预测相邻窗口内的上下文词，更重视相邻的上下文词，而不是偏移较远的词。
- 连续词袋模型 ：上下文词的顺序不影响预测，它基于词袋模型。

2. 文本挖掘的机器学习算法

在文本分类中，常用的人工智能算法有朴素贝叶斯（Naïve Bayes，NB）算法族、支持向量机（SVM）和深度学习算法。
- 朴素贝叶斯算法族
- 基于贝叶斯定理和样本文本中词汇在给定标签文本集中出现的条件概率。
- 表示文本的向量编码了文本中词汇在给定标签文本中出现的可能性信息。
- 根据这些信息计算文本属于某个标签的概率，最终分类模型输出概率最高的标签。
- 优点是即使训练数据很少，结果也可能不错。
- 支持向量机（SVM）
- 能将有标签文本的向量空间划分为两个子空间，一个包含大量属于给定标签的向量，另一个包含大部分不属于该标签的向量。
- 分类模型将文本转化为向量，确定向量位于划分向量空间边界的哪一侧，从而判断文本是否属于给定标签。
- 优点是结果通常比朴素贝叶斯算法好，但需要更多的计算资源。
- 深度学习算法