15、基于深度学习的通话记录垃圾信息检测

基于深度学习的通话记录垃圾信息检测

1. 引言

在当今数字化时代，垃圾电话和信息泛滥成灾，给人们的生活带来了极大的困扰。为了有效识别和过滤这些垃圾信息，本文介绍了一种基于深度学习的垃圾信息检测方法，该方法通过构建一个两阶段混合模型（2PHM），结合多种技术手段，实现了对通话记录的高效准确分类。

2. 技术原理

2.1 嵌入生成

使用通用句子编码器（USE）技术生成嵌入。这是一种简单但经验上非常强大的方法，允许大量定制。编码后的向量被进一步输入到两个并行模型中，其结果按照 85:15 的权重进行比较。

2.2 模型架构

• 第一管道 ：采用一维卷积网络，随后是最大池化单元。输出再输入到一个深度长短期记忆网络（LSTM），该网络在循环神经网络（RNN）上有两层。
• 第二管道 ：使用词组测试单元，用于早期排除正常数据。如果系统通过简单的词组测试未检测到垃圾意图，则采用基于句子的相似度测试。

2.3 最终分类

最终阶段进行加权比较，对两个管道的输出进行平均，从而做出最终分类。这种方法有助于显著减少测试集中的误报。

3. 具体步骤

3.1 通话转录

为了以最小的延迟和高准确性将语音转换为文本，采用 Google 语音转文本 API。生成的输出包含大量不必要的标点符号和停用词，使用基于语料库中未用于训练的其余句子训练的标准三元模型进行纠正。

3.2 文本预处理