23、利用词嵌入技术改进推特文本分类中的心理健康监测

利用词嵌入技术改进推特文本分类中的心理健康监测

1. 引言

随着网络的快速发展，网络用户也在不断变化。人们越来越多地使用社交媒体进行交流、分享和合作。社交媒体网络规模呈指数级增长，这是由于大量的集体信息所致。这种情况导致从数据中提炼知识变得困难，特别是通过人们在推特等社交媒体上留下的评论来监测其心理健康发展。推特作为最受欢迎的社交网站之一，发展迅速，每月活跃用户达2.84亿，每天发布超过5亿条推文。此外，网络上的内容仅适合人类阅读，难以被机器处理，而自然语言处理（NLP）方法在文本分析中发挥了重要作用。

NLP方法的主要优势在于其在文本挖掘中的直接应用。文本挖掘或智能文本分析可以从非结构化的文本数据中获取重要信息和知识。选择合适的NLP技术可以减少寻找模式和决策的时间，因为网络上超过80%的信息以文本形式存储。然而，文本不能直接用于机器学习算法，需要将其编码为数字，作为神经网络模型的输入或输出。

词嵌入或词向量是将单词表示为数字的一种可能方法，在计算语言学中常被称为语义分布。重要的是，词嵌入可以在数值数据中保留有用的含义和相似关系，其核心思想是考虑单词的上下文。一个出现在段落中的单词，其上下文由在固定大小窗口内附近出现的一组单词表示。

其中一种著名的词嵌入算法是Word2Vec，它由基于神经网络开发的两个模型组成，即Skip - gram和Continuous - Bag - of - Word。尽管有这些进展，但大多数词嵌入技术存在一个共同问题，即每个单词必须将其所有潜在含义编码到一个向量中。对于多义词，无论其出现在哪个句子中，其数字表示始终相同，例如“Jaguar”，无论表示动物还是品牌，其矩阵表示都是相同的，这种方法被称为静态词嵌入。