15、文本分类：从传统方法到深度学习及模型解释

文本分类：从传统方法到深度学习及模型解释

1. 传统模型的特征提取与问题

在文本分类任务中，由于超参数选择存在一定随机性，每次提取的推断向量都会有所不同。为了获得稳定的表示，我们需要多次运行（即步骤）并聚合这些向量。以下是使用训练好的 Doc2Vec 模型推断特征并训练逻辑回归分类器的代码：

#Infer the feature representation for training and test data using 
#the trained model
model = Doc2Vec.load("d2v.model")
#Infer in multiple steps to get a stable representation
train_vectors =  [model.infer_vector(list_of_tokens, steps=50) 
              for list_of_tokens in train_data]
test_vectors = [model.infer_vector(list_of_tokens, steps=50) 
              for list_of_tokens in test_data]
myclass = LogisticRegression(class_weight="balanced")  
#because classes are not balanced
myclass.fit(train_vectors, train_cats)
preds = myclass.predict(test_vectors)
print(classificatio