多标签分类的表示学习与竞赛解决方案
1. 多标签文本分类的额外验证:SIAM 2007 数据集
在文本挖掘领域,常用词袋(或更通用的 n - 元语法)来表示文档。为每个文档 - 术语对赋予权重,如 TF - IDF 频率。这种表示通常维度高,只有少数非零项对应文档中出现的 n - 元语法。
1.1 数据集介绍
选用 SIAM 2007 竞赛使用的 ASRS(航空安全报告系统)数据集。该数据集约有 21000 个训练文档和 7000 个测试文档,标签是 22 维二进制向量,代表一个或多个飞机安全问题,如天气、燃油紧急情况、乘客干扰、飞行员注意力和跑道障碍物等。
1.2 数据预处理与模型选择
为获取文档的初始表示,先对数据进行预处理,包括转换为小写和去除停用词。然后选取 5000 个最频繁的词,构建未归一化 TF - IDF 值的文档 - 术语矩阵。IDF 值从训练集获取,并结合每个测试点计算的频率应用。模型选择与 JRS 竞赛数据的方式相同,使用相同数量的主成分(1600)和基(3200)。
1.3 分类性能比较
方法 | 精度 | 召回率 | F - 度量 | 误差 |
---|---|---|---|---|
SIAM 获胜者(分数) | 61.53 | 62.37 | 61.95 | 6.80 |