【动手学深度学习】Task08笔记汇总

Task08：文本分类；数据增强；模型微调

 

文本分类：

终于来到了我感兴趣的东西，如何教会机器进行情感分析。目标是通过给定的不定长文本序列输出情绪类别，运用了预训练的词向量和多隐藏层的双向RNN和CNN，是词嵌入的下游应用。

 

数据增强：

随机改变样本从而降低模型对属性的依赖性，并且也可以扩大数据集规模。

例如：翻转、裁剪、变化颜色（亮度、对比度、跑合度、色调）以及以上各种变化的复合叠加

运用图像增广方法其实对数据集特点也有要求

 

模型微调：

站在巨人肩膀上看报纸的感觉

1.有源模型和目标模型

2.除了输出层之外复制所有源模型参数、做一些微调、对输出层使用较大的学习率，对其他层使用较小的学习率。

3.热狗识别要在不饿的情况下做，对ResNet模型进行微调从而判别图像中是否包含热狗

4.成员变量fc

 

 

 

 

我来了我来了还在写还在写