- 博客(2)
- 收藏
- 关注
RSS订阅原创 《Structured Knowledge Distillation for Semantic Segmentation》
摘要 本文研究了利用大网络训练小语义分割网络的知识蒸馏策略，从简单的像素点蒸馏方案开始，将蒸馏方案应用于图像分类，并分别对每个像素进行知识蒸馏。此外，本文提出将结构化知识从大网络提取到小网络。本文主要研究了两种结构化的蒸馏方案： （1）提取成对相似性的成对蒸馏； （2）使用GAN提取整体知识的整体蒸馏。 通过对三个数据集（Cityscapes、Camvid和ADE20K）的大量实验，证明了...
2019-07-08 15:37:28
545
原创 论文阅读《Convolutional Neural Networks for Sentence Classification》Yoon Kim
摘要：我们报告了一系列在预训练的单词向量之上用卷积神经网络（CNN）训练的实验，用于完成句子级分类任务。我们展示了一个具有很少超参数调整和静态向量的简单的CNN，它可以在多个基准测试中获得出色的结果。学习特定任务的向量通过微调可以进一步有很好的表现。为了使用特定任务向量和静态向量，我们对架构进行了简单的修改。我们在这里讨论的七个任务中，有四个取得了目前最好的结果，其中包括情感分析和问题分类。 模...
2019-02-27 13:46:15
1134
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人