- 博客(3)
- 收藏
- 关注

原创 【学习总结+论文复现】知识蒸馏Knowledge Distillation学习一条龙(完结)
本文章以2020年《Contrastive Representation Distillation》的知识蒸馏技术为学习基础来学习知识蒸馏技术。此外还涉及了最新的知识蒸馏方法。例如,DKD,KD++,Review KD,多出口网络+集成学习KD,DisWOT,MSFF,CMKD,CTKD,MGD,PEFD,SimKD,Logits标准化KD,SDD。
2024-05-06 08:35:35
12368
80
原创 Redis技术学习笔记
Redis 是一个高性能的key-value数据库。redis的出现,很大程度补偿了memcached这类keyvalue存储的不足,在部 分场合可以对起到很好的补充作用。它提供了Python,Ruby,Erlang,PHP,使用很方便。
2024-04-20 19:51:54
1595
1
原创 知识蒸馏综述2021(Jianping Gou · Baosheng Yu)
本文从知识类别、培训方案、师生架构、蒸馏算法、性能比较和应用等角度对知识蒸馏进行了全面的综述。此外,简要回顾了知识蒸馏中的挑战,并对未来的研究进行了讨论和展望。
2023-04-12 16:06:52
778
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人