- 博客(4)
- 收藏
- 关注
原创 pytorch训练加速技巧
搭建的模型训练时间过长,除了方法上的改进,在pytorch基本操作上的改进有以下实践与总结。 参考https://blog.youkuaiyun.com/Xw_Classmate/article/details/113362129中的方法。 除了上述方法,以下为个人实践中总结的技巧: 空间换时间:能预处理的数据,尽量预处理之后保存,训练过程中直接使用预处理的数据。 矩阵放在gpu上:对于矩阵运算,尽可能放到gpu上,无论该矩阵是否需要梯度更新。同时能用矩阵表示变换尽可能用矩阵变换表示; 避免使用append操作
2021-06-23 11:34:55
662
原创 注意力机制小结
1. 原理: 关于注意力机制的原理,网上有好多解释,参考一篇博客(https://blog.youkuaiyun.com/malefactor/article/details/78767781)。 注意力机制原理参考了人眼的选择注意机制,对看到的图像有侧重点地关注。常用于encoder-decoder结构中,因此在机器翻译、计算机视觉等场景下都有广泛的应用。关于注意力机制原理的讲解,网上借用Seq2Seq结构帮助理解,具体可参考上述博客。 关于注意力机制的分类方法有好多,较为清晰...
2020-09-15 16:12:15
2073
原创 《Context Prior for Scene Segmentation》的理解
论文题目:用于场景分割的上下文先验 论文地址:https://arxiv.org/pdf/2004.01547.pdf 以下图片是自己做的ppt截图,如有不理解或者错误的地方欢迎指正。 下面是一些典型方法,前三个为基于金字塔结构的,后三个为基于注意力机制的。 ...
2020-08-05 18:12:43
662
4
原创 Deep Snake for Real-Time Instance Segmentation论文理解
用于实时实例分割的Deep Snake算法 论文链接https://arxiv.org/abs/2001.01629 论文代码:https://github.com/zju3dv/snake/ 本人小白,如有理解错误,欢迎指正。 1、研究背景 首先区分三种不同的概念:语义分割、实例分割和全景分割。 语义分割:上左图,需要将图中所有的类别(人、羊、狗以及背景)全部区分,但是对于同属于羊的不同实例不做区分,都标记为一类。 实例分割:如上右图,需将图片中除背景以外的所有实例分割出来...
2020-07-26 17:46:40
1079
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅