画心

现有的关于转置卷积的介绍大多流于表面，并未详细的说明这一操作内部具体的操作流程。由于转置卷积的设计主要是为了对标标准卷积，所以其实现流程与标准卷积基本相反，所以内部的操作逻辑并不直观。其按照卷积的相反逻辑的参数设置方式，这种反逻辑的形式使得我们很难直接从参数的角度去理解。and thepaper.这里面涉及到了多个参数，包括这样的一看就可以理解对的参数，也有一些实际情况和我们想的并不一致的参数。

这一函数用于实现对高维tensor的形状补齐操作。模式中，padding的数量不得超出原始tensor对应维度的大小。常见的错误主要是因为padding的数量超过了对应模式的要求。模式中，padding的数量必须小于对应维度的大小。对于padding并没有限制。

本文讨论了如何通过RGB-D图像对实现照片虚化。

编码错误反思

PyTorch 提供了一种非常方便的节省显存的方式，就是 Checkpoint 机制。这篇文章的目的在于更透彻的了解其内在机制。

PyTorch 使用中，由于显卡显存是固定的，并且短期内难以进一步提升，所以掌握显存具体占用的细节有助于我们写出更加高效的代码，甚至跑出更好的结果。

空间偏移操作是一种对于常规卷积的替代形式，本文列举了PyTorch的5种实现空间偏移的方法。

PyTorch中的BN在训练和测试时通常会对参数进行不同的设置。这之中会涉及到多个不同的参数和概念，这些组合又会如何影响BN的行为呢？

PyTorch的多卡程序中你可能讲过Barrier，这篇文章会展现更多的细节。

在PyTorch中如何高效的实现One-Hot编码？让本文给你一些建议。

Vision MLP 之 S2-MLP V1&V2 : Spatial-Shift MLP Architecture for Vision原始文档：https://www.yuque.com/lart/papers/dgdu2b这里将会总结关于 S2-MLP 的两篇文章。这两篇文章核心思路是一样的，即基于空间偏移操作替换空间 MLP。从摘要理解文章V1Recently, visual Transformer (ViT) and its following works abandon t

PyTorch中相对位置自注意力的实现细节原始文档：https://www.yuque.com/lart/ugkv9f/oazsec文章目录PyTorch中相对位置自注意力的实现细节参考前言代码分析提前的思考背后的动机对应的流程参考AI SUMMER这篇文章写的很好，很直观，很清晰：https://theaisummer.com/positional-embeddings/前言这里讨论的相对位置编码的实现策略来自于Music Transformer。这里有一篇介绍性的文章：https:

PyTorch使用LMDB数据库加速文件读取文章目录PyTorch使用LMDB数据库加速文件读取背景介绍具体操作LMDB主要类`lmdb.Environment``lmdb.Transaction``Imdb.Cursor`操作流程创建图像数据集配合DataLoader参考链接原始文档：https://www.yuque.com/lart/ugkv9f/hbnym1对于数据库的了解较少，文...

Pytorch之训练器设置文章目录Pytorch之训练器设置引言tensorboardX优化器模型保存与恢复进度展示整体代码引言深度学习训练的时候有很多技巧, 但是实际用起来效果如何, 还是得亲自尝试.这里记录了一些个人尝试不同技巧的代码.tensorboardX说起tensorflow, 我就一阵头大, google强力的创造了一门新的语言! 自从上手Pytorch后, 就再也不想回...

生产与学术文章目录生产与学术这两天导出整体模型caffe2模型转换预处理的补充安卓的尝试[AiCamera](https://github.com/caffe2/AICamera)[AICamera-Style-Transfer](https://github.com/caffe2/AICamera-Style-Transfer)[JejuNet](https://github.com/tant...

文章目录问题说明问题分析实现过程代码文档：https://github.com/lartpang/mypython/blob/master/2019-09-25%E8%AE%A1%E7%AE%97%E5%B1%80%E9%83%A8%E7%9B%B8%E5%85%B3%E6%80%A7%E7%9F%A9%E9%98%B5/%E8%AE%A1%E7%AE%97%E5%B1%80%E9%83%A8...

PyTorch之爱因斯坦求和约定文章目录PyTorch之爱因斯坦求和约定关于`einsum`维度记忆的小技巧网上关于这个函数：torch.einsum的介绍已经很多了，这里列出我重点看过的一篇文章。einsum满足你一切需要：深度学习中的爱因斯坦求和约定这篇文章写的非常棒，很详细。这里写个简单的例子，对于论文A Gift from Knowledge Distillation: Fa...

PyTorch同时读取两个数据集实现半监督学习文章目录PyTorch同时读取两个数据集实现半监督学习写在开头TODO方法一：通过对`__getitem__`的索引进行计算，按照比例关系选择对应数据集的数据方法二：直接在`__getitem__`中一次性读取最简化比例数量的样本补充方法三：改造DataLoader`sampler`、`batch_sampler``collate_fn`More写...

PyTorch中的梯度累加。

Kronecker Product及pytorch实现文章目录Kronecker Product及pytorch实现计算过程PyTorch实现参考资料原始文档：https://www.yuque.com/lart/idh721/gb2h93计算过程[a11a12a13a21a22a23],B=[b11b12b21b22b31b32],A⊗B=[a11b11a11b12a12b11a12...