
Pytorch
文章平均质量分 68
越来越胖的GuanRunwei
前WEB开发码农,.NET发烧友,前NLP菜鸡,利物浦大学在读博士
展开
-
DETR的位置编码
记录一下,以防忘记。首先,致谢知乎vincentDETR中有这样一个类和一个包装函数假如batch_size=2,有两张图片分别为我们使用函数将它们打包在一块,这里调用了类,它的作用就是构成 {tensor, mask} 这么一个数据结构,在这里,tensor就是图片的值,那mask是啥?原创 2023-07-19 16:41:37 · 2168 阅读 · 0 评论 -
记多任务基础模型的常见bug和debug历程
记多任务基础模型的常见bug和debug历程原创 2023-05-22 20:11:34 · 1515 阅读 · 1 评论 -
PyTorch处理RNN输入变长序列padding
为什么RNN需要处理变长输入假设我们有情感分析的例子,对每句话进行一个感情级别的分类,主体流程大概是下图所示:思路比较简单,但是当我们进行batch个训练数据一起计算的时候,我们会遇到多个训练样例长度不同的情况,这样我们就会很自然的进行padding,将短句子padding为跟最长的句子一样。比如向下图这样:但是这会有一个问题,什么问题呢?比如上图,句子“Yes”只有一个单词,但是padding了5的pad符号,这样会导致LSTM对它的表示通过了非常多无用的字符,这样得到的句子表原创 2022-04-20 10:27:35 · 1252 阅读 · 0 评论 -
PyTorch何时使用transpose和permute
前言transpose和permute作为PyTorch中的两大转置函数transpose参数 input(Tensor) – 输入的张量 dim0(int) – 转置的第一个维度 dim1(int) – 转置的第二个维度 返回值Returns a tensor that is a transposed version ofinput. The given dimensionsdim0anddim1are swapped.Ifinp...原创 2022-03-24 09:24:54 · 3404 阅读 · 0 评论 -
详解PyTorch中的contiguous
目录前言PyTorch中的is_contiguous是啥?行优先为什么需要contiguous?为什么不在view方法中默认调用contiguous方法?前言contiguous 本身是形容词,表示连续的,关于 contiguous,PyTorch 提供了is_contiguous、contiguous(形容词动用)两个方法 ,分别用于判定Tensor是否是 contiguous 的,以及保证Tensor是contiguous的。PyTorch中的is_con...原创 2022-03-20 11:56:21 · 1163 阅读 · 0 评论 -
解决方案:RuntimeError: Given groups=1, weight of size [768, 3, 16, 16], expected input[1, 4, 384, 384]
添加 .convert('RGB')file = Image.open(file_tmp).convert('RGB')原创 2021-11-30 21:00:36 · 2697 阅读 · 1 评论 -
全网独家 Loaded runtime CuDNN library: 8.0.5 but source was compiled with: 8.1.0. 解决方案
翻译:加载的cuDNN是8.0.5,但是tensorflow的源需要的版本是8.1.0直观原因:版本冲突解决方案:确认了自己的cuda和cudnn版本与tensorflow适配无误后,开始检查系统中所有的包含cuda和cudnn依赖的软件,期间卸载了matlab但是没有用,后来想到了pytorch也同样和cuda以及cudnn有关联,我查看了一下pytorch的版本发现我用的是torch 1.8,它所适配的cuda是11.1,对应的cudnn是8.0.5,这下破案了。最后升级了一下pytorch,解原创 2021-11-09 09:48:31 · 4573 阅读 · 1 评论 -
pytorch之view函数
改变形状注意 view() 返回的新tensor与源tensor共享内存(其实是同⼀个tensor),也即更改其中的⼀个,另 外⼀个也会跟着改变。(顾名思义,view仅是改变了对这个张量的观察角度)代码:x = torch.FloatTensor([[1, 2, 3], [2, 3, 4], [3, 4, 5], [4, 5, 6], [5, 6, 7]])y = x.view(15)z = y.view(-1, 5)输出:torch.Size([5, 3]) torch..原创 2020-07-27 21:24:11 · 1484 阅读 · 0 评论