pytorch masked_fill

最新推荐文章于 2025-05-19 16:50:36 发布

昕晴

最新推荐文章于 2025-05-19 16:50:36 发布

阅读量1w

点赞数 4

CC 4.0 BY-SA版权

分类专栏： pytorch

本文链接：https://blog.youkuaiyun.com/qq_40210472/article/details/88826821

pytorch 专栏收录该内容

13 篇文章

订阅专栏

本文介绍如何在PyTorch中使用masked_fill方法来修改张量中的特定元素，并给出一个具体的例子，展示了如何将mask为1的位置用特定值替换，并进行softmax操作。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import torch.nn.functional as F
import numpy as np
a = torch.Tensor([1,2,3,4])
a = a.masked_fill(mask = torch.ByteTensor([1,1,0,0]), value=-np.inf)

print(a)
b = F.softmax(a)
print(b)

tensor([-inf, -inf, 3., 4.])
d:/pycharmdaima/star-transformer/ceshi.py:8: UserWarning: Implicit dimension choice for softmax has been deprecated. Change
the call to include dim=X as an argument.
b = F.softmax(a)
tensor([0.0000, 0.0000, 0.2689, 0.7311])

容易报错： Expected object of scalar type Byte but got scalar type Long for argument #2 'mask'

原因，mask = torch.LongTensor()

解决方法：mask = torch.ByteTensor()

在mask值为1的位置处用value填充。mask的元素个数需和本tensor相同，但尺寸可以不同