torch.where 防止空操作，避免loss 计算出现nan

最新推荐文章于 2024-06-23 20:57:35 发布

原创最新推荐文章于 2024-06-23 20:57:35 发布 · 849 阅读

1 ·

CC 4.0 BY-SA版权

令人崩溃的坑同时被 2 个专栏收录

11 篇文章

订阅专栏

深度学习部分理解

6 篇文章

订阅专栏

这篇博客探讨了在PyTorch中如何处理因条件筛选导致的空张量问题。通过示例代码展示了如何检查张量是否为空，并在计算损失函数时避免输入空张量导致的`nan`损失。文章强调了在处理高维度空张量时，应当先检查张量长度，以确保后续计算的正确性。

部署运行你感兴趣的模型镜像

import torch
y=torch.tensor([1,0])
x=torch.tensor([[1,2,3],[1,23,4]])
print(x[torch.where(y>10)])
diff=x[torch.where(x>100)]
''' 通过求和 无法解决高维度的空张量 tensor([], size=(0, 3), dtype=torch.int64)'''

y=sum(torch.tensor([[[]]]))
print(y)

''' 可以先取出张量的数据，再通过数据长度进行空操作判断 '''
print(diff.data)
torch_tensor = diff.data

''' 这样就可以避免 torch.where 取出空张量，在计算loss函数时候，如果传入两个空的张量，会造成 nan的loss '''

if len(torch_tensor)==0:
	print("this tensor is empty")
else:
	print("this tensor is not empty")
c=torch.nn.MSELoss()
print(c(torch.tensor([]),torch.tensor([])))

以下是代码输出：