torch.triu(input, diagonal=0, out=None)

最新推荐文章于 2025-06-09 07:50:41 发布
原创 最新推荐文章于 2025-06-09 07:50:41 发布 · 1.8w 阅读 · 35 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细介绍了 PyTorch 中的 triu 函数，该函数用于从输入矩阵中提取上三角部分，并将剩余部分设为零。文章通过实例展示了如何使用 diagonal 参数来控制上三角部分的具体范围。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

torch.triu(input, diagonal=0, out=None) → Tensor
返回矩阵上三角部分，其余部分定义为0。
Parameters:

  • input (Tensor) – the input tensor
  • diagonal (int, optional) – the diagonal to consider
  • out (Tensor, optional) – the output tensor
    如果diagonal为空，输入矩阵保留主对角线与主对角线以上的元素；
    如果diagonal为正数n，输入矩阵保留主对角线与主对角线以上除去n行的元素；
    如果diagonal为负数-n，输入矩阵保留主对角线与主对角线以上与主对角线下方h行对角线的元素；
>>> a = torch.randn(3, 3)
>>> a
tensor([[ 0.2309,  0.5207,  2.0049],
        [ 0.2072, -1.0680,  0.6602],
        [ 0.3480, -0.5211, -0.4573]])
>>> torch.triu(a)
tensor([[ 0.2309,  0.5207,  2.0049],
        [ 0.0000, -1.0680,  0.6602],
        [ 0.0000,  0.0000, -0.4573]])
>>> torch.triu(a, diagonal=1)
tensor([[ 0.0000,  0.5207,  2.0049],
        [ 0.0000,  0.0000,  0.6602],
        [ 0.0000,  0.0000,  0.0000]])
>>> torch.triu(a, diagonal=-1)
tensor([[ 0.2309,  0.5207,  2.0049],
        [ 0.2072, -1.0680,  0.6602],
        [ 0.0000, -0.5211, -0.4573]])
pytorch，torch.triu实例
Love-Coding
02-20 2342
>>> a = torch.randn(3, 3) >>> a tensor([[ 0.2309, 0.5207, 2.0049], [ 0.2072, -1.0680, 0.6602], [ 0.3480, -0.5211, -0.4573]]) >>> torch.triu(a) tensor([[ 0.2309, 0.5207...
PyTorch学习笔记：基础语法及应用
一颗胡萝卜的秘密基地
01-24 997
import torch v = torch.__version__ cu = torch.cuda.is_available() k = torch.tensor([1.2, 3.4]).dtype x = torch.tensor((1, 2, 3), dtype=torch.float32, requires_grad=True) y = x.pow(2) z = y.sum() z.backward() # 参数必须是个标量 print(x.grad) print(x, y, z) # .
TORCH.TRIU
张小猪的家
06-24 4453
torch.triu(input, diagonal=0, *, out=None) → Tensor 返回一个上三角矩阵 参数： input：输入的张量 diagonal：对角线 >>> a = torch.randn(3, 3) >>> a tensor([[ 0.2309, 0.5207, 2.0049], [ 0.2072, -1.0680, 0.6602], [ 0.3480, -0.5211, -0.457.
2025年 GitHub 与 Stack Overflow 中 20 大经典前端 Bug 总结
最新发布
silverclayz的技术分享
06-09 993
《2025年github与stackoverflow》中20大经典前端bug与解决方案大总结，详细列举bug分类，区分初中高级前端的应对时间与troubleshooting能力清单。
torch.triu
qq_39398917的博客
06-06 1843
总之,torch.triu()是一个用于获取矩阵上三角或下三角部分的简单但非常有用的函数,可以用于遮挡、矢量化和矩阵操作等目的。作用：用于获取矩阵的上三角部分。取主对角线之上的元素。取对角线之上的元素。取对角线之下的元素。
torch.diagonal()
weixin_44248411的博客
04-02 8463
torch.diagonal()函数规则 定义：返回一个局部视图（类似于数据库里面的视图，但是属实没太弄明白返回的规则） 引用一下官方文档（简单的能看懂，复杂的属实看不懂，而且相关的解释也没找到，只有自己总结，总结的不是很全面，希望大佬能够指点迷津） 参数有四个 input (Tensor) – the input tensor. Must be at least 2-dimensional. offset (int, optional) – which diagonal to consider. Def
torch.diagonal(input, offset=0, dim1=0, dim2=1)
Demo_Ding的博客
04-18 846
返回输入值的局部视图，并将其相对于 dim1 和 dim2 的对角线元素作为一个维度添加到形状的末尾。
class MAB(nn.Module): def __init__(self, dim_q: int, dim_k: int, dim_v: int, num_heads: int, layer_norm: bool = False): super().__init__() self.dim_q = dim_q #256 self.dim_k = dim_k #256 self.dim_v = dim_v #256 self.num_heads = num_heads #8 self.fc_q = nn.Linear(dim_q, dim_k) # 256->256 self.layer_k = nn.Linear(dim_k, dim_v) # 256->256 self.layer_v = nn.Linear(dim_v, dim_v) # 256->256 self.layer_norm = layer_norm if self.layer_norm: self.ln0 = nn.LayerNorm(dim_v) self.ln1 = nn.LayerNorm(dim_v) self.fc_out = nn.Linear(dim_v, dim_v) # 256->256 def reset_parameters(self): self.fc_q.reset_parameters() self.layer_k.reset_parameters() self.layer_v.reset_parameters() if self.layer_norm: self.ln0.reset_parameters() self.ln1.reset_parameters() self.fc_out.reset_parameters() pass def forward(self, q: Tensor, k: Tensor,mask: Optional[Tensor] = None)->Tensor: q = self.fc_q(q) #L*256 #print("q",q) #print("q",q.shape) k = k.unsqueeze(0) k,v = self.layer_k(k) , self.layer_v(k) #print("k",k) #print("k",k.shape) dim_split = self.dim_v // self.num_heads q_ = torch.cat(q.split(dim_split, 2), dim=0) k_ = torch.cat(k.split(dim_split, 2), dim=0) v_ = torch.cat(v.split(dim_split, 2), dim=0) #print("q_",q_.shape) #print("k_",k_.shape) #注意力计算 if mask is not None: mask = torch.cat([mask for _ in range(self.num_heads)], 0) attention_score = q_.bmm(k_.transpose(1, 2)) attention_score = attention_score / math.sqrt(self.dim_v) A = torch.softmax(mask + attention_score, -1) else: A = torch.softmax( q_.bmm(k_.transpose(1, 2)) / math.sqrt(self.dim_v), -1) #print("A",
03-22
mask = torch.triu(torch.ones(L, L), diagonal=1).bool() ``` **应用原理**： - 在计算$QK^T$后，将mask位置设置为$-inf$（实际实现中常用$-1e9$） - 使得softmax后对应位置权重接近0，公式表达： $$A = \text{...
torch(七)、Math operations(2)
weixin_36670529的博客
08-29 3909
目录 Spectral Ops torch.fft(input, signal_ndim, normalized=False) → Tensor torch.ifft(input, signal_ndim, normalized=False) → Tensor torch.rfft(input, signal_ndim, normalized=False, onesided=True) →...
pytorch(其他操作)
qq_44815135的博客
06-05 1190
深拷贝是指创建一个新对象，将被复制对象的所有内容逐个复制到新对象中，包括对象的所有属性和嵌套对象。torch.diag_embed() 是 PyTorch 中的一个函数，用于创建一个以给定对角线元素填充的张量，或者将一维张量转换为对角矩阵。torch.diag() 是 PyTorch 中的一个函数，用于创建一个以给定对角线元素填充的张量，或者从一个二维张量中提取对角线元素。torch.diagflat() 是 PyTorch 中的一个函数，用于创建一个以给定一维张量进行扁平化后的元素填充的张量。
Pytorch第三课：package-torch.Tensor包详解
【人工智能】王小草的博客
11-28 3402
微博：https://weibo.com/wangxiaocaoai/profile?rightmod=1&wvr=6&mod=personinfo 微信公众号：搜索"AI躁动街" 本节要点： 1 张量的类型 2 张量的创建 3 张量的索引与切块 4 张量的操作 4.1 操作名有无下划线的区别 4.2 torch.Tensor所有操作列表 4.3 torch.Tensor操作举例...
PyTorch torch.triu
程永强
06-20 6280
PyTorch torch.triu
torch.diagonal取三维张量的各自二维张量的对角线
believe__m的博客
08-05 2705
torch.diagonal取三维数组的各自二维数组的对角线
Pytorch torch.triu()详解
Decennie的博客
08-04 1807
torch.tril详解
python torch.triu()函数
薰珞婷紫小亭子的博客
10-06 5570
torch.triu()
torch.triu()
qq_50799276的博客
06-05 1942
torch.triu()
Pytorcg torch.triu
weixin_44317740的博客
10-22 445
torch.triu(input, diagonal=0, out=None) torch.triu(input, diagonal=0, out=None) → Tensor 返回矩阵上三角部分，其余部分定义为0。 Parameters: input (Tensor) – the input tensor diagonal (int, optional) – the diagonal to consider out (Tensor, optional) – the output tensor 如果dia
torch.triu 测试
无左无右的博客
02-27 297
torch.triu(input, diagonal=0, *, out=None) → Tensor 返回一个上三角矩阵 参数： input：输入的张量 diagonal：对角线 返回矩阵(二维张量)或矩阵批次 input 的上三角部分，结果张量 out 的其他元素设置为 0。 矩阵的上三角部分定义为对角线上和之上的元素。 参数 diagonal 控制要考虑的对角线。如果 diagonal =...
Pytorch：快速求得NxN矩阵的主对角线(diagonal)元素与非对角线元素
要相信光
06-07 6720
前因 今天写代码过程中，要分别求得一个N x NTensor矩阵的主对角元素与非对角元素，看到一个巧妙的写法，故记录下来。 探索 torch.diagonal() 主对角元素很好得到，Pytorch有现成的API可调用，为torch.diagonal，详情如下： 使用起来也很方便，示例如下： x = torch.randn(4,4) # tensor([[ 0.9148, 0.1396, -0.8974, 2.0014], # [ 0.1129, -0.3656, 0.4371, 0
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值