qq_37650969的博客

if attn_mask is not None: if attn_mask.dtype == torch.bool: attn_output_weights.masked_fill_(attn_mask, float('-inf')) else: attn_output_weights += attn_mask使用MultiheadAttention做self-attention时因为batch内序列长度不一致，...

row = [[]]*9上面一段代码创建了一个空二维数组，但 [item]*n这种方法简单的调用了item的默认复制方法上面item是一个数组，因此对任意row[i]修改都会影响所有row[j]。正确的做法是用for循环row = [[] for _ in range(9)]...