【即插即用】语音模型-简化版自注意力机制SSAN，涨点起飞了！

专栏内提供试读，感兴趣小伙伴可以订阅一下哈！

适用于所有的CV二维任务：图像分割、超分辨率、目标检测、图像识别、低光增强、遥感检测等

每日分享最新的前沿技术，

助力快速发论文、模型涨点！

import numpy as np
import torch
from torch import nn
from torch.nn import init


class SimplifiedScaledDotProductAttention(nn.Module):
    '''
    Scaled dot-product attention