向量相似度评估方法

本文介绍了PyTorch中用于向量相似度评估的四种方法:余弦相似度、点积相似度、双线性相似度和多头相似度。余弦相似度基于向量夹角的余弦值;点积相似度计算点积并可调整输出方差;双线性相似度引入了权重矩阵和偏差;多头相似度则借鉴了Transformer的多头注意力机制。这些方法为复杂场景下的向量相似度计算提供了更多选择。

在这里插入图片描述

原文链接:向量相似度评估方法

相似度在工作中的使用可以说是相当频繁,今天就带大家介绍pytorch中四种常用的向量相似度评估思路:

  1. CosineSimilarity
  2. DotProductSimilarity
  3. BiLinearSimilarity
  4. MultiHeadedSimilarity

1 余弦相似度

余弦相似度相信大家都很熟悉了。用两个向量夹角的余弦值作为衡量两个个体间差异的大小。余弦值越接近1,就表明夹角越接近0度,也就是两个向量越相似。

import torch
import torch.nn as nn
import math

class CosineSimilarity(nn.Module):
 
    def forward(self, tensor_1, tensor_2):
        normalized_tensor_1 = tensor_1 / tensor_1.norm(dim=-1, keepdim=True)
        normalized_tensor_2 = tensor_2 / tensor_2.norm(dim=-1, keepdim=True)
        return (normalized_tensor_1 * normalized_tensor_2).sum(dim=-1)

2 DotProductSimilarity

这个相似度函数计算每对向量之间的点积,并用可选的缩放来减少输出的方差,以调整结果的输出。

class DotProductSimilarity(nn.Module):
 
    def __init__(self, scale_output=False):
        super(DotProductSimilarity, self).__init__()
        self.scale_output = scale_output
 
    def forward(self, tensor_1, tensor_2):
        result = (tensor_1 * tensor_2)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值