余弦相似度 && 欧式距离

最新推荐文章于 2024-03-25 12:21:50 发布
最新推荐文章于 2024-03-25 12:21:50 发布
阅读量3k 收藏
点赞数
分类专栏： 算法类
本文探讨了余弦相似度作为衡量文本数据相关性的方法，特别是在处理由字数统计构成的文本时，它如何校正文档长度差异的影响。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Euclidean vs. Cosine Distance

余弦相似度通常用作度量距离的度量，当矢量的大小不重要时。 例如，在处理由字数统计的文本数据时会发生这种情况。 我们可以假定，当文档1中的单词（例如科学）比文档2中更频繁出现时，该文档1与科学主题更相关。 然而，也可能是我们正在处理不均匀长度的文档（例如维基百科文章）。 然后，科学可能在文献1中出现得更多，只是因为它比文献2长。余弦相似性为此纠正了。

【机器学习Q&A】余弦相似度、余弦距离、欧式距离以及机器学习中距离的含义
小哲的博客
06-28 1258
机器学习问题中，通常将特征表示为向量的形式，所以在分析两个特征向量之间的相似性时，常使用`余弦相似度`来表示。 余弦相似度的取值范围为[ -1, 1 ]，相同的两个向量之间的相似度为1，将1减去余弦相似度即为`余弦距离`。因此，余弦距离的取值范围为[0, 2]，相同的两个向量余弦距离为0。...
相似度计算（euclidean, cosine, pearson）
mlnotes
08-01 1848
#!/usr/bin/pythonfrom math import sqrtdef euclidean(v1, v2):    length = min(len(v1), len(v2))    if length == 0: return 0        d = 0    for i in range(length):        d += pow((v1[i] - v2[i]), 2)
相似度度量：欧氏距离与余弦相似度（Similarity Measurement Euclidean Distance Cosine Similarity）...
weixin_33805743的博客
01-10 701
在《机器学习---文本特征提取之词袋模型（Machine Learning Text Feature Extraction Bag of Words）》一文中，我们通过计算文本特征向量之间的欧氏距离，了解到各个文本之间的相似程度。当然，还有其他很多相似度度量方式，比如说余弦相似度。 在《皮尔逊相关系数与余弦相似度（Pearson Correlation Coefficient & ...
常见距离算法-欧氏距离、杰卡德距离、余弦距离
小程的博客
01-12 2828
常见距离算法-欧氏距离、杰卡德距离、余弦距离 1.欧氏距离(Euclidean Distance) 表示n维空间中两个点之间的实际距离。欧式距离越小相似度越大。 已知两个点: A=(a1,a2,...,an),B=(b1,b2,...,bn)A=(a_{1},a_{2},...,a_{n}),B=(b_{1},b_{2},...,b_{n})A=(a1​,a2​,...,an​),B=(b1​,b2​,...,bn​)则AB间的距离为： d(A,B)=∑(ai−bi)2(i=1,2,...,n)d(A,B)
Pytorch框架中余弦相似度（Cosine similarity）、欧氏距离（Euclidean distance）源码解析
周周周周周大帅的博客
12-29 1万+
一、矩阵操作用于计算余弦相似度 余弦相似度： 我们知道，分子是矩阵的乘法，分母是两个标量的乘积。分母好办，关键是如何在计算分子？很简单，我们可以将公式变变形： 那么我们只需在矩阵乘法前，使其归一化，乘法之后就是余弦相似度了,来看一下代码（参考：https://zhuanlan.zhihu.com/p/383675457） import torch ##计算两个特征的余弦相似度 def normalize(x, axis=-1): x = 1. * x / (torch.nor
pytorch 快速计算两个tensor的欧式距离
Answer3664的博客
03-19 1万+
给定两个tensor： A 和 B。A的维度为 [m，h], B的维度为 [n，h]。要求每两行之间计算他们的欧氏距离，返回一个维度为[m，n]的tensor。要求不能使用循环，也不能扩充复制一个tensor。 解：将欧式距离的公式展开，根号下面是。a是tensor A中某一行的平方和，b是tensor B中某一行的平方和，ab是两个向量的内积。 所以代码为： def EuclideanDistances(a,b): sq_a = a**2 sum_sq_a = torch.sum.
欧式距离余弦相似度matlab,相似度计算——欧氏距离、汉明距离、余弦相似度
weixin_39574140的博客
03-18 1297
相似度计算——欧氏距离、汉明距离、余弦相似度发布时间：2018-03-31 19:42,浏览次数：1217计算图像间的相似性可以使用欧氏距离、余弦相似度/作为度量，前者强调点的思想，后者注重线的思想。欧氏距离欧式距离/Euclidean Distance即n维空间中两个点之间的实际距离。已知两个点A=(a1,a2,...an),B=(b1,b2,...,bn)A=(a1,a2,...an),B=(...
【机器学习300问】51、余弦相似度一般用在哪儿？
qq_39780701的博客
03-25 2313
基础知识扫盲，欧式距离是什么？余弦相似度和余弦距离是什么？为什么要用余弦相似度而不是欧式距离？余弦相似度一般用在哪儿？
在工程实践中可以用 “1- 余弦相似度”来代替 欧式距离
dawningblue的博客
05-18 289
我们知道 1- cos(x,y) = 12L2\frac{1}{2} L^221​L2，而 12L2\frac{1}{2} L^221​L2 和 LLL的关系是12L2\frac{1}{2} L^221​L2是LLL的单调函数。或者说12L2\frac{1}{2} L^221​L2和LLL的单调性是一样的。LLL增大的时候，12L2\frac{1}{2} L^221​L2也会增大；LLL减小的时候，12L2\frac{1}{2} L^221​L2也会减小。 其实我们在应用的过程中，并不关系欧式距离的具体值是
根据欧式距离和余弦相似度来计算tensor之间的相似度的代码实现
tugouxp的专栏
01-01 2071
通常情况下，在端侧的模型推理过程中，使用的是量化后的数据来参与各层计算的，而并非原始的float数据类型，通常的量化数据类型有UINT8/INT8/INT16等等，由于数据表示范围的差异，在量化过程中，必然涉及到精度损失，这种同一个模型相同层之间使用量化推理计算得到的数据经过反量化之后和原始goden版的float数据的差异，我们用相似度表示，用图形化描述如下： ..................
pytorch 向量相似度计算
王小二的博客
03-25 2694
#!/usr/bin/env python import torch import torch.nn as nn import math class CosineSimilarity(nn.Module): def forward(self,tensor_1,tensor_2): norm_tensor_1=tensor_1.norm(dim=-1, keepdim=True)#将维度缩减为1维 norm_tensor_2=tensor_2.norm(dim=-1,
pytorch计算余弦相似度
热门推荐
tszupup的博客
09-10 7万+
在pytorch中，可以使用torch.cosine_similarity函数对两个向量或者张量计算余弦相似度。先看一下pytorch源码对该函数的定义： class CosineSimilarity(Module): r"""Returns cosine similarity between :math:`x_1` and :math:`x_2`, computed ...
使用pytorch实现相似度计算的方法
说文科技，做有态度的研究。
12-12 1万+
使用pytorch、不同的向量相似度计算方法实现相似度的计算，并且给出常见的计算相似度是出现的错误。
余弦相似性及欧式距离的计算
ayisha09的博客
05-21 2160
def normalize(nparray, order=2, axis=0):#归一化[0,1]  """Normalize a N-D numpy array along the specified axis."""  norm = np.linalg.norm(nparray, ord=order, axis=axis, keepdims=True)  return nparray / (n...
PyTorch 1.0 中文文档：Tensor（张量）的属性
weixin_30698297的博客
02-17 551
译者：阿远 每个 torch.Tensor 对象都有以下几个属性： torch.dtype, torch.device， 和 torch.layout。 torch.dtype class torch.dtype torch.dtype 属性标识了 torch.Tensor的数据类型。PyTorch 有八种不同的数据类型： Data type dtype Tensor types ...
Pytorch计算距离（例如欧式距离）torch.nn.PairwiseDistance
qq_43391414的博客
03-12 1万+
通常，我们计算欧式距离，例如[0,0]到[1,1]的距离为2\sqrt22​。 pdist = nn.PairwiseDistance(p=2)#p=2就是计算欧氏距离，p=1就是曼哈顿距离，例如上面的例子，距离是1. input1 = torch.randn(100, 128) input2 = torch.randn(100, 128)#上面两个形状要一样。 output = pdist(input1,input2)#计算各自每一行之间的欧式距离。 output.shape torch.Size([
余弦计算相似度度量
京东云成都团队的专栏
11-11 5万+
余弦计算相似度度量 相似度度量（Similarity），即计算个体间的相似程度，相似度度量的值越小，说明个体间相似度越小，相似度的值越大说明个体差异越大。 对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何，一个好的做法就是将这些文本中词语，映射到向量空间，形成文本中文字和向量数据的映射关系，通过计算几个或者多个不同的向量的差异的大小，来计算文本的相似度。下面介绍一个详细成熟的向
pytorch用矩阵运算方法得到向量/矩阵间的相似度
羊城迷鹿的博客
07-27 4433
引入包及生成数据 ... from torch import cosine_similarity from scipy.stats import pearsonr A = torch.randint(10, (1,10)) B = torch.randint(10, (1,10)) A, B = A.float(), B.float() A, B (tensor([[7., 2., 5., 6., 3., 8., 7., 3., 6., 6.]]), tensor([[4., 4., 8., 6.,
【Python】批量创建/读取变量
海到无边天作岸 山登绝顶我为峰
09-13 2259
Hello！ଘ(੭ˊᵕˋ)੭昵称：海轰标签：程序猿｜C++选手｜学生简介：因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！唯有努力💪本文仅记录自己感兴趣的内容文章仅作为个人学习笔记记录，记录从0到1的一个过程希望对您有一点点帮助，如有错误欢迎小伙伴指正。
欧式距离 马氏距离 余弦相似度选择
最新发布
06-28
<think>我们正在比较三种距离度量方法：欧几里得距离、马氏距离和余弦相似度，并讨论它们在图像处理和数据分析中的应用场景以及选择标准。根据用户提供的引用和之前的问题，我们需要综合这些信息。引用[1]提到马氏距离可以应对高维线性分布的数据中各维度间非独立同分布的问题。引用[2]介绍了余弦相似度，它关注向量的方向而不是大小，适用于文本分析、信息检索等领域。引用[3]提到了标准化欧氏距离，通过标准化各分量到均值为0，方差为1来改进欧氏距离。用户上一次的问题是关于欧几里得距离在图像中的含义，我们详细解释了其定义、应用和局限性。现在用户想比较这三种距离度量方法，并给出选择标准。我们将从以下几个方面进行：1.分别介绍三种距离/相似度的定义和特性。2.在图像处理和数据分析中的典型应用场景。3.选择标准（根据数据特性、问题需求等）。注意：在回答中，我们会使用LaTeX格式的数学公式，并按照要求添加引用标识。由于用户要求生成相关问题，我们将在最后提出几个相关问题。</think>### 欧几里得距离、马氏距离与余弦相似度的比较与选择指南 #### 一、核心概念与数学定义 1. **欧几里得距离 (Euclidean Distance)** 基础空间距离度量，计算多维空间中两点的直线距离： $$d_E(p,q) = \sqrt{\sum_{i=1}^{n}(p_i - q_i)^2}$$ **特性**：几何直观，但对量纲敏感，要求特征独立同分布[^3]。 2. **马氏距离 (Mahalanobis Distance)** 引入协方差矩阵$\Sigma$解决特征相关性问题： $$d_M(p,q) = \sqrt{(p-q)^T \Sigma^{-1} (p-q)}$$ **特性**：自动消除特征间相关性，对线性分布数据更鲁棒[^1]。 3. **余弦相似度 (Cosine Similarity)** 衡量向量方向一致性而非大小： $$\text{cos}(θ) = \frac{p \cdot q}{\|p\| \|q\|} = \frac{\sum_{i=1}^{n} p_i q_i}{\sqrt{\sum p_i^2} \sqrt{\sum q_i^2}}$$ **特性**：对幅度不敏感，专注方向匹配[^2]。 #### 二、图像处理应用场景对比 | **场景** | **欧几里得距离** | **马氏距离** | **余弦相似度** | |------------------|-------------------------------|-----------------------------|--------------------------| | **图像匹配** | 像素级颜色比较（需归一化） | 纹理/形状匹配（考虑特征关联） | 图像风格相似性判断 | | **物体识别** | CNN特征空间简单检索 | 遮挡/变形物体的鲁棒识别 | 语义相似性检索 | | **边缘检测** | 梯度计算（$G=\sqrt{dx^2+dy^2}$）| - | - | | **图像聚类** | K-means基础算法 | 改进聚类（处理相关特征） | 主题模型聚类 | | **质量评估** | RMSE计算重建误差 | 感知质量评估（考虑人眼特性） | 风格一致性评估 | > **典型案例**：人脸识别中，欧氏距离用于特征比对（需光照归一化），马氏距离处理姿态变化，余弦相似度判断身份相似性[^1][^2]。 #### 三、数据分析应用场景对比 | **场景** | **欧几里得距离** | **马氏距离** | **余弦相似度** | |------------------|--------------------------|---------------------------|------------------------| | **数值型聚类** | K-means等基础聚类 | 金融数据（处理相关指标） | - | | **相似性搜索** | 低维空间最近邻搜索 | 高维数据（消除维度灾难） | 文本/推荐系统 | | **异常检测** | 简单阈值检测 | 多元离群点检测（考虑分布） | - | | **特征工程** | PCA降维后距离计算 | 特征解耦（$\Sigma^{-1}$解相关）| TF-IDF向量比较 | | **回归预测** | 损失函数（如MSE） | 多目标优化（考虑目标关联） | - | > **典型案例**：在用户画像分析中，欧氏距离比较消费金额，马氏距离分析消费行为模式（金额与频率的关联），余弦相似度衡量兴趣相似度[^1][^2]。 #### 四、选择标准与决策树 ```mermaid graph TD A[数据特性评估] --> B{特征是否相关？} B -->|是| C[选择马氏距离] B -->|否| D{关注方向还是距离？} D -->|方向| E[选择余弦相似度] D -->|绝对距离| F{数据是否归一化？} F -->|是| G[选择欧氏距离] F -->|否| H[先标准化再选欧氏距离] ``` **关键选择依据**： 1. **特征相关性** - 特征独立 → **欧氏距离**（效率高） - 特征相关 → **马氏距离**（解耦特征）[^1] 2. **数据分布特性** - 线性分布 → **马氏距离**（协方差矩阵有效） - 高维稀疏 → **余弦相似度**（抗维度灾难）[^2] 3. **任务目标** - 绝对差异度量（如误差计算）→ **欧氏距离** - 模式相似性（如推荐系统）→ **余弦相似度** - 分布敏感任务（如异常检测）→ **马氏距离** 4. **计算效率** - 实时系统：欧氏距离 > 余弦相似度 > 马氏距离（需矩阵求逆） #### 五、典型改进策略 1. **欧氏距离的局限突破** - **标准化欧氏距离**：消除量纲影响 $$d_{SE} = \sqrt{\sum \frac{(p_i-q_i)^2}{\sigma_i^2}}$$ $\sigma_i$为第$i$维标准差[^3] 2. **马氏距离的实践技巧** - 小样本问题：使用收缩协方差估计（Ledoit-Wolf） 3. **余弦相似度的扩展** - 调整公式适应负值：$\text{cos}_{adj} = 0.5 + 0.5 \times \text{cos}(θ)$ > **经验法则**：图像像素级操作首选欧氏距离（需归一化），特征空间分析优先马氏距离，语义相似性任务用余弦相似度[^1][^2]。 --- ### 相关问题 1. 如何通过协方差矩阵估计提升马氏距离在小样本图像数据中的稳定性？[^1] 2. 标准化欧氏距离与马氏距离在消除特征相关性方面有何本质区别？[^3] 3. 余弦相似度为何在自然语言处理中比欧氏距离更有效？这种优势是否适用于视觉特征？[^2] 4. 当处理非高斯分布数据时，马氏距离的替代方案有哪些？
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值