8、Collaborative Metric Learning

最新推荐文章于 2023-08-04 00:44:57 发布
转载 最新推荐文章于 2023-08-04 00:44:57 发布 · 260 阅读 · 1 ·
CC 4.0 BY-SA版权
原文链接：http://www.cnblogs.com/Lee-yl/p/9807577.html

本文探讨了如何将度量学习(Metric Learning)与协同过滤(Collaborative Filtering, CF)相结合，提出了一种新的推荐系统算法——协同度量学习(Collaborative Metric Learning, CML)。CML旨在通过学习一个联合度量空间，既编码用户的偏好，又考虑用户间的相似性和项目间的相似性，以提高推荐系统的准确性和效率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、摘要：

文章的核心思想：是如何把Metric learning 和 CF结合起来从而达到更好的推荐效果。

提出了CML（Collaborative Metric Learning），其学习一个联合度量空间，不仅编码用户的偏好，而且编码用户-用户和项目-项目的相似性。

假设用户和物品可以放到低维空间，并且可以使用满足不等式性质的欧式距离来度量他们之间的距离。

 

将ML和CF结合的原因是： 传统的CF都使用了点积来衡量用户向量和项目向量的距离。即点积值越大就代表两个向量相近。但这篇文章认为点积计算距离可能使得相似度不准确。

一个距离测量需要满足一些条件（如三角不等式）。三角不等式关系：距离的大小是有传递的。比如：X与Y相近，X与Z相近，则Y与Z也相近。也就是说相似度是可以传递的，但是积极的评分，没有评分的没有显示】

改进的MF：weighted regularized matrix factorization (WRMF)

case weight cij is larger for observed positive feedback and smaller for unobserved interactions。

（2）贝叶斯个性化排序BPR：

3、协同度量学习：(CML)

CML和LMNN的区别：CML将同类数据聚合去掉，只保留异类远离部分，即保留Lpush。

【原因是一个物品可能被多个人喜欢，很难说清楚怎么聚类比较有意义。具体说就是一个用户所喜欢的物品要远离这个用户所不喜欢的物品，同时这个距离会被一个与rank（物品的排序)有关的权重所控制】

给定所有数据与一个数据集S，S是user-item的数据对，并且是已知具有正相关的，通过学习user-item 之间度量来将这种关系编码到第三方空间。

（1）模型主要公式：LMNN【度量学习ML】

 

（2）WRMF【CF中的MF】

令J为全部项目的数量，N为否定项目的数据，rankd(i; j) 接近于[J / N ]。

 （3）整合项目特征

f 表示 项目特征vj 的投影函数，其在一定程度上是可以代表项目特征的。 

（4）正则化

 

 （5）总的模型：

 

转载于:https://www.cnblogs.com/Lee-yl/p/9807577.html

Collaborative Metric Learning(CML)论文总结
Marcus-Bao的个人主页
04-20 977
论文 问题介绍 度量学习算法通过学习生成什么样的距离度量来帮助解决数据间的重要关系。 传统的CF(主要以MF,TF为主)的方法只能学习到user-item之间的潜在关系而无法学习到user-user,item-item的Similarity。本文作者将传统的CF与Metric Learning相结合提出CML,学习到了user-item，以及user-user,item-item的similari...
Collaborative Translational Metric Learning论文小结(附核心pytorch代码)
Marcus-Bao的个人主页
09-12 557
前言 在之前得专栏文章中，我们介绍过一种将度量学习引入推荐系统的方法Collaborative Metric Learning(CML)论文总结。其主要的motivation就是说传统的基于点积的矩阵分解方法不满足三角不等式，因此不是一个好的度量方式，会存在一些问题。对此，CML的解决思路是将用户和商品投影到欧几里得空间，然后用欧几里得距离来度量用户对不同商品的偏好。 那么CML就是完美的吗？显然是不可能的。 CML的出现后，涌现了一系列的基于度量学习的推荐算法，大部分都是对原CML的改进和提高，我会慢慢
Collaborative Metric Learning——paper 笔记
wang2008start的专栏
07-23 1463
  Collaborative Metric Learning 协同过滤（回顾和复习了CF，基于模型的CF是用矩阵分解实现的，loss为评分矩阵和新构建的评分矩阵的平方差，用梯度下降进行优化学习）。这里是主要提出了三角不等式（两对pairwise节点的距离之和大于这两个节点的直接距离，隐含：如果x相似与y和z，那么y和z本身也是相似的，相似传递性），在矩阵分解的基础上，使用pairwise格式的...
(论文阅读笔记1)Collaborative Metric Learning(一)（WWW2017）
chunyun0716的专栏
07-31 2966
一、摘要    度量学习算法产生的距离度量捕获数据之间的重要关系。这里，我们将度量学习和协同过滤联系起来，提出了协同度量学习（CML），它可以学习出一个共同的度量空间来编码用户偏好和user-user 和 item-item的相似度。二、背景2.1 Metric Learning     令χ={x1,x2,…,xn}\chi = \{x_1, x_2,\dots, x_n\}是空间Rm\mathb
Collaborative Metric Learning(www 2017)
qq_42018521的博客
04-30 1102
传统基于MF的模型，将特征向量的点积作为预测结果，这存在一个很大的问题，即dot product 不满足三角不等式），这会导致学到的特征向量次优（难以捕捉用户细粒度的偏好）。本文提出了一种Collaborative+Metric Learning模型，不仅能捕捉用户细粒度偏好，还可以捕捉用户-用户/物品-物品相似性。
(论文阅读笔记1)Collaborative Metric Learning(二)（WWW2017）
chunyun0716的专栏
08-20 1854
三、协同度量学习    这一部分，我们讨论CML作为一种更自然的方法获得关联关系。CML的思路是这样的：我们在已知正例关系的user-item集合S\mathcal{S}上建立一个隐性反馈模型，并且学习user-item的距离作为他们的关系。学习到的距离使得S\mathcal{S}中的对更加紧密，而S\mathcal{S}之外的user-item对相对的远离。这个处理过程，源于三角不等性。也可以聚类
[论文笔记] Improving Collaborative Metric Learning with Efficient Negative Sampling
THOOOR的博客
08-19 318
论文笔记 Improving Collaborative Metric Learning with Efficient Negative Sampling (arxiv.org) Improving Collaborative Metric Learning for Recommendation by a 2-stage negative sampling strategy. (github.com) 基于三元组损失的距离度量学习已成功应用于广泛的应用中，例如人脸识别、图像检索、说话人变化检测以及最近使.
联邦学习的基本概念和术语 Federated Learning: Collaborative Machine Learning
AI天才研究院
08-04 1354
随着互联网、移动互联网、物联网、云计算等新兴技术的广泛应用，传统数据中心遇到的限制越来越多，因此出现了边缘计算的概念。边缘计算可以将数据处理从中心服务器上卸载到边缘设备上，实现更快、更可靠的数据处理。然而，由于设备离用户较远，带宽资源受限等因素，边缘计算面临的通信、计算性能等问题也同样存在。为解决这一问题，机器学习领域提出了联邦学习（Federated Learning）的概念。联邦学习是一种机器学习模型训练方法，它允许多个数据所有者共同协作训练一个模型，从而使得模型能够更好地泛化到新数据上。
（Distance Metric Learning）度量学习学习资料
alva_bobo的博客
07-31 970
原文链接：http://blog.youkuaiyun.com/lzt1983/article/details/7884553 度量学习学习资料 1. Wikipedia 2. CMU的Liu Yang总结的关于DML的综述页面。对DML的经典算法进行了分类总结，其中她总结的论文非常有价值，也是我的入门读物。 3. ECCV 2010的turorial。
【矩阵分解六】处理隐式反馈-加权正则矩阵分解法WRMF (weighted regularized matrix factorization)
凝眸伏笔的博客
05-27 2753
改进点(跟前几篇的SVD比)： 一句话总结：当数据样本只有隐式反馈时，以前的数据建模方式便不再适用。原因：1.隐式反馈中默认只有正样本(one-class问题)；2.未观测到的样本默认为负样本(显然不合理，也可能喜欢)。 概念： 显式反馈：形如rating矩阵，这种直接评分的矩阵，称之为显式反馈； 隐式反馈：构造样本时，数据不是评分、评论这种直接表示喜好，使用点击、下单这种数据，侧面表示喜好的形式，称之为隐式反馈。 我们前面讲的算法都是针对显式反馈的评分矩阵的，因此当数据集只有隐式反馈时，应用上述
Distance Metric Learning with Application to Clustering with Side-Information
03-06
Distance Metric Learning with Application to Clustering with Side-Information (by Eric P. Xing)，2003年发表的NIPS论文，度量学习的经典开山之作。
机器学习笔记(十)降维和度量学习
医疗影像检索
03-29 1万+
10.降维和度量学习 10.1k近邻学习 k近邻（k-NearestNeighbor，简称kNN）学习是一种常用的监督学习方法，其原理是：给定测试样本，基于某种距离度量找出训练集中与其最靠近的k个训练样本，然后基于这k个邻居的信息来进行预测。在分类任务中，使用投票法，选择k个样本中出现最多的类别标记作为预测结果；在回归任务中，使用平均法，将这k个样本的实值输出标记的平均值作为预测结果。自然，也
周志华《Machine Learning》学习笔记（12）--降维与度量学习
热门推荐
VAY-长跑
05-15 2万+
上篇主要介绍了几种常用的聚类算法，首先从距离度量与性能评估出发，列举了常见的距离计算公式与聚类评价指标，接着分别讨论了K-Means、LVQ、高斯混合聚类、密度聚类以及层次聚类算法。K-Means与LVQ都试图以类簇中心作为原型指导聚类；高斯混合聚类采用高斯分布来描述类簇原型；密度聚类则是将一个核心对象所有密度可达的样本形成类簇；层次聚类是一种自底向上的树形聚类方法。本篇将讨论机器学习常用的方法--降维与度量学习。
推荐系统中的矩阵分解详解
bitcarmanlee的博客
05-13 2497
0.前言 推荐系统最常见的两种场景为评分预测与排序。评分预测的典型场景为豆瓣上一个用户对电影的评分，淘宝上对某个商品的评分。排序的场景更为普遍，比如信息流业务中，从海量的内容中挑选出最合适的topN内容给用户展示，就是一个典型的排序问题。 推荐系统中非常经典的技术之一就是矩阵分解(Matrix Factorization)。矩阵分解具有优秀的可扩展性，而且实现起来也不困难，因此在实际中使用非常广泛。下面我们针对推荐系统中的矩阵分解相关内容做一个详细梳理。 1.特征值分解 说到矩阵分解，一般先会提到特征值分解
论文笔记 | Metric Learning with adaptive density discrimination
bea_tree的博客
10-09 4108
Authors Oren Rippel（有趣的是作者喜欢中文) Manohar Paluri Piotr Dollar Lubomir BourdevAbstract本文介绍了一种Distance Metric Learning （DML)，效果比triplet还要好，而且需要的迭代次数更少。1 Introduction 与传统的DML相比，Magenet不仅考虑intra-class v
Metric Learning——度量学习
敲代码的quant的博客
04-10 1万+
看到一篇知乎大神Flood Sung发表在CVPR2018上的paper，介绍了一种基于metric的模式识别方法，创新之处在于它不同于常用的matric-based方法，使用人为定义的度量，像简单的欧式距离、马氏距离，而是采用了用神经网络去训练这个度量，模型虽然简单，但是效果却很显著。1、度量(Metric)先说一下关于度量这个概念：在数学中，一个度量（或距离函数）是一个定义集合中元素之间距离的...
【序列推荐】AAAI2019|AttRec---采用度量学习来建模用户的长期偏好
Blank_Space
11-02 1242
前言本次依旧分享一篇序列推荐论文，文章最吸引我的地方就是采用度量学习来对用户的长期偏好进行建模。本文约1.7k字，预计阅读10分钟。概要“Next Item Recommendation...
《数据挖掘导论》学习笔记：第1-2章
bakalaka的博客
08-13 2521
本文转载自：https://blog.youkuaiyun.com/u013232035/article/details/48281659   本文主要是在学习《数据挖掘导论（完整版）》中的学习笔记，主要用来梳理思路，并没有多少思考。 第1章 绪论 1.1 什么是数据挖掘 KDD： K nowledge D iscovery in D atabase 过程如下： Created with Raph...
COCOACollaborative Convolutional Metric Learning
04-04
COCOA (Collaborative Convolutional Metric Learning) is a deep learning method for metric learning that aims to learn a similarity metric between pairs of images. It is designed for image retrieval applications, where the goal is to find images that are similar to a query image. The COCOA model is based on a collaborative learning approach that combines the strengths of both convolutional neural networks (CNNs) and metric learning. The COCOA model consists of two main components: a CNN encoder and a metric learning module. The CNN encoder is used to extract features from the input images, while the metric learning module is used to learn a similarity metric between pairs of images. The metric learning module is trained using a triplet loss function, which encourages the model to learn embeddings that are close together for similar images and far apart for dissimilar images. One of the unique aspects of COCOA is its collaborative learning approach. The model is trained in a two-stage process, where the CNN encoder is first trained using a classification task, and then the metric learning module is trained using the embeddings produced by the CNN encoder. This approach allows the model to leverage the strengths of both CNNs and metric learning, resulting in a more effective similarity metric. COCOA has been shown to outperform several state-of-the-art methods on benchmark datasets for image retrieval, including CIFAR-10 and CIFAR-100. It has also been applied to real-world applications, such as image-based product search, where it achieved high accuracy and robustness to variations in lighting, pose, and scale. In summary, COCOA is a collaborative convolutional metric learning method that combines the strengths of CNNs and metric learning for effective image retrieval. Its unique approach to collaborative learning and triplet loss function make it a powerful tool for a variety of real-world applications.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值