Shea的博客

在电商和社交媒体的世界里，序列推荐系统（Sequential Recommendation Systems, SRS）就像一个贴心的购物助手，它通过分析用户的历史行为来预测他们接下来可能感兴趣的商品。：对于长尾用户，LLM-ESR通过检索与目标用户语义相似的用户，并利用他们的交互信息来增强目标用户的偏好表示，就像是给长尾用户“借”了一些有用的信息。LLM-ESR它提出了一个全新的框架，用LLM的语义嵌入来增强传统的SRS，而且完全不用担心LLM带来的额外推理负担。其实，之前的研究者们也尝试过解决这个问题。

这篇论文提出了一个全新的框架——，它的核心思想是通过自我博弈（Self-Play）机制来打破这种同质化的困境。🚀监督微调（SFT）首先使用正样本（用户实际交互过的项目）来训练模型，让模型学习用户的偏好。直接偏好优化（DPO）：然后，将SFT阶段的正样本作为正样本将模型上一次迭代的预测结果作为负样本，重新训练模型。这样做的目的是让模型在学习用户偏好时，能够动态地抑制那些过于热门的项目，从而增加推荐的多样性和公平性。💡📊输入输出的转变。

在推荐系统领域，马太效应是一个棘手的问题。通俗来说，就是热门项目总是更受关注，而小众项目则被边缘化。这种现象在用户与系统交互过程中会进一步加剧，导致推荐结果的单一化和不公平。现有的方法大多关注静态推荐场景，但忽略了动态用户系统反馈循环中的马太效应问题。因此，本文提出了一种新的框架——HiCore，旨在通过学习多级用户兴趣来缓解对话推荐系统中的马太效应。用户兴趣多样性：许多研究致力于通过理解用户的多样化兴趣来提升推荐的多样性，但这些方法大多集中在静态场景中。缓解流行度偏差：另一些研究则专注于减少流行度偏差，以

FacetCRS通过多维度偏好学习动态捕捉用户偏好，有效缓解了对话推荐系统中的“信息茧房”现象。其创新的多维度融合方法和端到端框架，不仅提升了推荐质量，还增强了对话生成能力。未来，我们期待这一方法在更多实际场景中的应用，为用户提供更加个性化、多样化的推荐体验。#FacetCRS #对话推荐系统 #信息茧房 #多维度偏好学习。

新闻模型的目标是构建新闻内容的表示。它通过交叉选择编码（cross-selective encoding）和交叉注意力编码（cross-attention coding）两个主要过程来实现。新闻标题和内容首先被转换为语义词嵌入，然后通过双向LSTM网络提取特征，生成语义记忆向量。接下来，通过门控交叉选择网络实现标题和内容之间的语义交互，最终生成新闻表示向量。📈隐私保护：通过在用户设备上本地存储数据和应用LDP技术，显著降低了隐私泄露风险。🛡️模型性能。

例如，从“Accuracy”节点开始，可能经过“Diversity”和“Fairness”节点，最终到达“Stop”节点，完成重排序。本文提出了LLM4Rerank，一个基于LLM的自动重排序框架，旨在通过自动整合多种重排序需求（如准确性、多样性和公平性），实现可扩展性和个性化。近年来，随着大型语言模型（LLM）的发展，其在信息检索和推荐任务中的潜力逐渐被挖掘，但直接应用于重排序任务时仍面临挑战，如上下文长度限制和语义理解的复杂性。：定义重排序的重点，如“主要关注准确性，其次考虑多样性”。

KERL框架的结构非常清晰，主要由三个模块组成：知识图谱编码模块、推荐模块和对话生成模块。

PAP-REC框架的核心是自动生成个性化提示。它通过梯度方法来优化提示中的触发词，从而提高推荐性能。任务特定的触发词和用户特定的触发词。任务特定的触发词用于指导模型理解推荐任务的类型，而用户特定的触发词则用于捕捉用户的个性化偏好。通过这种方式，PAP-REC能够为不同的用户生成不同的提示，从而实现个性化推荐。具体有一下三个点基于梯度的提示搜索：PAP-REC框架的核心是利用基于梯度的方法自动生成个性化提示。具体来说，它通过计算提示中每个位置的梯度，选择能够最大化目标值生成概率的词汇作为提示的一部分。

MixRec通过创新的异构超图架构和对比学习范式，为推荐系统领域带来了新的突破。它不仅能够有效处理用户行为的异质性，还能在数据稀疏的情况下保持出色的性能。如果你对推荐系统感兴趣，MixRec绝对值得一读。说不定，它还能激发你新的灵感呢！💡。

此外，负向情感框架的新闻标题显著提高了用户的付费意愿，而正向情感框架则对付费意愿影响较小 [4]。有趣的是，文本与图像的情感一致性对用户参与度的影响并不显著，但在付费意愿上表现出一定的交互作用 [5]。每篇文章生成正向和负向两种情感框架的标题，并搭配不同情感倾向的图像。本文研究表明，LLM驱动的负向情感框架重构能够显著提高用户的付费意愿，尤其是在文本与图像情感一致的情况下。未来的研究可以进一步探索多模态情感框架在不同新闻主题和用户群体中的效果，同时考虑引入更复杂的交互因素，如用户的社会背景和新闻消费习惯。

患者模态：包括诊断、程序和症状的文本描述。药物模态：包括药物的化学结构（分子图）和文本描述。

输入是用户与系统的交互序列，包括推荐系统采取的动作（推荐的视频）和用户反馈（如点击和观看时间）。输出则是预测下一步要推荐的视频，以提高用户满意度指标（如点击率或观看时间）。模型通过将问题转化为马尔可夫决策过程（MDP），并使用REINFORCE算法来学习推荐策略。这就好比我们根据用户之前的行为，预测他们接下来最可能感兴趣的电影。🎬实验📊作者通过一系列模拟实验和在线实验来验证方法的有效性。

子图构建：基于用户-项目-解释交互立方体，构建三个子图：用户-解释偏好子图（GUA）、项目-解释偏好子图（GIA）和用户-项目交互子图（GUI）。每个子图的边权重分别表示用户对解释的提及次数、项目对解释的提及次数和用户对项目的交互次数。表示学习：在每个子图上执行图卷积操作，采用线性图卷积（LGC）和平均层聚合策略。通过迭代传播，计算每个节点的表示。为了缓解过平滑问题，将每层的节点表示组合为最终的节点表示。解释偏好建模。

DKN的核心是知识感知卷积神经网络（KCNN）和注意力机制。KCNN将新闻的词嵌入、实体嵌入和上下文实体嵌入作为多通道输入，通过卷积操作提取新闻的特征表示。具体来说，KCNN首先将新闻标题中的每个词与其对应的实体和上下文实体进行关联，然后将这些嵌入信息进行对齐和堆叠，形成多通道的输入矩阵。接着，应用多个不同窗口大小的卷积核对输入矩阵进行卷积操作，捕捉新闻中的局部模式和语义信息。最后，通过最大池化操作提取最重要的特征，得到新闻的最终表示。注意力机制则用于动态聚合用户的历史兴趣。

SIGIR2020。

XSimGCL的核心在于其创新的噪声增强方法和简化的模型架构。具体来说，XSimGCL通过在每一层的聚合嵌入中添加不同的均匀随机噪声来生成扰动表示，这些噪声向量的模长被限制为一个小常数ϵ，以确保扰动的幅度可控。同时，XSimGCL采用了跨层对比的策略，即对比不同层的嵌入表示，而非仅对比最终层的表示。这种跨层对比方式充分利用了不同层嵌入信息的差异性，有助于模型学习到更加丰富和鲁棒的特征表示。

通过创新的情感分类方法和推荐算法，有效提高了新闻推荐的准确性和个性化程度，为用户在海量新闻中快速找到感兴趣的内容提供了有力支持。现有的新闻情感分类与推荐方法主要依赖单一模型，如KNN、SVM和NB等，这些方法在处理复杂多变的新闻文本时，难以充分捕捉文本中的情感信息和用户兴趣特征，导致推荐结果的准确性和个性化程度不足。在信息爆炸的时代，新闻内容的海量增长使得用户难以快速找到符合自身兴趣的新闻。通过计算句子相似度，挖掘文本结构信息，结合TF-IDF权重、词性和词句位置等因素，为用户提供准确的个性化推荐。

方法：提出一个基于深度Q学习（DQN）的推荐框架，能同时考虑当前奖励和未来奖励。模型采用连续状态和动作表示，输入用户和新闻特征，通过多层DQN预测潜在奖励。模型框架分为离线部分和在线部分，离线部分用于特征提取和模型训练，在线部分与用户交互并实时更新模型.创新显式建模未来奖励：与以往方法不同，该框架能显式预测用户未来与新闻的交互，从而在长期内获得更高奖励.用户活跃度反馈：将用户返回模式作为点击/未点击标签的补充，通过生存模型估计用户活跃度，为推荐提供额外信息.有效探索策略。

本研究提出了对比状态增强（Contrastive State Augmentations, CSA）框架，以提高基于RL的推荐系统的训练效果。CSA包含两个主要创新点：状态增强策略和对比学习损失。

输入：用户-项目交互数据和知识图谱（KG）。输出：高质量的负样本，用于训练推荐模型。KGPolicy的核心是探索操作，它导航从正项开始，挑选两个连续的邻居（例如，一个KG实体和一个项目）进行访问。这种两跳路径捕获了知识感知的负信号。

本文的核心在于将LLMs作为环境（LE）来模拟用户行为并为RL推荐系统提供反馈。状态模型（SM）：通过对比用户-项目标记交互与正负动作，学习有效的状态表示。奖励模型（RM）：通过奖励提示，基于用户-项目标记交互和特定动作生成奖励分数。正反馈增强（LEA）：通过提示LE选择潜在的正反馈，增强有限的离线训练数据。

📚 研究背景： 在数字化时代，电商平台如Amazon和Kuaishou等，通过结合搜索(Search)和推荐(Recommendation)服务，满足用户的多元化需求。推荐系统基于用户偏好推荐商品，而搜索服务则允许用户主动寻找特定商品。这两个服务的用户行为数据，为提高推荐系统的点击通过率(CTR)预测准确性提供了宝贵的机会。然而，现有方法往往忽视了用户在搜索和推荐领域间的意图转变，未能充分利用搜索查询中的用户偏好信息。🔍 相关工作：🧠 模型图输入输出转变：上图：模型框架图示意🔧 方法介绍： 本研究提

DiffKG模型的核心在于知识图谱扩散机制。该机制通过逐步引入随机噪声来模拟知识图谱的损坏过程，然后通过迭代学习恢复原始知识图谱结构。这一过程不仅模拟了复杂的关系生成过程，还减少了噪声关系的影响。

零样本基线：使用最大似然softmax概率作为异常检测分数。提示调整：通过微调提示来增强基础类别的分类性能。

在大数据时代，推荐系统（RS）已成为理解用户偏好的重要工具。然而，数据稀疏性一直是推荐系统面临的长期挑战。跨域推荐（CDR）应运而生，旨在通过从信息丰富的源域转移知识来提升目标域的推荐性能。🔄现有的CDR方法主要集中在基于用户-物品交互创建更好的用户嵌入。但这些方法往往忽视了不同用户间活动不一致性的问题，尤其是在数据不平衡的情况下，导致对交互较少的用户生成的嵌入质量较差，从而影响目标域的推荐准确性。🚧本研究提出了一种名为User-aware Contrastive Learning for Robust

输入：多领域知识图谱（KG(A), KG(B), KG(C)），种子项目Iu，目标推荐项目集合Itarget。输出：基于Iu，计算由R和Ii形成的三元组的分数，并输出得分最高的前m个项目集合。

POD方法使用编码器-解码器架构，连续提示向量是任务特定的，每个任务使用一组离散提示模板。通过整词嵌入来连接每个ID的标记。训练过程中，连续提示向量学习离散提示的表达，由于它们不映射到任何具体单词，因此比离散提示更灵活、更具表现力。

在今日的信息洪流中，推荐系统扮演着至关重要的角色。然而，缺乏透明度的“黑箱”特性限制了用户对推荐结果的信任。本文《Personalized Prompt Learning for Explainable Recommendation》提出了一种新颖的个性化提示学习方法，旨在提高推荐系统的可解释性，通过生成自然语言解释来增强用户对推荐结果的理解。

在本次文献阅读分享中，我们将深入探讨由Peiyan Zhang等人提出的流推荐系统领域的突破性研究——《GPT4Rec: Graph Prompt Tuning for Streaming Recommendation》。本文将从研究背景、相关工作、模型架构、实验验证等多个维度进行全面解析，并重点介绍GPT4Rec的创新之处及其在图神经网络（GNN）中的应用。GPT4Rec通过将用户-物品交互图分解为多个视图，并设计节点级、结构级和视图级提示来引导模型适应不同的交互模式。

方法：实体建模：使用图卷积网络（RGCN）和面向项目的知識图谱来获取实体嵌入。📈上下文编码：使用BERT模型来捕获对话上下文的语义信息。🧠对比学习：通过实体-上下文对比损失和上下文-上下文对比损失来训练检索组件。🔄。

数据预处理：准备适合LLM处理的数据。指令调整：通过部分数据训练模型，使其能够处理CDR任务。提示LLMs进行CDR：构建基于用户偏好的个性化提示，让LLM生成推荐。输出细化和推荐：处理LLM的输出，提取建议列表和解释。

在这篇ICLR 2023的论文中，作者提出了一种新颖的图对比学习框架——LIGHTGCL，用于图基础的推荐系统。该方法通过奇异值分解（SVD）增强用户-项目交互图结构，以提高推荐系统的鲁棒性和效率。本文将重点介绍LIGHTGCL的核心方法和创新点，并尝试通过一些图像符号使内容更加生动有趣。

在推荐系统的研究领域，如何准确捕捉用户与项目之间的复杂交互关系是一个重要课题。随着技术的发展，基于图神经网络（GNN）的推荐系统因其在捕捉多跳关系方面的优势而受到广泛关注。然而，现有方法往往忽视了用户-项目交互的动态性，导致在用户偏好变化和新数据分布变化时难以适应。为了解决这一问题，本篇论文提出了GraphPro框架，一个结合动态图预训练和提示学习的参数高效方法，以提供精确且最新的推荐。GraphPro框架的核心在于图预训练和提示学习。