Large Language Model Augmented Narrative Driven Recommendations

828 篇文章

已下架不支持订阅

本文介绍了一种名为Mint的方法,用于利用大型语言模型(LLM)对叙事驱动推荐(NDR)任务进行数据增强。Mint通过LLM生成合成的叙述性查询,以增强用户-项目交互数据,进而训练NDR模型。实验证明,这种方法训练的模型在NDR中表现出色,优于其他基线。然而,Mint存在对尾部兴趣和查询结构重复的局限性,未来工作将探索改进策略和更广泛应用。

本文是LLM系列文章,针对《Large Language Model Augmented Narrative Driven Recommendations
》的翻译。

大型语言模型增强叙事驱动推荐

摘要

叙述驱动推荐(NDR)提出了一个信息访问问题,用户通过详细描述自己的偏好和背景来征求推荐,例如,旅行者在描述自己的好恶和旅行环境的同时,征求兴趣点的推荐。随着搜索和推荐系统中基于自然语言的会话接口的兴起,这些要求变得越来越重要。然而,NDR缺乏丰富的模型训练数据,当前的平台通常不支持这些请求。幸运的是,经典的用户-项目交互数据集包含丰富的文本数据,例如评论,这些数据通常描述用户偏好和上下文——这可以用于NDR模型的引导训练。在这项工作中,我们探索使用大型语言模型(LLM)进行数据扩充来训练NDR模型。我们使用LLM从用户-项目交互中创作合成叙述性查询,并在合成查询和用户-项目互动数据上训练NDR的检索模型。我们的实验表明,这是一种训练小参数检索模型的有效策略,在叙事驱动的推荐中,它优于其他检索和LLM基线。

1 引言

2 相关工作

3 方法

4 实验与结果

5 结论

在本文中,我们提出了Mint,一种用于叙事驱动推荐(NDR)任务的数据增强方法。Mint通过使用175B参数的大型语言模型来编写长形式的叙述性查询,同时以用户喜欢的项目的文本为条件,为NDR重新设计历史用户-项目交互数据集。我们在公开的Pointrec测试集上评估了基于Mint数据训练的双编码器和交叉编码器模型,用于叙事驱动的兴趣点推荐。我们证明,所得到的模型优于几个强基线和消融模型,并且在一次设置中匹配或优于直接用于NDR的175B LLM。

已下架不支持订阅

### 知识增强型语言模型的适应方法 知识增强型语言模型通过融合外部知识库来提升性能,特别是在特定领域内的应用效果显著。这类模型不仅依赖于预训练阶段积累的知识,还能够在推理过程中动态获取最新信息。 #### 动态检索机制 为了使大型语言模型更好地服务于特定应用场景,一种有效的方法是在生成响应之前引入基于文档或其他结构化数据源的信息检索步骤[^1]。此过程允许模型访问最新的事实性资料,从而提高回复的相关性和准确性。 #### 多模态感知能力 除了文本之外,环境中的其他形式的数据也可以被用来辅助决策制定。例如,在交互式多模态感知的研究中提到,利用视觉、听觉等多种感官输入可以构建更加全面的理解框架,进而支持更复杂的任务执行[^2]。 #### 领域专用调整策略 针对视频编辑等行业需求开发专门版本的语言处理工具也是一种常见的做法。这些定制化的解决方案通常会集成行业特有的术语表以及工作流程优化建议等内容,以满足用户的特殊要求[^3]。 ```python def knowledge_augmented_response(query, external_knowledge_base): """ 使用外部知识库增强查询的回答质量 参数: query (str): 用户提出的原始问题 external_knowledge_base (dict): 包含额外背景信息的数据集 返回: str: 结合了新获得的事实后的改进版答案 """ retrieved_info = retrieve_relevant_information(query, external_knowledge_base) enhanced_answer = generate_enhanced_reply(retrieved_info) return enhanced_answer def retrieve_relevant_information(question, kb): pass # 实现具体的检索逻辑 def generate_enhanced_reply(info): pass # 基于检索到的信息创建更好的回应 ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值