- 博客(112)
- 收藏
- 关注
原创 论文Heterogeneous Graph Transformer(HGT)阅读笔记
提出异构图 Transformer 模型(HGT)设计元关系感知的异构注意力机制引入相对时间编码提出 HGSampling提出归纳式时间戳分配方法。
2026-03-11 16:45:59
555
原创 【debug】vscode无法连接autodl远程
是因为现在的实例数据盘快满了,vscode安装vscode server的时候,需要额外的空间,空间不足就不行。最终发现在另一张实例vscode可以连接,在本地终端可以连接,但是就这张卡的vscode远程连接不上。在网上搜索了各种解决方法,删除配置,开关机...不知道抽什么风了,,,
2026-03-02 10:18:04
215
原创 【debug】解决 5070ti 与 pytorch 版本不兼容的问题
下载torch, torchvision( torchvision要比torch日期晚一天)到本地,然后:pip install 本地的下载路径。print(torch.cuda.get_device_name(0)) # 获取第一个 GPU 的名字。print(torch.cuda.get_arch_list()) # 应包含'sm_120'nvidia-smi查到的可容纳的最大cuda的版本>=cuda版本>=pytorch版本。我查到的是12.8,那么我的cuda也下载12.8。
2025-11-29 23:22:50
1023
原创 UniSearch: Rethinking Search System with a Unified Generative Architecture论文阅读笔记
提出UniSearch统一生成式搜索框架,包含搜索生成器(基于Encoder-Decoder结构,将查询和用户特征转换为语义标识符)和视频编码器(基于Transformer和VQ-VAE,学习多模态特征并离散化为语义ID);通过联合预训练搜索生成器和视频编码器统一优化语义对齐(残差对比学习),避免传统两阶段训练的目标偏差;后训练引入搜索偏好优化(SPO),结合系统奖励和用户反馈在线对齐生成结果与用户偏好;推理时采用Trie结构约束生成路径,确保高效性和结果有效性。
2025-11-28 13:35:02
750
原创 OneSearch:A Preliminary Exploration of the Unified End-to-End Generative Framework for E-commer论文笔记
关键词增强的层次量化编码(KHQE)模块:在保持强查询-商品相关性约束的前提下,同时保留层次化语义和商品的区分性属性,利用的是RQ-OPQ(残差量化+优化乘积量化)的组合方案。RQ负责层次化语义:第一层编码大类(服装),第二层编码子类(连衣裙),第三层编码细节(颜色、款式)OPQ负责独特特征:保留每个商品的独特属性,避免信息损失关键词增强:通过NER识别18种结构化属性(品牌、材质、风格等),确保核心属性不被淹没多视角用户行为序列注入策略。
2025-11-24 12:58:32
1214
原创 ONEREC-THINK
OneRec-Think,一个将对话、推理与个性化推荐无缝融合的统一框架。OneRec 严重缺乏显式且可控的推理能力为什么生成式模型需要具有推理能力?生成与用户复杂目标不一致的结果难以解释为何推荐某个物品无法处理用户的复杂、多跳、多因素偏好推理是让模型在开放生成空间中“自我约束”的关键。
2025-11-19 10:56:03
1260
原创 OneRec Technical Report 笔记
开篇提出,目前的大部分推荐系统还是按照多级级联结构(multi-stage cascaded architecture)比如召回-精排-重排)的方式而不是端到端的方法 -> 通信存储计算的碎片化,,每个阶段的优化目标不一致,传统推荐系统不能跟上ai演化的脚步OneRec 的关键就在于:把检索和排序等所有阶段融合进同一个生成式模型,让系统能够一次性的学习并生成推荐结果。
2025-11-10 10:54:50
1479
原创 【debug】2025.11:解决最新版pycharm找不到conda可执行文件以及 can‘t open file ‘info‘:No such file or directory
注意:在新建环境里面选择conda.bat, 之后在自定义环境里面就可以自由选择自己建立的虚拟环境啦,我记得老版是不需要选择conda.bat这一步的。
2025-11-09 22:51:00
222
原创 【推荐系统14】数据分析:以阿里天池新闻推荐为例学习
训练集和测试集的用户id没有重复,也就是测试集里面的用户模型是没有见过的训练集中用户最少的点击文章数是2, 而测试集里面用户最少的点击文章数是1用户对于文章存在重复点击的情况, 但这个都存在于训练集里面同一用户的点击环境存在不唯一的情况,后面做这部分特征的时候可以采用统计特征用户点击文章的次数有很大的区分度,后面可以根据这个制作衡量用户活跃度的特征文章被用户点击的次数也有很大的区分度,后面可以根据这个制作衡量文章热度的特征。
2025-11-07 15:36:43
1183
原创 【推荐系统13】生成式推荐
生成式召回:无需预构建索引,直接通过模型生成与查询相关的候选结果本节讨论三个主要内容:一是生成式召回,延续SASRec的思路但在输入和输出上进行深度创新;二是生成式排序,将生成范式引入传统的排序阶段;三是端到端统一生成,试图用单一模型完成从召回到排序的全流程。
2025-11-06 14:57:09
729
原创 【推荐系统12】冷启动问题
POSO-MHA:在处理用户浏览记录时,给新用户和老用户分配不同的 “注意力方向”,新用户重点看内容是否新颖,老用户重点看是否符合历史喜好。MeLU的核心思想是将每个用户的偏好学习视为一个独立的学习任务,通过元学习框架训练一个能够快速适应新用户偏好的推荐模型。核心就是给新老用户 “分开定制” 推荐逻辑,避免新用户的需求被老用户的数据 “带偏”。
2025-11-05 15:40:03
864
原创 【推荐系统9】重排模型:基于贪心、个性化的重排
核心目标是从候选物品中选择一个子集,使得核矩阵(融合了相关性和多样性)的行列式值最大,使用的贪心策略:每次挑一个能让当前推荐列表变得更好(更相关且更多样)的物品,逐步凑出最优推荐结果,这里用到了数学技巧(Cholesky 分解)降低了 DPP 求解的复杂度。
2025-11-01 20:07:43
977
原创 【推荐系统8】多场景建模
但是在多场景建模中,样本只在相同的场景内才满足独立同分布,多个场景混合的样本得到的统计量会忽略了不同场景独有的分布差异。1. EPNet:场景感知的嵌入个性化在共享的底层 Embedding 的基础上,引入一个带有场景先验信息的门控(Gate)机制,以极低的额外参数量,实现 Embedding 层的场景差异化和个性化。本节讨论基于多塔结构的多场景建模方案,构建物理隔离的参数塔,分而治之,为不同场景构建独立的“专家”网络或塔底参数,有效地捕获了场景间的特异性信息。1. 将参数矩阵分解成三个子矩阵相乘的形式。
2025-10-31 15:35:55
824
原创 【debug】No module named ‘langchain.text_splitter‘/No module named ‘langchain_community.text_splitter‘
网上有些代码的例子的库已经更新了组织结构,导入的时候有点麻烦要改一下。
2025-10-31 11:31:35
1602
1
原创 【debug】raise RuntimeError(f“Error loading {self.file_path}“) from eRuntimeError: Error loading
raise RuntimeError(f"Error loading {self.file_path}") from eRuntimeError: Error loading 的错误解决方法,欢迎交流
2025-10-31 10:59:37
285
原创 【推荐系统7】多目标建模
(Multi-Task Learning, MTL)通过联合优化多个相关任务,在推荐系统中实现用户体验与商业目标的协同提升。本文为funrec推荐系统学习笔记,整合自己的理解和网络其他资料写成。
2025-10-30 15:32:38
954
原创 【推荐系统6】序列建模:从DIN、DIEN到DSIN
本文为funrec推荐系统学习笔记,整合自己的理解和网络其他资料写成。将用户历史看作一个动态的序列。
2025-10-29 11:04:15
916
原创 【推荐系统4】序列召回
本文为funrec指导学习笔记,并整合网络资料,个人理解等完成。序列召回就是要利用用户行为的时间顺序信息来进行推荐。它的基本想法是:用户的当前兴趣不仅取决于他过去喜欢什么,还取决于他最近在做什么,以及这些行为的顺序。
2025-10-27 20:01:48
969
原创 DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning论文阅读
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning论文阅读,自留使用,欢迎交流
2025-10-20 20:04:16
683
原创 Qwen 技术报告解读:QWEN TECHNICAL REPORT
Qwen Technical Report 技术报告解读,自留使用,欢迎交流。
2025-10-19 16:14:17
1529
原创 简述深度学习中的四种数据并行方法(DP,DDP,TP,PP)
不足:每个 worker 必须同时存储并运行的各个 micro-batch 的激活值,导致流水线第一阶段的激活内存与单个 mirco-batch 的总激活内存大致相同。流水线并行的核心思想是:在模型并行的基础上,进一步引入数据并行的办法(将模型的各层划分为可以并行处理的阶段),即把原先的数据再划分成若干个batch,送入GPU进行训练。优势:流水线并行减少的显存与流水线的阶段数成正比,这使模型的大小可以随 worker 的数量线性扩展,并且通过 micro-batch 可以有效减少 bubble。
2025-10-17 22:38:12
1466
原创 股票价格预测 - Attention-based CNN-LSTM and XGBoost hybrid model for stock prediction 论文阅读
自留使用,如有错误欢迎交流。
2025-10-17 16:58:11
893
原创 解决 yfinance 库下载报错问题:Too Many Requests. Rate limited. Try after a while.
本人在练习yfinance 库时报错:Index: []原代码为。
2025-10-16 11:32:58
1286
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅