- 博客(113)
- 收藏
- 关注
原创 论文阅读:Meta | HSTU Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Gene
scaling:生成推荐系统的模型质量随着训练计算的增长而呈幂律扩展。
2026-04-05 18:56:14
398
原创 论文DLRM:Deep Learning Recommendation Model for Personalization and Recommendation Systems
推荐模型的实现,用于个性化推荐。DLRM通过结合和基于分析的方法的原理。并行化方案。DLRM 提供两个版本的代码,分别使用 PyTorch 和 Caffe2。此外,DLRM 还有一个使用 Glow C++算子实现的变体。为了适应不同框架,各个版本的代码略有不同,但整体结构类似。DLRM结合了推荐系统+预测分析视角,通过嵌入embedding处理稀疏类别特征,MLP处理连续特征。通过统计方法将这些特征进行交互。最后,使用另一个MLP后处理这些特征交互,最终得到事件的发生概率。
2026-04-05 17:45:15
441
原创 人工智能应用作业1:PPO强化学习算法
说,PPO通过修改目标函数,引入一个裁剪项,确保更新不会过大。二阶优化方法,计算和实现较为复杂,PPO在TRPO的基础上进行改进,保留了。来近似TRPO的KL散度约束,从而在保证稳定性的同时简化了优化过程。该函数量化了策略在一段时间内根据所获得的奖励的整体表现。”内进行,解决步长敏感,避免了大步长更新带来的不稳定性。(而不是直接控制KL散度)来约束策略变化。,使得每次更新都在“
2026-04-03 19:18:04
359
原创 关于腾讯广告算法大赛2025项目分析2 - model.py分析
都是padding token 永远是零向量main中 user_emb 和 item_emb 做了zero-init全部初始化为 0。这是为了让模型前期更多依赖多模态和类别特征,减少 ID 过拟合。
2026-03-26 17:24:03
119
原创 关于腾讯广告算法大赛2025项目分析0-main.py
本文介绍了一个基于序列推荐的多模态推荐系统实现方案。项目采用HSTU模型架构,结合用户行为序列、多模态特征和时间特征,使用InfoNCE对比学习损失进行训练。关键技术包括:1)Xavier初始化确保模型稳定训练;2)AdamW优化器配合梯度裁剪防止梯度爆炸;3)warmup+cosine衰减学习率调度策略;4)特殊处理padding embedding为0的正则化技巧。实验通过TensorBoard监控训练过程,解决了序列推荐中的特征融合、训练稳定性等问题。该方案适用于需要处理多模态特征的推荐场景,对工业级
2026-03-23 15:11:58
486
原创 探知录-模型优化与工程等
交叉验证的目的:获得对模型泛化能力更稳健、更可靠的估计。核心方法:K折交叉验证是黄金标准,分类问题优先使用分层K折交叉验证。关键区别:训练集/验证集:用于模型训练和开发过程中的评估(如选择模型、调参)。交叉验证发生在这个阶段。测试集:只在所有开发完成后,用于最终的一次性性能报告。必须严格隔离,绝不能用于任何决策。工程化角色:交叉验证是连接模型开发(训练、调参)与模型评估(测试)的桥梁,是确保模型质量、防止过拟合、实现可靠模型选择与优化的基石。
2026-03-08 21:06:32
58
原创 探知录-强化学习
智能体通过与环境进行马尔可夫决策过程式的交互,根据获得的奖励信号,不断优化其(通常通过学习和更新价值函数来实现),最终目标是关键词:经验中学习、试错、延迟奖励→。
2026-03-05 18:39:38
394
原创 探知录—无监督学习
将数据集中的样本划分成若干个互不相交的子集(称为簇或类),使得同一个簇内的样本彼此相似,而不同簇中的样本彼此不相似。相似:数学上的来衡量(如欧氏距离)
2026-03-05 11:18:53
102
原创 探知录—监督学习
本文概述了机器学习中的核心线性模型及其应用。主要内容包括:1)线性回归的最小二乘法和梯度下降法,解决多元线性回归中的共线性和过拟合问题;2)逻辑回归的Sigmoid函数和损失函数,用于二分类问题;3)回归评估指标如MAE、MSE、RMSE和R²;4)决策树的纯度衡量标准和优缺点;5)支持向量机最大化分类间隔的原理;6)K近邻算法的实现流程。文章提供了Python代码示例,涵盖了模型训练、预测和评估的关键步骤,为机器学习实践提供了基础指导。
2026-03-03 19:43:20
242
原创 HIT程序人生
将整个文件从虚拟空间中映射到的物理内存中的所有数据,从磁盘载入物理内存中,然后再跳转至main函数入口处,进行CPU的时间片的分配和逻辑控制流的执行。动态链接器使用过程链接表PLT+全局偏移量表GOT实现函数的动态链接,在GOT中存放函数目标地址,PLT使用GOT中地址跳转到目标函数,在加载时,动态链接器会重定位GOT中的每个条目,使得它包含目标的正确的绝对地址。本章主要介绍了hello的进程,包括进程的概念、功能与执行,shell的作用与基本处理流程,fork进程的创建过程,execve函数的过程。
2022-11-14 19:34:39
1583
1
原创 c++ class类的使用
最近在搞手写栈,突然想起自己C++类class还没怎么学。刚好就接着这次的东风一起学一波(要不然总感觉自己的数据结构课什么都没学,太失败QAQ)自己又没什么学习心得,直接挂链接吧~
2022-10-12 09:26:26
614
原创 edb的安装与使用&计统第二次实验
1: edb --run bomb(文件名) (命令行参数)[要求必须在该可执行文件的所在文件夹目录下使用]2: edb 直接打开edb界面,然后点击菜单内的File,沿着路径寻找你要使用的文件。特别注意./edb会报错(请不要执行这条指令)在终端窗口输入以下代码进行安装。两种方法使用edb打开。
2022-10-08 23:59:02
1877
2
原创 makefile的相关使用
Makefile编译,gdb调试(用文本打开,用vim打开会出现tab变空格的现象)Make clean :清除以前的文件。
2022-09-07 07:59:48
331
原创 9.5 数据算法与结构 ——导论
待学习:关键路径,warshall,哈夫曼树,平衡二叉树(二叉树相关B-tree),归约图,HASH,外部排序。待复习:各类链表,kmp算法,dijsktra,矩阵,树相关的基础操作,堆,强连通,双连通,floyd。查找:线性结构,树型结构,散列结构。排序:内部排序,外部排序。
2022-09-05 09:15:29
177
原创 关于Linux中的命令行参数的使用
argc是计算机自己统计的输入参数个数,不包括./main该文件名。argv[1][2]…中存储着我们依次输入的字符串。./main文件名直接存储在argv[0]中。
2022-08-24 11:09:59
457
原创 7.10 字典与集合
使用{}创建字典使用:指明 键:值 对使用逗号(,)分隔每对键值键必须是不可变的且不重复,只可以是任意类型2.访问字典使用[]运算符,键作为索引增加一个新的对在字典里键值对是无序的3.字典运算符和方法len()字典中键—值对的数量in快速判断key是否为字典中的键:O(1)等价于my_dict.has.key(key)for ··· in my_dict枚举字典中的键,仍然是无序的枚举字典中的键-对my_dict.items()返回全部的键-
2022-07-10 22:54:22
195
原创 7.8 python列表与元组
极其包容支持索引 []切片 [:]拼接 +重复 *成员 in长度 len()函数循环 for使用[]生成,元素之间用逗号分隔可以包含多种类型的对象,而字符串只能是字符内容是可变的,字符串是不可变的网址初始化可以是空列表sum,max,minb=a相当于指针操作,动b牵连ab=a[:],则不影响............
2022-07-08 21:38:15
292
原创 7.8 python 函数
如果实参没有给,就是用默认参数值global表明x是全局变量,此时在函数内修改x值等同于修改全局变量x的值!! x此时不需要成为参数
2022-07-08 14:14:48
739
原创 7-8字符串
转义符输出“”等易误读符号拼接+重复*for语句枚举字符串的每个字符函数字符串索引[]下标从零开始下标越界显示错误索引值以 0 为开始值,-1 为从末尾的开始位置。成员运算符in判断一个字符串是否是另一个字符串的子串返回True或者False切片计数参数替换replace12.其他方法split切割后放在列表中不加参数按照空格切加参数按照参数左右来切(所有同类型参数)原字符串不改变直接用来比较为真返回True,为..
2022-07-08 11:45:10
232
原创 7.7python修习(程序控制结构)
单分支结构( if 语句)if 的嵌套多分支结构(elif)elif= else : ifstart: 计数从 start 开始。默认是从 0 开始。例如range(5)等价于range(0, 5);stop: 计数到 stop 结束,但不包括 stop。例如:range(0, 5) 是[0, 1, 2, 3, 4]没有5step:步长,默认为1。例如:range(0, 5) 等价于 range(0, 5, 1).........
2022-07-07 15:56:33
260
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅