自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(113)
  • 收藏
  • 关注

原创 Transformer架构

每个头对应的向量维度。

2026-06-17 17:41:10 207

原创 八股-大语言模型基础

模型生成文本的一部分。

2026-06-05 20:09:55 288

原创 基础知识补充

衡量模型预测的概率分布与真实标签的概率分布之间的差异。为什么分类问题要大费周章地用对数交叉熵呢?在回归问题中,我们常用均方误差(

2026-06-02 19:39:36 341

原创 Ali-tianchi news:面试问答

【代码】Ali-tianchi news:面试问答。

2026-05-29 14:31:18 73

原创 Ali-tianchi news:all

点击剥离作为。

2026-05-27 17:29:43 320

原创 关于腾讯广告算法大赛2025项目面试要点

(其他所有复杂的交叉项)

2026-05-19 21:37:04 413

原创 关于腾讯广告算法大赛2025项目分析3-重读

从 dataloader 依次取不同的batch。model.train:将模式设置为训练模式。

2026-05-12 19:44:25 134

原创 论文阅读:Meta | HSTU Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Gene

scaling:生成推荐系统的模型质量随着训练计算的增长而呈幂律扩展。

2026-04-05 18:56:14 398

原创 论文DLRM:Deep Learning Recommendation Model for Personalization and Recommendation Systems

推荐模型的实现,用于个性化推荐。DLRM通过结合和基于分析的方法的原理。并行化方案。DLRM 提供两个版本的代码,分别使用 PyTorch 和 Caffe2。此外,DLRM 还有一个使用 Glow C++算子实现的变体。为了适应不同框架,各个版本的代码略有不同,但整体结构类似。DLRM结合了推荐系统+预测分析视角,通过嵌入embedding处理稀疏类别特征,MLP处理连续特征。通过统计方法将这些特征进行交互。最后,使用另一个MLP后处理这些特征交互,最终得到事件的发生概率。

2026-04-05 17:45:15 441

原创 人工智能应用作业1:PPO强化学习算法

说,PPO通过修改目标函数,引入一个裁剪项,确保更新不会过大。二阶优化方法,计算和实现较为复杂,PPO在TRPO的基础上进行改进,保留了。来近似TRPO的KL散度约束,从而在保证稳定性的同时简化了优化过程。该函数量化了策略在一段时间内根据所获得的奖励的整体表现。”内进行,解决步长敏感,避免了大步长更新带来的不稳定性。(而不是直接控制KL散度)来约束策略变化。,使得每次更新都在“

2026-04-03 19:18:04 359

原创 关于腾讯广告算法大赛2025项目分析2 - model.py分析

都是padding token 永远是零向量main中 user_emb 和 item_emb 做了zero-init全部初始化为 0。这是为了让模型前期更多依赖多模态和类别特征,减少 ID 过拟合。

2026-03-26 17:24:03 119

原创 关于腾讯广告算法大赛2025项目分析1 - dataset.py

把原始 jsonl 用户行为序列,转成模型能直接吃的张量和特征字典。

2026-03-23 22:20:23 397

原创 关于腾讯广告算法大赛2025项目分析0-main.py

本文介绍了一个基于序列推荐的多模态推荐系统实现方案。项目采用HSTU模型架构,结合用户行为序列、多模态特征和时间特征,使用InfoNCE对比学习损失进行训练。关键技术包括:1)Xavier初始化确保模型稳定训练;2)AdamW优化器配合梯度裁剪防止梯度爆炸;3)warmup+cosine衰减学习率调度策略;4)特殊处理padding embedding为0的正则化技巧。实验通过TensorBoard监控训练过程,解决了序列推荐中的特征融合、训练稳定性等问题。该方案适用于需要处理多模态特征的推荐场景,对工业级

2026-03-23 15:11:58 486

原创 机器学习限制与边界

训练模型的数据,与模型需要预测的数据,是从。

2026-03-12 10:20:40 318

原创 探知录-模型优化与工程等

交叉验证的目的:获得对模型泛化能力更稳健、更可靠的估计。核心方法:K折交叉验证是黄金标准,分类问题优先使用分层K折交叉验证。关键区别:训练集/验证集:用于模型训练和开发过程中的评估(如选择模型、调参)。交叉验证发生在这个阶段。测试集:只在所有开发完成后,用于最终的一次性性能报告。必须严格隔离,绝不能用于任何决策。工程化角色:交叉验证是连接模型开发(训练、调参)与模型评估(测试)的桥梁,是确保模型质量、防止过拟合、实现可靠模型选择与优化的基石。

2026-03-08 21:06:32 58

原创 探知录-深度学习

引入非线性fz1e−z1​fzmax0zfzi​∑j1K​ezj​ezi​​。

2026-03-06 11:44:45 84

原创 探知录-强化学习

智能体通过与环境进行马尔可夫决策过程式的交互,根据获得的奖励信号,不断优化其(通常通过学习和更新价值函数来实现),最终目标是关键词:经验中学习、试错、延迟奖励→。

2026-03-05 18:39:38 394

原创 探知录—无监督学习

将数据集中的样本划分成若干个互不相交的子集(称为簇或类),使得同一个簇内的样本彼此相似,而不同簇中的样本彼此不相似。相似:数学上的来衡量(如欧氏距离)

2026-03-05 11:18:53 102

原创 探知录—监督学习

本文概述了机器学习中的核心线性模型及其应用。主要内容包括:1)线性回归的最小二乘法和梯度下降法,解决多元线性回归中的共线性和过拟合问题;2)逻辑回归的Sigmoid函数和损失函数,用于二分类问题;3)回归评估指标如MAE、MSE、RMSE和R²;4)决策树的纯度衡量标准和优缺点;5)支持向量机最大化分类间隔的原理;6)K近邻算法的实现流程。文章提供了Python代码示例,涵盖了模型训练、预测和评估的关键步骤,为机器学习实践提供了基础指导。

2026-03-03 19:43:20 242

原创 代码探知录

【代码】代码探知录。

2026-02-26 23:36:16 42

原创 刷题自用~

dijsktra+拆点。

2024-01-26 14:22:19 276

原创 计算机CS夏令营刷题模板(实时更新)

参照acwing给出知识点,做的是对应洛谷的模板题,

2024-01-15 21:50:10 690 1

原创 最优化方法

稀疏图,按边大小排序。

2023-07-26 16:56:26 2049

原创 latex 绘画 形式语言与自动机(Tikz画状态机)

【代码】latex 绘画 形式语言与自动机(Tikz画状态机)

2023-03-11 17:09:58 1082

原创 HIT程序人生

将整个文件从虚拟空间中映射到的物理内存中的所有数据,从磁盘载入物理内存中,然后再跳转至main函数入口处,进行CPU的时间片的分配和逻辑控制流的执行。动态链接器使用过程链接表PLT+全局偏移量表GOT实现函数的动态链接,在GOT中存放函数目标地址,PLT使用GOT中地址跳转到目标函数,在加载时,动态链接器会重定位GOT中的每个条目,使得它包含目标的正确的绝对地址。本章主要介绍了hello的进程,包括进程的概念、功能与执行,shell的作用与基本处理流程,fork进程的创建过程,execve函数的过程。

2022-11-14 19:34:39 1583 1

原创 关于文件读入与获取文件大小

【代码】关于文件读入与获取文件大小。

2022-10-21 19:50:13 1294

原创 c++ class类的使用

最近在搞手写栈,突然想起自己C++类class还没怎么学。刚好就接着这次的东风一起学一波(要不然总感觉自己的数据结构课什么都没学,太失败QAQ)自己又没什么学习心得,直接挂链接吧~

2022-10-12 09:26:26 614

原创 edb的安装与使用&计统第二次实验

1: edb --run bomb(文件名) (命令行参数)[要求必须在该可执行文件的所在文件夹目录下使用]2: edb 直接打开edb界面,然后点击菜单内的File,沿着路径寻找你要使用的文件。特别注意./edb会报错(请不要执行这条指令)在终端窗口输入以下代码进行安装。两种方法使用edb打开。

2022-10-08 23:59:02 1877 2

原创 makefile的相关使用

Makefile编译,gdb调试(用文本打开,用vim打开会出现tab变空格的现象)Make clean :清除以前的文件。

2022-09-07 07:59:48 331

原创 9.5 数据算法与结构 ——导论

待学习:关键路径,warshall,哈夫曼树,平衡二叉树(二叉树相关B-tree),归约图,HASH,外部排序。待复习:各类链表,kmp算法,dijsktra,矩阵,树相关的基础操作,堆,强连通,双连通,floyd。查找:线性结构,树型结构,散列结构。排序:内部排序,外部排序。

2022-09-05 09:15:29 177

原创 关于Linux中的命令行参数的使用

argc是计算机自己统计的输入参数个数,不包括./main该文件名。argv[1][2]…中存储着我们依次输入的字符串。./main文件名直接存储在argv[0]中。

2022-08-24 11:09:59 457

原创 计算机设计实践LAB2

验收代码(杂合代码)

2022-08-24 11:09:32 183

原创 计算机设计实践1

2.用/usr /name(按名字查找) +文件名。1.用whereis+文件名查找。

2022-08-22 11:08:31 147

原创 7.25 python建模基础

numpy库的语法

2022-07-25 21:21:33 208

原创 7.24 python建模基础

代码】7.24python建模基础。

2022-07-24 21:20:22 269

原创 7.10 字典与集合

使用{}创建字典使用:指明 键:值 对使用逗号(,)分隔每对键值键必须是不可变的且不重复,只可以是任意类型2.访问字典使用[]运算符,键作为索引增加一个新的对在字典里键值对是无序的3.字典运算符和方法len()字典中键—值对的数量in快速判断key是否为字典中的键:O(1)等价于my_dict.has.key(key)for ··· in my_dict枚举字典中的键,仍然是无序的枚举字典中的键-对my_dict.items()返回全部的键-

2022-07-10 22:54:22 195

原创 7.8 python列表与元组

极其包容支持索引 []切片 [:]拼接 +重复 *成员 in长度 len()函数循环 for使用[]生成,元素之间用逗号分隔可以包含多种类型的对象,而字符串只能是字符内容是可变的,字符串是不可变的网址初始化可以是空列表sum,max,minb=a相当于指针操作,动b牵连ab=a[:],则不影响............

2022-07-08 21:38:15 292

原创 7.8 python 函数

如果实参没有给,就是用默认参数值global表明x是全局变量,此时在函数内修改x值等同于修改全局变量x的值!! x此时不需要成为参数

2022-07-08 14:14:48 739

原创 7-8字符串

转义符输出“”等易误读符号拼接+重复*for语句枚举字符串的每个字符函数字符串索引[]下标从零开始下标越界显示错误索引值以 0 为开始值,-1 为从末尾的开始位置。成员运算符in判断一个字符串是否是另一个字符串的子串返回True或者False切片计数参数替换replace12.其他方法split切割后放在列表中不加参数按照空格切加参数按照参数左右来切(所有同类型参数)原字符串不改变直接用来比较为真返回True,为..

2022-07-08 11:45:10 232

原创 7.7python修习(程序控制结构)

单分支结构( if 语句)if 的嵌套多分支结构(elif)elif= else : ifstart: 计数从 start 开始。默认是从 0 开始。例如range(5)等价于range(0, 5);stop: 计数到 stop 结束,但不包括 stop。例如:range(0, 5) 是[0, 1, 2, 3, 4]没有5step:步长,默认为1。例如:range(0, 5) 等价于 range(0, 5, 1).........

2022-07-07 15:56:33 260

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除