- 博客(207)
- 收藏
- 关注
RSS订阅
原创 深度学习笔记合集
本笔记的任务是解读深度学习实践/面试过程中可能会用到的知识点，内容通俗易懂，入门、实习和校招轻松搞定。涵盖深度学习八股文和常用算法、模型，包括深度学习基础知识，前向传播与反向传播、神经网络、卷积神经网络CNN、循环神经网络RNN、LSTM、GRU、Bi-RNN、Transformer、GPT、BERT、T5、AE、VAE、GAN、模型的训练、优化、部署细节等。
2025-01-11 09:16:27
583
8
原创 机器学习笔记合集
本笔记的任务是解读机器学习实践/面试过程中可能会用到的知识点，内容通俗易懂，入门、实习和校招轻松搞定。涵盖机器学习八股文和常用算法，包括机器学习基础知识、感知机（Perceptron）、多层感知机（MLP, Multi-Layer Perceptron）、支持向量机（SVM, Support Vector Machine）、K 最近邻（KNN, K-Nearest Neighbors）、朴素贝叶斯（Naive Bayes）、决策树（Decision Tree）、随机森林（Random Forest）、Bag
2025-01-11 08:26:41
702
6
原创 Meta的AIGC视频生成模型——Emu Video
本文提出Emu Video，这是一种文本到视频生成模型，将生成过程分解为两个步骤先根据文本生成图像;再基于文本和生成的图像生成视频。该模型在性能上超越了RunwayML的Gen2和Pika Labs等商业解决方案。
2026-06-12 16:04:49
321
5
原创 深度学习面试八股—— GRU（Gated Recurrent Unit）
特性RNNLSTMGRUBi-RNN结构单向循环结构，只有隐藏状态有记忆单元状态和隐藏状态，三门控制信息流只有隐藏状态，合并了输入门和遗忘门双向结构，有前向和后向两个独立的 RNN记忆能力适合处理短期依赖，长序列时有梯度消失问题能有效处理长时依赖，解决梯度消失问题简化的版本，参数更少，能处理长短期依赖能同时捕捉序列的前后信息，适合上下文相关任务门机制无门控机制有输入门、遗忘门和输出门有更新门和重置门，控制信息的保留和更新没有门机制，双向结构通过前向和后向的组合增强计算复杂度。
2026-06-10 13:05:44
264
原创 深度学习面试八股——循环神经网络RNN
方法工作原理优点缺点适用场景词袋模型（BOW）将文本表示为词频向量不考虑词序和上下文。简单直观，易实现，能够有效表示词频信息。忽略词序，生成高维稀疏向量。文本分类、信息检索TF-IDF基于词袋模型考虑词在文档中的频率以及整个语料库中的普遍性，赋予不同词权重。反映词的重要性，避免常见词主导影响，适用于文本分类。生成稀疏矩阵，无法捕捉词序和上下文关系。文本分类、关键词提取BM25基于 TF-IDF 的改进，考虑词频、文档长度、词重要性等因素，以计算每个词对文档匹配的相关性得分。
2026-06-05 13:04:41
319
原创 AIGC视频生成模型：ByteDance的PixelDance模型
目前的视频生成方法主要侧重于文本到视频的生成，这样生成的视频片段往往动作极少。作者认为，仅依赖文本指令进行视频生成是不够且并非最优的。在本文中，作者介绍了PixelDance，这是一种基于扩散模型的新颖方法，它将视频生成的第一帧和最后一帧的图像指令与文本指令相结合。Emu Video根据输入文本提示生成图像；之后再基于图像和文本的强条件生成视频。输入的内容包括，文本，作为视频第一帧的图像，作为视频最后一帧的图像。AIGC视频生成明星——Emu Video模型。
2026-06-04 12:57:32
336
原创 AIGC视频生成模型：慕尼黑大学、NVIDIA等的Video LDMs模型
在图像生成领域，潜在扩散模型（LDMs）取得了重大成功，通过在低维潜在空间中训练扩散模型，避免了过高的计算需求的同时，能够实现高质量的图像合成本文中，作者将LDM范式应用于高分辨率视频生成领域。首先仅在图像上预训练一个LDM；然后，通过在潜在空间扩散模型中引入时间维度；在编码后的图像序列（即视频）上进行微调，将图像生成器转变为视频生成器。对扩散模型的上采样器进行时间对齐，将它们转变为时间一致的视频超分辨率模型。野外驾驶数据的模拟和基于文本到视频建模的创意内容创作。
2026-06-03 13:21:23
235
原创 深度学习面试八股——LSTM
在每个时间步 (ttt遗忘门：根据当前输入和前一个时间步的隐藏状态，控制哪些来自上一个时间步的记忆单元信息需要被保留或遗忘。输入门：根据当前输入和前一时间步的隐藏状态，决定当前输入信息是否更新到记忆单元中，通过候选记忆生成新的信息。记忆单元状态更新：根据遗忘门和输入门的输出，更新当前时间步的记忆单元状态 (CtC_tCt输出门：根据当前的输入和记忆单元状态，控制当前时间步的隐藏状态 (hth_tht) 的输出，隐藏状态会传递到下一时间步，作为当前的输出结果。
2026-06-02 12:40:43
188
原创 机器学习面试八股——常用损失函数
损失函数描述应用场景优点缺点均方误差 (MSE)衡量预测值和真实值之间平方误差的平均值，对较大误差进行更大惩罚。线性回归、岭回归等简单易于理解，容易求导。对异常值敏感。平均绝对误差 (MAE)衡量预测值和真实值之间绝对误差的平均值。对异常值不敏感的回归任务对异常值不敏感，反映模型性能更稳定。优化困难，绝对值函数不可导。对数余弦损失 (Log-Cosh)Huber 损失的变体，既能捕捉小误差，也对大误差有更小的增长率。异常值影响较大的回归任务平滑性好，易于求导，适应大误差和小误差。
2026-06-02 12:39:41
252
原创 深度学习面试八股——正则化
Elastic Net 是 L1 和 L2 正则化的结合，它同时引入了 L1 和 L2 正则化项，在获得稀疏解的同时，保持一定的平滑性。
2026-06-01 22:50:50
188
原创 深度学习面试八股——正则化
Elastic Net 是 L1 和 L2 正则化的结合，它同时引入了 L1 和 L2 正则化项，在获得稀疏解的同时，保持一定的平滑性。
2026-06-01 22:49:50
238
原创 AIGC视频生成模型：Stability AI的SVD(Stable Video Diffusion)模型
论文提出了稳定的潜在视频扩散模型（Stable Video Diffusion），这是一种用于高分辨率、最先进的文本到视频和图像到视频生成的视频扩散模型。最近的视频生成模型中，常见的手段是在二维图像的潜在扩散模型中插入时间层，并在小规模高质量视频数据集上进行微调，进而转化为视频生成模型。这些方法训练方法差异很大整理视频数据的策略并未达成共识，这是本文主要解决的问题之一。在本文中，评估了训练视频潜在扩散模型（LDMs）的三个不同阶段文本到图像预训练视频预训练高质量视频微调此外，还证明了。
2026-05-29 13:00:53
367
原创 Meta的AIGC视频生成模型——Emu Video
Meta的Emu Video模型通过分解式生成方法，将文本到视频（T2V）任务拆分为文本生成图像（T2I）和图像+文本生成视频两个步骤。该模型基于预训练的潜在扩散模型，采用图像条件增强策略，结合噪声调度优化与多阶段训练，在保持T2I模型多样性的同时提升视频生成质量。实验表明，Emu Video在512分辨率视频生成上超越RunwayML Gen2等商业方案，支持单图+文本输入，并通过用户研究验证了其优越性。核心创新在于显式中间图像生成与强条件信号设计，为高维视频生成提供了新思路。
2026-05-29 13:00:06
477
原创 机器学习面试八股——常用损失函数
机器学习笔记合集深度学习笔记合集定义：MSE=1n∑i=1n(yi−y^i)2\text{MSE} = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2MSE=n1i=1∑n(yi−y^i)2定义：MAE=1n∑i=1n∣yi−y^i∣\text{MAE} = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i|MAE=n1i=1∑n∣yi−y^i∣定义：Log-Cosh Loss=1n∑i=1n
2026-05-29 09:19:16
232
原创 机器学习面试八股——特征工程
方法类别原理常见方法优点缺点适用场景过滤法（Filter Methods）独立于模型，基于统计指标对特征评分，并选择得分较高的特征。- 方差选择法：剔除方差较小的特征- 皮尔森相关系数：选择线性相关性高的特征- 互信息：选择信息增益大的特征计算效率高，易于实现未考虑特征间相互作用，可能遗漏重要的组合特征快速预筛选大量特征的情况，适合初步筛选特征包裹法（Wrapper Methods）通过训练模型评估特征子集表现，使用搜索策略找到最优特征组合。
2026-05-29 09:18:31
423
原创 深度学习面试八股——优化算法
算法原理优点缺点适用场景GD梯度下降算法，通过每次使用整个训练集， 或者SGD和MGD。计算损失函数相对于模型参数的梯度沿着梯度下降的方向更新参数，以最小化损失函数。理论稳定，易于实现计算成本高，特别是在大数据集上更新缓慢小规模数据集或批量处理场景Momentum在 SGD 基础上增加动量，不仅考虑当前的梯度，还利用过去的梯度积累，加入惯性来加速收敛并减少震荡。提升收敛速度、减少震荡需调节动量系数数据噪声较多的场景AdaGrad对每个参数采用不同的学习率自适应学习率，并。
2026-05-27 22:27:49
408
原创 深度学习面试八股——激活函数
激活函数优点缺点适用场景Sigmoid平滑输出，适合二分类问题梯度消失，非零中心二分类输出层Tanh零中心输出，平滑梯度消失中间层或输出层ReLU计算简单，减轻梯度消失死神经元问题，不对称输出深层网络，特别是卷积神经网络（CNN）Leaky ReLU解决 ReLU 死神经元问题，保持梯度流动不一定总是比 ReLU 更好需要避免死神经元问题的深层网络PReLU可学习的负斜率，灵活性高增加了模型的复杂度和训练时间深度卷积网络等大型模型ELU平滑负值处理，零中心输出计算复杂度高。
2026-05-27 22:14:55
423
原创 机器学习笔记——常用损失函数
本文介绍了机器学习中常见的损失函数和代价函数，包括回归问题和分类问题中的多种损失函数。回归问题中，详细解析了均方误差（MSE）、平均绝对误差（MAE）、对数余弦损失（Log-Cosh）、Huber损失和平均平方对数误差（MSLE）的定义、应用场景及优缺点。分类问题中，介绍了0-1损失、交叉熵损失、合页损失（Hinge Loss）和Focal Loss的定义与适用情况。文章还提供了相关专栏链接，方便读者深入学习。通过对比不同损失函数的特点，帮助读者选择合适的函数以优化模型性能。
2025-10-19 09:45:11
677
原创 机器学习笔记——特征工程
本文介绍了机器学习的特征工程方法，包括特征提取和特征选择两大核心内容。在特征提取部分，详细讲解了手工特征提取（文本、图像、时间序列数据的处理方法）和自动特征提取（CNN、RNN、BERT等深度学习方法）。在特征选择部分，系统分析了过滤法、包裹法和嵌入法三类方法的原理、优缺点及适用场景，并提供了总结表格对比。文章还简要提及了正则化方法和强化学习的概念，为机器学习实践提供了全面的特征处理指导。
2025-10-19 09:44:10
1103
原创 Meta的AIGC视频生成模型——Emu Video
本文详细介绍Meta的视频生成模型Emu Video，作为Meta发布的第二款视频生成模型，在视频生成领域发挥关键作用。
2025-05-14 10:24:10
1678
原创 多模态论文笔记——NaViT
本文详细解读多模态论文NaViT（Native Resolution ViT），将来自不同图像的多个patches打包成一个单一序列——称为Patch n’ Pack——从而实现可变分辨率并保持长宽比。在训练过程中**采用序列封装的方式**处理**任意分辨率和纵横比**的输入，除了具备灵活性的模型应用外，还展示了通过大规模监督和contrastive image-text pretraining来提高训练效率。
2025-05-14 10:23:29
1694
1
原创 多模态论文笔记——TECO
本文详细解读多模态论文TECO（Temporally Consistent Transformer），即**时间一致变换器**，是一种用于视频生成的创新模型，旨在**解决现有视频生成算法在处理长时依赖关系和时间一致性方面的不足**。
2025-05-13 09:54:48
1220
1
原创 AIGC视频生成模型：Stability AI的SVD(Stable Video Diffusion)模型
本文详细介绍Stability AI的视频生成模型SVD(Stable Video Diffusion)模型，这家公司在图像生成领域富有盛名，开发并维护了知名开源项目SD系列图像生成模型。SVD是他们在视频生成领域的尝试，主要贡献是：系统的视频数据整理工作流程，支持文本到视频、图像到视频生成和3D合成（物体从单一视角到多视角的转化）。
2025-05-12 11:14:52
1513
空空如也
MySQL数据库常见的几种锁分类
2025-03-03
Redis雪崩、穿透、击穿及其解决方案
2025-03-03
Golang的静态强类型、编译型、并发型
2025-02-21
消息队列是什么？面试内容
2025-02-19
深度学习笔记——优化算法是什么？
2025-02-01
深度学习笔记——激活函数是什么？
2025-02-01
机器学习笔记——特征工程是什么？
2025-01-31
机器学习笔记——正则化是什么？L1正则化、L2正则化
2025-01-31
AIGC视频生成模型：ByteDance的PixelDance模型 是什么？
2025-01-30
深度学习笔记——正则化是什么？
2025-01-30
机器学习深度学习合集
2025-01-29
多模态论文笔记——TECO 是什么？
2025-01-29
Redis数据库笔记——Hash的扩容机制(rehash)是什么？
2025-01-28
Golang笔记——常用库sync是什么？
2025-01-28
Golang笔记——常用库context和runtime是什么？
2025-01-27
Golang面试必问——GPM调度器
2025-01-27
MySQL数据库笔记——版本号机制和CAS（Compare And Swap）是什么？
2025-01-26
Redis数据库——有序链表(ZSet)的底层实现（跳表）是什么？
2025-01-26
Redis数据库笔记——数据类型及其底层实现是什么？
2025-01-25
多模态论文笔记——ViViT是什么？
2025-01-25
Golang的GPM调度器是什么？
2025-01-22
Golang的GPM调度器是什么？
2025-01-22
Golang的GPM调度器是什么？
2025-01-22
Golang的GPM调度器是什么？
2025-01-22
Golang笔记—— error 和 panic 是什么？
2025-01-22
深度学习、机器学习面试八股有哪些？
2025-01-21
Redis数据库数据结构类型？
2025-01-21
Redis是ZSet的底层实现（跳表）
2025-01-20
Redis数据库的持久化机制是什么？
2025-01-20
Redis数据库笔记——内存预分配是什么？
2025-01-19
MySQL的主从复制原理和实现是什么？
2025-01-19
MySQL数据库的事务介绍
2025-01-18
Golang的常用库reflect和unsafe有什么作用？
2025-01-18
Golang的内存（内存管理、内存逃逸、垃圾回收 (GC) 机制）
2025-01-16
Golang的 error 和 panic有什么区别？
2025-01-15
Golang的 new() 、 make() 和简短声明符区别是什么？
2025-01-15
Golang的GPM调度器是什么？
2025-01-14
Golang的并发控制如何实现？
2025-01-14
Golang的协程同步的实现和应用场景。
2025-01-13
TA创建的收藏夹 TA关注的收藏夹
TA关注的人