- 博客(3)
- 收藏
- 关注
原创 BatchNorm和LayerNorm区别
BatchNorm的核心目标是。神经网络在训练过程中,由于,这样每一层都需要不断适应一个“漂移”的输入分布,导致的现象,这导致训练过程变得不稳定、缓慢且困难。批归一化 (Batch Normalization, BN)在每个小批量数据上,对输送到下一层的数据进行重新标准化(减均值、除以标准差),并使用可学习的参数(γ, β)来保持网络的表达能力。其核心思想时进行纵向归一化,即对一个批次(batch)内所有样本的同一特征通道(channel)进行计算。BN。
2025-10-17 10:29:20
843
原创 BM25算法
BM25(Best Matching 25)是一种在信息检索领域被广泛使用且非常有效的排名算法,它主要用于估算查询(Query)与文档(Document)之间的相关性。BM25算法是基于 TF-IDF 模型的改进,其核心思想是综合考虑词频、逆文档频率和文档长度来计算相关性得分。
2025-10-16 14:22:51
895
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅