
笔记
文章平均质量分 90
学习笔记
day day no bug
这个作者很懒,什么都没留下…
展开
-
神经网络基础
xi经过神经网络第一层的变换后,就得到了输出zi作为下一层的输入,在进行下一层的变换之前,首先计算zi的平均值和标准差,并通过减去均值除以标准差的方法,将各个样本归一化到均值为0,标准差为1的分布当中,为了稳定数值计算(分母不为0)加一个小常数,且不希望每层样本的分布完全相同,经过一个线性计算进行简单的分布变化,即增加两个可以学习的参数。梯度爆炸:如果激活函数的均值偏离零,可能导致在反向传播过程中梯度迅速增大,这会导致训练过程中的不稳定和网络权重的巨大更新,从而影响模型的训练效果和收敛性。原创 2024-08-31 16:01:45 · 1262 阅读 · 0 评论 -
图像处理基础
笔记原创 2024-08-24 16:54:52 · 1770 阅读 · 0 评论