- 博客(10)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 【深度学习】从一个实例演示Momentum方法对随机梯度下降SGD的“之”字震荡现象减缓效果：《深度学习入门基于Python的理论与实现》中平方和函数的Momentum方法梯度下降过程分析
《深度学习入门基于Python的理论与实现》中对$f(x, y) = \frac{1}{20}x^2 + y^2$这一损失函数进行Momentum方法的梯度下降的原理进行了理论说明，并说明会减缓SGD的“之”字震荡现象。本文将对该问题进行验证。
2024-11-23 23:08:09
992
原创 【深度学习】从一个实例演示随机梯度下降SGD的“之”字震荡现象：《深度学习入门基于Python的理论与实现》中平方和函数的梯度下降过程分析
《深度学习入门基于Python的理论与实现》中对$f(x, y) = \frac{1}{20}x^2 + y^2$这一损失函数进行梯度下降的推理过程，并说明会出现“之”字震荡现象。本文将对该问题进行验证。
2024-11-14 18:49:32
1215
原创 【深度学习】从公式推导来深入理解误差反向传播算法4：《深度学习入门基于Python的理论与实现》中实现的2层全连接神经网络的two_layer_net类的gradient函数分析
《深度学习入门基于Python的理论与实现》中实现了2层全连接神经网络的代码对MNIST数据集的28x28像素0-9手写数字灰度图像进行分类，本文将重点对代码中的two_layer_net类的gradient函数中的误差反向传播的代码进行公式推导验证。验证小批量数据的交叉熵损失函数对对隐藏层（第1层）神经元的输入值的梯度表达式。
2024-11-05 16:06:40
433
原创 【深度学习】从公式推导来深入理解误差反向传播算法3：《深度学习入门基于Python的理论与实现》中实现的2层全连接神经网络的two_layer_net类的gradient函数分析
《深度学习入门基于Python的理论与实现》中实现了2层全连接神经网络的代码对MNIST数据集的28x28像素0-9手写数字灰度图像进行分类，本文将重点对代码中的two_layer_net类的gradient函数中的误差反向传播的代码进行公式推导验证。验证小批量数据的交叉熵损失函数对隐藏层（第1层）神经元的输出值的梯度表达式。
2024-11-05 15:34:56
475
原创 【深度学习】从公式推导来深入理解误差反向传播算法2：《深度学习入门基于Python的理论与实现》中实现的2层全连接神经网络的two_layer_net类的gradient函数分析
《深度学习入门基于Python的理论与实现》中实现了2层全连接神经网络的代码对MNIST数据集的28x28像素0-9手写数字灰度图像进行分类，本文将重点对代码中的two_layer_net类的gradient函数中的误差反向传播的代码进行公式推导验证。验证小批量数据的交叉熵损失函数对第2层权重参数的梯度表达式。
2024-11-04 23:39:50
770
原创 【深度学习】从公式推导来深入理解误差反向传播算法1：《深度学习入门基于Python的理论与实现》中实现的2层全连接神经网络的two_layer_net类的gradient函数分析
《深度学习入门基于Python的理论与实现》中实现了2层全连接神经网络的代码对MNIST数据集的28x28像素0-9手写数字灰度图像进行分类，本文将重点对代码中的two_layer_net类的gradient函数中的误差反向传播的代码进行公式推导验证。验证小批量数据的交叉熵损失函数对输出层线性输入的梯度表达式。
2024-11-04 22:47:28
1085
原创 【Python】小顶堆的应用：heapq模块应用于哈夫曼树与哈夫曼编码，步骤展示与代码解析全揭秘！
【Python】小顶堆的应用：heapq模块应用于哈夫曼树与哈夫曼编码，步骤展示与代码解析全揭秘
2024-01-19 12:20:15
1550
原创 【Python】Python中的heapq模块详解，令人费解的_siftup与_siftdown函数
Python中的小顶堆heapq模块详解，详细解读_siftup函数与_siftdown函数
2024-01-14 12:32:13
4060
1
原创 二叉查找树查找，插入，删除算法详解（C语言实现，注释最全，单步调试通过）
二叉查找树查找，插入，删除算法详解（C语言实现，注释最全，单步调试通过）二叉查找树的定义二叉查找树的实现二叉查找树的定义二叉排序树 (Binary Sort Tree) 又称二叉查找树，它是一种对排序和查找都很有用的特殊二叉树。二叉排序树或者是一棵空树，或者是具有下列性质的二叉树：(1) 若它的左子树不空，则左子树上所有结点的值均小于它的根结点的值；(2) 若它的右子树不空，则右子树上所有结点的值均大于它的根结点的值；(3) 它的左、 右子树也分别为二叉排序树。二叉排序树是递归定义的。 由定义
2021-07-21 19:19:46
816
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人