<基础原理进阶>机器学习算法python实现【2】--ForwardPass&BackPropagation

本文介绍了机器学习网络中前向传播和反向传播的概念,基于计算图模型,详细解释了反向传播的规则,并通过实例展示了如何计算梯度。在理解了这些基础原理后,可以更好地搭建和优化神经网络。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我们前面已经谈到,在构建一个网络时,主要的思路可以分为两部分:

Loop:{

  前向传播——计算结果,得到loss_function

反向传播——逐层计算梯度,调整参数数值

}until convergence


今天我们来添加构建网络的最后一块砖石:前向和反向传播算法实现

之前我们讲过了梯度下降,是一种优化方法,用它来优化损失函数。至于损失函数的选择,各种教程都有说明.....不管是cross_entropy, SVM, softmax......选一个适合的就好


OK,前传和后传都是基于一种叫做computation graph的计算模型,大概就是以下这个样子:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值