[李宏毅老师深度学习视频] 类神经网络训练不起来的四大原因 【手写笔记】

本文档基于李宏毅老师的教学视频,详细记录了导致神经网络训练失败的四大原因:局部最小值与鞍点、批处理与动量、学习率及损失函数,并通过手写笔记与ppt讲解的方式进行说明。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

此笔记来源于李宏毅老师的机器学习视频,以下属于自己的理解以及老师上课的内容,由于公式过多,不便于直接打字,故用手写笔记替代。

Github的链接(pdf):https://github.com/Bessie-Lee/Deep-Learning-Recodes-LiHongyi

类神经网络训练不起来有四个原因,分别是:

  • local minima与saddle point
  • batch与momentum(批次与动量)
  • learning rate
  • loss

下面将由手写笔记配上李宏毅老师的ppt进行逐一解释

reason1:critical point

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

reason2:batch and momentum

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

reason3:learning rate

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

reason4:loss

在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Bessie_Lee_gogogo

你的鼓励是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值