李宏毅机器学习-深度学习介绍

本文介绍了深度学习的基础步骤,包括神经网络的前馈结构,以及模型评估中的损失函数和参数优化。重点讲解了如何通过反向传播计算损失,并使用框架如TensorFlow进行优化。同时,讨论了寻找最优参数的梯度下降方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.深度学习的三个步骤

在这里插入图片描述

2.神经网络

在这里插入图片描述
神经网络中有很多不同的连接方式,因此会产生不同的网络结构。神经网络的节点,类似于人脑的神经元。我们有很多逻辑回归函数,每个逻辑回归都有自己的权重和自己的偏差,这些权重和偏差就是参数。

完全连接前馈神经网络

概念:前馈(feedforward)也可以称为前向,从信号流向来理解就是输入信号进入网络后,信号流动是单向的,即信号从前一层流向后一层,一直到输出层,其中任意两层之间的连接并没有反馈(feedback),亦即信号没有从后一层又返回到前一层。
在这里插入图片描述
在这里插入图片描述

3.模型评估

在这里插入图片描述
在这里插入图片描述对于损失,我们不单单要计算一笔数据的,而是要计算整体所有训练数据的损失,然后把所有的训练数据的损失都加起来,得到一个总体损失L。接下来就是在function set里面找到一组函数能最小化这个总体损失L,或者是找一组神经网络的参数\thetaθ,来最小化总体损失L

4.选择最优函数

在这里插入图片描述
在这里插入图片描述
θ是一组包含权重和偏差的参数集合,随机找一个初试值,接下来计算一下每个参数对应偏微分,得到的一个偏微分的集合\nabla{L}∇L就是梯度,有了这些偏微分,我们就可以不断更新梯度得到新的参数,这样不断反复进行,就能得到一组最好的参数使得损失函数的值最小。
在神经网络中计算损失最好的方法就是反向传播,我们可以用很多框架来进行计算损失,比如说TensorFlow,theano,Pytorch等等

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Cifeng79

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值