邱锡鹏《神经网络与深度学习》学习笔记

原创 已于 2023-06-09 20:40:20 修改 · 474 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #神经网络 #学习

于 2023-06-08 22:21:33 首次发布
文章探讨了机器学习和深度学习的基本差异，强调了深度学习在特征选择上的自动化。同时提到神经网络作为通用函数逼近器的角色，以及两层神经网络的表达能力。文章还提及了损失函数在优化过程中的作用，以及经验风险和结构风险最小化在模型选择中的重要性。此外，还讨论了似然函数在高斯分布情况下的应用。
TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

1.传统的机器学习和深度学习的最根本的区别就是 ：传统的机器学习是人为来选择特征，而深度学习是由网络自己进行特征的选择和学习。传统的机器学习是浅层学习。

2.神经网络可以看做一个通用的函数逼近器，一个两层的神经网络可以逼近任意的函数。

3.机器学习中常用的损失函数

4.经验风险最小化：

5.结构风险最小化：

6.似然函数是高斯分布函数的累乘

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

爱不持久
关注
邱锡鹏DL经典教材-《神经网络与深度学习》
lqfarmer的博客
08-01 3020
本书介绍 近年来，以机器学习、知识图谱为代表的人工智能技术逐渐变得普及。从车牌识别、人脸识别、语音识别、智能助手、推荐系统到自动驾驶，人们在日常生活中都可能有意无意地用到了人工智能技术。这些技术的背后都离不开人工智能领域研究者的长期努力。特别是最近这几年，得益于数据的增多、计算能力的增强、学习算法的成熟以及应用场景的丰富，越来越多的人开始关注这个“崭新”的研究领域：深度学习。深度学习以神经网络为主要模型，一开始用来解决机器学习中的表示学习问题。但是由于其强大的能力，深度学习越来越多地用来解决一...
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】神经网络
qq_48520962的博客
05-10 986
如上图表示对多个神经元接受的信号进行加权求和，结果通过激活函数计算得到一个值，通过设置阈值来表示对应的具体含义（比如大于0.5表示神经元兴奋、小于表明神经元不兴奋）大量人工神经元以及它们之间的有向连接构成人工神经网络，这种许多神经元组成的信息处理网络具有并行分布结构。为输出层（分类器），其中隐藏层是表示学习，输出层为浅层学习，这是一个端到端的前馈深度学习。通过计算每一层结果对最终结果的贡献度，可以最终确定每个层的贡献度分配。发生变化时，对y的影响大小。层的参数，后面是偏导数，对。表示神经网络的输出，
神经网络与深度学习 邱锡鹏 PPT
11-24
神经网络与深度学习 邱锡鹏 PPT，上传内容全，请放心下载
《神经网络与深度学习》- 邱锡鹏（更新）
qq_40345954的博客
10-01 6458
提炼《神经网络与深度学习》中的内容
邱锡鹏《神经网络与深度学习》第一章 绪论 学习笔记
Brooklynwl的博客
01-17 1636
一个好的表示具有一下几个优点：1）很强的表示能力，即同样大小的向量可以表示更多的信息。2）使后续的学习任务变简单，即需要包含更高层次的语义信息。3）具有一般性，是任务或领域独立的。
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】神经元和人工神经网络
qq_48520962的博客
06-12 1351
由于ReLU函数单侧抑制的性质，假如输入数据信息全部处于小于0一侧，那么ReLU函数的输出将变成0，对应的导数（梯度）也是0，从而无法更新参数，导致该神经元一直处于非激活状态，一直输出0，这就是所谓的。除了这些之外，还有一个对ELU函数进行处理，使其尽可能接近ReLU函数的版本，也可以说是ReLU函数的平滑版本，叫做Softplus函数。同样ReLU函数也是非零中心化的函数，基于此又提出了近似的零中心化的非线性函数。，代表的意思就是只允许一半的信息通过，这种就是所谓的。
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】机器学习
qq_48520962的博客
05-10 1345
机器学习可以理解为自动构建一个从输入到输出的映射函数。要构建这个映射函数，需要从大量数据中学习规律。将通过特特征工程提取到的表示记为xxx，输出记为yyy（也称作标签 Label），机器学习就是要寻找一个映射函数fxf(x)fx使得yfxy=f(x)yfx具体说来，假设一xyx,yxy服从分布PrxyP_r(x,y)Pr​xy，并从中采样得到x1x2xNx1x2...xN。
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】前馈神经网络
qq_48520962的博客
06-15 1140
之后内容中的符号解释其中，网络层数L、神经元个数Ml​、激活函数fl​⋅是超参数。​zlWlal−1blalfl​zl​⇒alfl​Wlal−1bl一层中的每一个神经元都是上一层所有神经元的加权汇总，fl​zl是按元素的激活函数（对向量中的每个元素分别带入计算）xa0→z1→a1→z2→⋯→aL−1→zL→aLϕx;wb。
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】感知器
qq_48520962的博客
06-09 1142
感知器是一种非常早期的线性分类模型，作为一种简单的神经网络模型被提出。感知器是一种模拟生物神经元行为的机器，有与生物神经元相对应的部件，如权重（突触）、偏置（阈值）及激活函数（细胞体），输出为+1或-1。
【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】深度学习
qq_48520962的博客
05-10 999
好的表示学习策略必须具备一定的深度神经网络层级个数，层数越多则越深深度学习=表示学习+浅层（决策/预测）学习这种从原始数据直接产生预测结果，中间特征提取部分不需要人工干预的形式叫做。大多数的深度学习模型都是端到端模型。深度学习的难点——深度学习采用的模型一般比较复杂，指样本的原始输入到输出目标之间的数据流经过多个线性或非线性的因为每个组件都会对信息进行加工，并进而影响后续的组件，所以当我们最后得到输出结果时，我们并不清楚其中每个组件的贡献是多少。这个问题叫作。
《神经网络与深度学习》(邱锡鹏) 内容概要【不含数学推导】
因为热爱，所以坚持。
12-10 1334
《神经网络与深度学习》(邱锡鹏) 内容概要，不含数学推导
【学习笔记】《深度学习与神经网络》——邱锡鹏
CodeLuweir 的博客
12-22 9655
一、绪论 人工智能的一个子领域 神经网络：一种以（人工)）神经元为基本单元的模型 深度学习：一类机器学习问题，主要解决贡献度分配问题 知识结构： 路线图： 顶会： 1.1 人工智能 诞生：人工智能这个学科的诞生有着明确的标志性事件，就是1956年的达特茅斯(Dartmouth)会议。在这次会议上，“人工智能” 被提出并作为木研究领域的名称。 人工智能=计算机控制+智能行为； 人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。 ——John McCarthy ( 1927-201
深度学习与神经网络 | 邱锡鹏 | 第四章学习笔记 神经网络
m0_74795952的博客
04-07 1474
学习的是z(x)中的权重w和偏置b由于反向传播算法是根据前馈神经网络特点设计的，所以当网络变得复杂之后，不太适用，又提出了自动微分。
复旦大学邱锡鹏教授：一张图带你梳理深度学习知识脉络
Datawhale
05-07 1877
Datawhale作者：邱锡鹏，复旦大学教授寄语：本文梳理了深度学习知识体系，分为机器学习、神经网络和概率图模型，同时对机器学习算法类型、深度学习原理框架等进行了梳理，帮助大家更好地...
神经网络与深度学习（邱锡鹏）
qq_49373816的博客
09-23 1651
1.分析为什么平方损失函数不适用于分类问题 分类问题中的标签，是没有连续的概念的。每个标签之间的距离也是没有实际意义的，所以预测值 和 标签两个向量之间的平方差这个值不能反应分类这个问题的优化程度。 假设分类问题的类别是1,2,3 那么对于一个真实类别为2的样本X，模型的分类结果是 1 或 3，平方损失函数得到的结果都一样。 显然，不适合 2 在线性回归中,如果我们给每个样本赋予一个权重,经验风险函数为,计算其最优参数，并分析权重的作用 3.证明在线性回归中，如...
神经网络与深度学习3小时PPT-邱锡鹏
qq_43570025的博客
11-25 1197
深度学习与神经网络介绍
《神经网络与深度学习从理论到实践-邱锡鹏》笔记（持续更行ing）
淤泥早红叶
07-19 2174
《神经网络与深度学习从理论到实践-邱锡鹏》直播课学习笔记
深度学习与神经网络 | 邱锡鹏 | 第一章学习笔记
m0_74795952的博客
03-17 1222
参考自下面这篇博客，笔者在此基础上写了写自己的理解，仅自己用来复习使用。
神经网络与深度学习（邱锡鹏）-学习笔记
ChanYeol666的博客
10-11 1547
神经网络与深度学习 第一章 绪论 第二章 机器学习概述 第三章 线性模型 深度学习是机器学习的一个分支，是指一类问题以及解决这类问题的方法。人工神经网络，也简称神经网络，是一种受人脑神经系统的工作方式启发而构造的一种数学模型。在机器学习领域，神经网络是指由很多人工神经元构成的网络结构模型，这些人工神经元之间的连接强度是可学习的参数。 深度学习所要解决的问题是贡献度分配问题，而神经网络恰好是解决这个问题的有效模型。 损失函数是一个非负实数函数，用来量化模型预测和真实标签之间的差异。 线性回归是机
邱锡鹏 神经网络与深度学习
最新发布
06-03
- **笔记与作业**：一些学习者分享了详细的笔记和作业解析，涵盖了PaddlePaddle的基础使用、线性分类、前馈神经网络等多个章节内容。 #### 示例代码 以下是一个简单的基于PaddlePaddle的张量操作示例，展示了如何...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值