吴恩达深度学习笔记 【第一周课程 简介】

目录

P2什么是神经网络？

1.Supervised Learning的应用：

2.数据

P4为什么深度学习会兴起？

---

 

 

P2什么是神经网络？

relu Function 价格不会为负

多个输入 和限制条件 获得一个预测价格。只需要输入x 就会得到y 所有的中间过程它都会自己完成。

理解：这是一个监督学习的例子，输入多个有关特征的x,y值  神经网络会自己计算每一条边的权值 计算得到一个x到y的精准映射函数。

问题：隐藏层的节点的层数如何确定 ？ 人为确定吗？   这个例子是size 和 bedrooms数确定了家庭规模 等等 

1.Supervised Learning的应用：

标准神经网络  xy

卷积神经网络  图像

音频 RNN

更复杂的序列 文字 语言 RNNS

图像 雷达 混合的神经网络

2.数据

有结构化的数据：意味着每个特征都有着清晰的定义 

无结构化的数据：图像 音频 文字等 

P4为什么深度学习会兴起？

 早期只有少量数据  现在具有大量的数据

SVM等无法处理大量数据，远超传统学习算法能够发挥的性能

如果利用神经网络

这里的data是带标签的数据

规模一直在推动神经网络的进步 要么训练一个超级超级大规模的数据  但会出现训练时间较大

训练集不大的时候优劣并不明确 取决于很多手工组件的异同。当数据量较大时 神经网络具有稳定的优势。

在早期 是数据和计算能力规模的进展训练一个特别大的神经网络是CPU GPU取得了极大的进展 近几年很多算法方面的创新也带来进展 无论是效果还是速度。

exp：sigmoid 从 ReLU

 

sigmoid 由于训练到后期梯度等于零时 训练得很慢 但是ReLU的斜率始终为1 （还需要进行理解横轴的意义）

自动调参进行训练测试