Ian Goodfellow、Yoshua Bengio、Aaron Courville
网站
致谢
标记
1 简介
1.1 获益哪些?
1.2 深度学习发展长河
I 应用数学及机器学习基础
2 线性代数
2.1 标量、矢量、矩阵和张量
2.2 矩阵与矢量相乘
2.3 矩阵变形和逆
2.4 线性相关和生成
2.5 规范
2.6 特殊矩阵和矢量
2.7 特征分解
2.8 奇异值分解
2.9 广义逆矩阵
2.10 迹算子
2.11 行列式
2.12 举例:主成分析
3 概率和信息理论
3.1 何为概率?
3.2 随机变量
3.3 概率分布
3.4 边缘概率
3.5 条件概率
3.6 条件概率的链式法则
3.7 独立和条件独立
3.8 期望、方差和协方差
3.9 一般概率分布
3.10 常用函数的有用性质
3.11 拜耶斯法则
3.12 连续变量技巧
3.13 信息理论
3.14 结构概率模型
4 数值计算
4.1 上溢和下溢
4.2 较差条件
4.3 基于梯度优化
4.4 约束优化
4.5 例子:最小二乘方
5 机器学习基础
5.1 学习算法
5.2 性能、过拟合和欠拟合
5.3 超参数和验证集
5.4 估计、偏差和方差
5.5 最大似然估计
5.6 拜叶斯统计
5.7 监督学习算法
5.8 未监督学习算法
5.9 随机梯度下降
5.10 实现一个机器学习算法
5.11 挑战可激励的深度学习
II 深度网络:现代实践
6 深度前馈网络
6.1 例子:学习XOR
6.2 基于梯度学习
6.3 隐藏部件
6.4 结构设计
6.5 回朔传播和其他区分算法
6.6 历史版本
7 深度学习规则化