鹤子的一些知识共享

本节介绍了卷积层与池化层运算的过程，以LeNet-5为例实践了卷积网络在Fashion-MINIST分类任务中的应用，并且详细分析了训练过程。

在本节中，我们将深入探索深度学习计算的关键组件， 即模型构建、参数访问与初始化、设计自定义层和块、将模型读写到磁盘， 以及利用GPU实现显著的加速。

暂退法在前向传播过程中，计算每一内部层的同时注入噪声，这已经成为训练神经网络的常用技术。这种方法之所以被称为暂退法，因为我们从表面上看是在训练过程中丢弃（drop out）一些神经元。在整个训练过程的每一次迭代中，标准暂退法包括在计算下一层之前将当前层中的一些节点置零。在x\mathbf{x}x中加入噪音得到x′x′，预期是Ex′xEx′x所以Dropout对每个元素进行如下扰动h′0概率为ph1−p其他情况h' =

通过上一节我们可以通过调整拟合多项式的阶数来限制模型的容量。 实际上，限制特征的数量是缓解过拟合的一种常用技术。 然而，简单地丢弃特征对这项工作来说可能过于生硬如何控制模型的容量？方法有二：1.减少模型参数 2.参数取值范围减小本节介绍的权重衰退通过控制取值范围缓解过拟合

本节介绍的权重衰退通过控制取值范围缓解过拟合

多层感知机解决了线性回归不能解决的非线性问题，多层感知机在线性回归模型的基础上增加了隐藏层和激活函数，本章节将以该思路介绍多层感知机(MLP)

本章节将介绍Softmax回归解决多分类问题，解释了独热编码，softmax函数，交叉熵的概念，并用框架和不使用框架分别编写了分类模型

本章节将介绍线性回归、梯度下降、损失函数、优化算法的概念，并用框架和不使用框架分别编写了线性回归模型

微积分是深度学习的关键内容，本章节将介绍求导、梯度、链式法则的概念，并且介绍了函数可视化绘图的方法。

本专栏是记录作者学习TensorFlow深度学习的相关内容本章节将利用张量的运算，回顾线性代数求和、求均值、矩阵乘法等基本运算，进一步了解张量的概念本节的 Jupyter 笔记本文件已上传至gitee以供大家学习交流：我的gitee仓库文章目录1 标量2 向量长度形状3 矩阵长度形状矩阵的转置tf.transpose()对称矩阵4 张量5 求和与求均值（降维）tf.reduce_sum()tf.reduce_mean()6 点积tf.tensordot()7 向量积tf.linalg.matvec()

本节简单介绍了数据预处理的内容，主要是字符串、csv文件、DataFrame、字典、张量等数据格式之间的转换与处理。经过这一节，我们以将字符串文件格式化为张量为例，详细介绍了处理过程。

本章节主要介绍了张量的各种操作，张量的创建、运算、广播机制、索引与切片以及内存优化等

本章节主要介绍了使用Anaconda配置TensorFlow环境，配置Pycharm，公网部署Jupyter