关关的学习记录

版权声明：本文为博主原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.youkuaiyun.com/u010698086/article/details/78046671

作者：0与1的邂逅链接：https://www.jianshu.com/p/22c50ded4cf7来源：简书著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。名词解释：Epoch（时期）： 当一个完整的数据集通过了神经网络一次并且返回了一次，这个过程称为一次>epoch。（也就是说，所有训练样本在神经网络中都 进行了一次正向传播 和一次反向传播 ） 再通俗一点，一个Epoch就是将所有训练样本训练一次的过程。然而，当一个Epoch的样本（也就是所有的训练样本

作者：飘哥链接：https://www.zhihu.com/question/291655038/answer/683038545来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。” 术语“消融研究”通常用于神经网络，尤其是相对复杂的神经网络，如R-CNN。我们的想法是通过删除部分网络并研究网络的性能来了解网络。“ - Robert Long“消融”的原始含义是手术切除身体组织。ablation 解释: 通过机械方法切除身体组织，如手术，从身体中去除，尤指.

三者区别：训练集（train set）：用于训练模型以及确定模型权重。 验证集（dev set）： 用于确定网络结构以及调整模型的超参数。 使用验证集是为了快速调参，也就是用验证集选择超参数（网络层数，网络节点数，迭代次数，学习率这些）。另外用验证集还可以监控模型是否异常（过拟合什么的），然后决定是不是要提前停止训 练。验证集的关键在于选择超参数，我们手动调参是为了让模型在验证集上的表现越来越好，如果把测试集作为验证集，调参去拟合测试集...

一、两种初始化方法1、在逻辑回归中，一般就直接初始化为0# 全部初始化为0import numpy as npdef initialize_parameters_zeros(layers_dims): parameters = {} L = len(layers_dims) for l in range(1, L): parameters['W' + str(l)] = np.zeros((layers_dim