朱师傅的博客

小白知识点 训练误差和泛化误差 训练误差：模型在训练数据集上表现出的误差 泛化误差：模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。 验证数据集、测试数据集和训练数据集三者的功能 训练集：模型训练的过程其实就是在求参数，我们通过训练集来分别对模型进行训练，学习到每一个模型中对应的最优的参数。 验证集：我们要考察不同结构的模型在数据上的优劣程度，而模...

知识点 损失函数中的解分为两类： 解析解：误差最小化问题的解可以直接用公式表达出来 数值解：通过优化算法有限次迭代模型参数来尽可能降低损失函数的值 优化函数的两个步骤： 初始化模型参数，一般来说使用随机初始化。 我们在数据上迭代多次，通过在负梯度方向移动参数来更新每个参数. 两个向量相加的两种方法： 向量相加的一种方法是，将这两个向量按元素逐一做标量加法。 timer = Timer(...