qq_45689568的博客

简单神经网络训练流程 1）设置步长lr，动量值gamma，迭代次数epochs，batch_size等信息，（如果需要）设置初始权重w0； 2）导入数据，将数据切分成batches； 3）定义神经网络框架； 4）定义损失函数L(w)，如果需要，将损失函数调整成凸函数，以便求解最小值； 5）定义所使用的优化算法； 6）开始在epoches和batch上循环，执行优化算法： 6.1）调整数据结构，确定数据能够在神经网络、损失函数和优化算法中顺利运行； 6.2）完成向前传播， 6.3）计算初始损失； 6.3）反向