efilU的博客

任务背景通过模拟随机生成真实数据x1x2x3x4x1​x2​x3​x4​和对应的y′y'y′，通过训练预测系数wbw, bwb。# 定义理想参数num = 500 # 数据规模true_b = torch.tensor(1.1) # torch.tensor为创建张量的函数# 定义原始参数lr = 0.03。

有模型复杂化（增加神经网络的隐藏层数和隐藏单元数、更换更复杂的算法或模型），增加更多的特征，调整参数和超参数，降低正则化约束。如果没有激活函数，无论网络多么复杂，最后的输出都是输入的线性组合，而纯粹的线性组合并不能解决更为复杂的问题。有降低模型复杂度，减少特征数（去除非共性特征，提高模型泛化），增加训练数据数，调整参数和超参数，使用正则化约束。引入激活函数后，由于激活函数都是非线性的，这便给神经元引入了非线性元素，使得神经网络可以逼近任何非线性函数。在求解的过程中，所有的参数被表示为一个向量。

规则+数据—>答案。