名词复习:
训练数据和测试数据:训练数据用来训练模型,测试数据用来评估模型。
梯度下降法:一种优化方法,通过计算损失函数相对于参数的梯度来更新参数,使损失最小化。
学习率:控制模型学习步伐的参数,学习率过大可能导致模型不稳定,过小则可能训练速度过慢
线性模型是一种用来预测结果的数学方法。它使用一些已知的数据(比如过去的观看次数)来预测未来的观看次数。
数据可能会有其它规律
观察发现,观看次数每7天会有规律性变化,周五和周六观看人数特别少。这说明我们的模型只考虑前一天的数据可能不够好。
模型改进
为了提高预测准确性,可能需要考虑前7天的数据,而不仅仅是前一天的数据。理解数据的特点是改进模型的关键。
在现实中,观看次数的关系可能更复杂:
- 当前一天的观看次数小于某个值时,隔天的观看次数可能成正比。
- 当前一天的观看次数超过某个值时,隔天的观看次数可能会减少。
这种复杂性无法用简单的线性模型表示,称为模型的偏差。
分段线性模型
线性模型有一定局限性。为了更好地描述这种复杂关系,我们可以使用分段线性模型。红色曲线可以看作是多个Hard Sigmoid函数的组合。
Hard Sigmoid 函数
特性:当输入值在某个范围内时,输出会有一个斜坡,超出这个范围后,输出保持不变。
形状:先是水平的,然后是斜坡,再水平的。
- 常数项:设定一个常数,使得红色曲线与 yy-轴的交点一致。
- 蓝色函数:通过多个蓝色的 Hard Sigmoid 函数来构建红色曲线:
- 第一个蓝色函数的斜坡起点设在红色函数的起始位置。
- 第二个蓝色函数的斜坡设在红色函数的转折点之间。通过调整蓝色函数的参数,使得它们的斜率与红色函数的斜率一致,从而形成红色曲线的形状。