crabstew的博客

量化投资与机器学习简介术语模型 简介 1 术语 超参数 在机器学习的上下文中，超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。 相关性分析与回归分析 1、相关性分析相当于先检验一下众多的自变量和因变量之间是否存在相关性，当然通过相关分析求得相关系数没有回归分析的准确。 如果相关分析时..................

梯度消失与梯度爆炸出现原因解决梯度消失与梯度爆炸的方法 出现原因 梯度消失和梯度爆炸是因为在神经网络中，由于网络层数增多，导致求取的梯度趋于 ∞\infty∞（梯度爆炸）和趋于 0（梯度消失）的情况。 参考 解决梯度消失与梯度爆炸的方法 梯度剪切：防止梯度爆炸，即当梯度超过一定阈值则将梯度限制在这个阈值范围内 正则化项： Loss=(y−WTx)2+α∣∣w∣∣2 Loss=(y-W^Tx)^2...

集成学习小记Bagging降低方差(variance)，boosting降低偏差(bias)Random Forest（随机森林）是什么？Stacking Bagging降低方差(variance)，boosting降低偏差(bias) Bagging与Boosting的区别 简单的记： Bagging降低方差的原因：bagging是随机取样，因此模型间相关性不高，所以可以防止过拟合 Boosti...