看到神经网络一章,把他的代码下载下来看了下。
c的,看上去是远古时代的风格那种,但是不影响理解。
把核心部分的代码读了一下,对怎么实现神经网络倒是理解更深入了,很简单,几行就搞定了,主要是delta的计算,
进而由delta计算出权值的更新。
内容中还提到“惩罚项”,亦即l2正规化的方法,和对权值加上衰减因子是等价的,也容易推导。
这是避免过拟合的一个方法。另外的就是交叉验证了。
看到神经网络一章,把他的代码下载下来看了下。
c的,看上去是远古时代的风格那种,但是不影响理解。
把核心部分的代码读了一下,对怎么实现神经网络倒是理解更深入了,很简单,几行就搞定了,主要是delta的计算,
进而由delta计算出权值的更新。
内容中还提到“惩罚项”,亦即l2正规化的方法,和对权值加上衰减因子是等价的,也容易推导。
这是避免过拟合的一个方法。另外的就是交叉验证了。