13、图像识别、模型拟合与蒙特卡罗模拟

图像识别、模型拟合与蒙特卡罗模拟

1. 图像识别与模型拟合

在语音识别中，为了更好地适应现实生活中的聆听场景，会添加背景噪音。而对于模型拟合，过拟合问题可以通过超参数正则化技术来改善。

1.1 正则化技术

• L1 正则化（权重衰减） ：在成本函数中添加一个项，从而稳定其梯度下降。当人工神经网络的不同运行产生截然不同的结果时，这种方法非常有用。
• L2 正则化 ：通过添加权重绝对值的总和来修改成本函数，以稳定其梯度下降反向传播。

1.2 相关补充信息

• WordNet 由 BSD 免费授权。
• 如今，每个任务的报酬是 6 美元，每单位报酬不到 2 美元。据估计，全职的“机械土耳其人”平均每年能赚 46,000 美元。
• 李教授在为 ImageNet 项目申请研究经费时遇到困难，有人评论“普林斯顿研究这个话题很可耻”，还有人说“该提案唯一的优势是李是女性”。
• ImageNet 是由贾登、魏东、理查德·索切尔、李佳李、李开复和李菲菲在 2009 年设计的大规模分层图像数据库。多伦多大学的亚历克斯·克里泽夫斯基、伊利亚·苏茨克维和杰弗里·E·辛顿赢得了 2010 年的 ILSVRC。由于英伟达 GeForce GTX 580 的片上内存不足，需要两个 CPU。

2. 马尔可夫链蒙特卡罗模拟基础

2.1 数学模型基础

宏观物理现象和工程系统的数学模型几乎总是采用