【标题】深度学习与激光器设计变革

深度学习篇：

神经网络 vs 物理/数学家P131：

	物理/数学家	神经网络
特点	从第一性原理出发，对一种现象进行功能性描述，然后从测量中估计未知的参数，从而得到一个精确的、真实世界的模型。	一组函数，近似出大范围的输入输出关系，不需要对某一现象构建解释模型。
缺点	有时缺乏能力、信息或计算资源来构建明确的模型。	利用数据驱动，放弃解释，以换取解决日益复杂问题的可能性。

神经网络单元机理【P126】：

在（深度）神经网络中，最简单的单元是线性运算（wx(缩放)+b(偏移)），然后是激活函数。

激活函数
特点	1，非线性 2，可微 3，至少有一个敏感范围。在此范围内对输入的变化会导致输出变化。且包含许多不敏感（或饱和）的范围，在此范围内输入的变化导致输出很小或无变化。
作用	一、在模型内部，允许输出函数在不同值有不同的斜率，这是线性函数无法做到的。通过为许多输出设置不同斜率，神经网络才可以近似任意函数。