m0_47757079的博客

李宏毅深度学习笔记 机器学习就是自动找函式 GEN generate(生成) 产生有结构的复杂东西(例如：文句、图片) supervised Learning 提供给机器有labels的资料进行学习函式，机器根据labels评价函式的好坏。评价的方式就是损失函式loss。机器会根据演算法自动找出Loss最低的函式。 supervision VS Reinforcement supervision 以棋盘为例，给机器一个input告诉说理想的正确的输出是啥。围棋里面的input就是告诉机器现在盘势是这样的

神经网络理解笔记 1.7 神经网络中激活函数的理解 在神经网络中不加激活函数，会导致所有的层中权重w与偏差b的计算，得出的答案都是一系列的线性函数，等于就是多层神经网络可以压缩成一层神经网络。不断进行线性变换，最后还是会统一成y=w*x+b的形式。所以需要对每一层的output加一个Nonlinear function，也就是每一层加一个激活函数。 bp反向传播 反向传播的思想就是用逻辑实现连式法则。 要更新参数w，就必须知道dw，而dw必须要求完成整个前向传播中需要直接或者间接使用w的导数与反向传播的连