Hinton Neural Networks课程笔记4c：softmax输出神经元

这节主要介绍softmax，将其与squared error作对比，体现softmax优越性。

---

squared error的问题

squared error用来做分类器，通常是使用logistic输出神经元的输出与目标值做差取平方。
具体的，输入是$\vec{z}$，输出是$\vec{y} = \frac{e^{-\vec{z}}}{1+e^{-\vec{z}}}$，目标值为$\vec{t}$。所有向量的维度等于类别数。其中y⃗ =sigmoid(z