一、什么是感知机?
由Rosenblatt于1958年首次推出的感知机,他提出了基于原始 MCP 神经元的感知机学习规则。可以说是最古老、最简单的ANN算法。在此出版物之后,基于感知机的技术在神经网络社区中风靡一时。仅这篇论文就对当今神经网络的流行和实用性负有重大责任。
但随后,在1969年,机器学习社区迎来了“AI寒冬”,神经网络没有人再关注。Minsky和Papert出版了Perceptrons - 计算几何导论,这本书有效地使神经网络的研究停滞了近十年——关于这本书有很多争议,但作者确实成功地证明了单层感知机无法分离非线性数据点。
鉴于大多数现实世界的数据集是自然非线性可分的,这似乎感知机以及其他神经网络研究可能没有太大意义。
在Minsky和Papert的书籍出版后,人们对神经网络的兴趣大幅下降。直到我们开始探索更深层次的网络(有时称为多层