深度学习-基础知识

---

前言

本深度学习系列是根据paddle飞浆所简单整理的，需要可自行跳转学习。本节是关于深度学习基础知识的相关内容，包括神经元、单层感知机与多层感知机。这是只会简单记录小部分知识，目的是方便以后复习用。

---

一、神经元

神经元细胞有抑制和兴奋两种状态。
“McCulloch–Pitts (MCP) neuron”模型

以上通过线性加权累加结果与阈值 θ进行比较解决二分类问题。

二、单层感知机

1.单层感知机模型

1957年 Frank Rosenblatt 提出了一种简单的人工神经网络，被称之为感知机。
单层感知机的模型可以简单表示为：

2.训练过程

线性可分数据集与线性不可分数据集。
单层感知机只能处理线性可分数据集。与MCP模型不同的是，单层感知机参数是通过多次迭代训练得到的。

3.单层感知机存在的问题

由于单层感知机无法划分线性不可分数据集，所以无法模拟逻辑异或函数的功能。

三、多层感知机

多层感知机提出是为了解决单层感知机无法解决的问题。即在感知机模型中增加若干隐藏层，增强神经网络的非线性表达能力，就会让神经网络具有更强拟合能力。隐藏层使用的是“全连接”，所谓“全连接”是指两个相邻层之间的神经元相互成对连接，但同一层内神经元之间没有连接。多层感知机是如何解决的呢？多层如何达到可观？

---