神经网络学习_笔记

神经网络学习

• What is deep learning
• The Neuron
• Activation Function
• How to work
• How to train
• Gradient Descent
• Stochastic Gradient Descent

- What is deep learning
神经网络学习由称为神经元的基本处理单元互连而成的平行工作的复杂网络系统,简称神经网络。当已知训练样本的数据加到网络输入端时，网络的学习机制一遍又一遍地调整各神经元的权值，使其输出端达到预定的目标。
- The Neuron
keywords

神经元
树突
轴突
突触

即神经细胞，是神经系统最基本的结构和功能单位。分为细胞体和突起两部分。细胞体由细胞核、细胞膜、细胞质组成，具有联络和整合输入信息并传出信息的作用。突起有树突和轴突两种。树突短而分枝多，直接由细胞体扩张突出，形成树枝状，其作用是接受其他神经元轴突传来的冲动并传给细胞体。轴突长而分枝少，为粗细均匀的细长突起，常起于轴丘，其作用是接受外来刺激，再由细胞体传出。轴突除分出侧枝外，其末端形成树枝样的神经末梢。末梢分布于某些组织器官内，形成各种神经末梢装置。感觉神经末梢形成各种感受器；运动神经末梢分布于骨骼肌肉，形成运动终极。

激活函数Activation Function
keywords

• [ ]
• [ ]
• [ ]
• [ ]
• [ ]

How to work
keywords

• [ ]
• [ ]
• [ ]
• [ ]

- How to train
keywords

• [ ]

• [ ]

• [ ]

• 
  Gradient Descent
  keywords

• [ ]

• [ ]

• [ ]

• [ ]

Stochastic Gradient Descent
keywords

• [ ]
• [ ]
• [ ]
• [ ]