什么是神经网络?
神经网络是一种模仿人类大脑结构和功能的计算模型,它由多个节点(神经元)通过连接(权重)构成,可以进行学习和模式识别。神经网络的核心是通过训练数据调整权重,从而让模型在输入数据的基础上进行预测或分类。
任何一个函数,都能转换成神经网络!
任何任何一种关系,都是一个函数
神经网络的能力,很强!!!
网络:
网络本质上图,graph,数据结构,(节点,边),并且其有特殊的含义
神经:
神经就像大脑的神经系统
神经元:单元,mini 函数,mini/标准计算过程,简单的加工
线性变换:
• 𝑤0+𝑤1𝑥1+𝑤2𝑥2+𝑤3𝑥3
• X:(1,2,3) • W:(-0.5, 0.1,0.35,0.02)
• 结果:−0.5+0.1∗1+0.35∗2+0.02∗3
• W0: 偏置项
• W_i的值是怎么来的?
• X_i的值是怎么来的?
非线性变换:
• S函数
• 符号函数
• 双曲正切函数
• Relu/Leaky Relu
• Mish/Swish
• softmax
关系:输入输出
神经网络本质:模型函数f(x)
与线性回归/逻辑回归,套路一样,区别在f(x) , 多一个流程,设计f(x)
关于神经网络的几件事情
1. 神经元很简单(线性变换、非线性变换)
2. 神经网络有很多很多的神经元
3. 神经元很标准、有且只有线性和非线性变换
4. 任何一个函数f(x),必然存在一个神经网络和它无限的逼近
5. 给一个神经网络,写出函数表达式
6. 给一个函数表达式,画出神经网络
神经元之间的区别?
• W不同
• 激活函数不同
神经网络分类,神经元之间的连接方式
1. 全连接神经网络,FC
2. 卷积神经网络,CNN
3. 循环神经网络,RNN
全连接神经网络:
1.层次结构,不跨层,不循环
2.两两相连,相邻层
3.有多少个类别,输出层就有多少个节点
FCNN的应用:
尽管FCNN有其局限性,但在某些任务中表现出色,尤其是那些特征简单、结构平坦的任务,如:
- 分类问题:如二分类、多分类问题,特别是结构化数据。
- 回归问题:预测连续数值的回归任务。
- 图像分类(小规模数据):在图像数据集较小、对细节要求不高的情况下,也可尝试使用FCNN。
卷积神经网络:
局部链接、权重共享。
CNN的应用:
卷积神经网络在许多领域有广泛应用,尤其是在计算机视觉任务中:
- 图像分类:例如,识别图片中的物体(猫、狗等)。
- 目标检测:识别图像中的特定物体并标出它们的位置。
- 图像分割:将图像分成多个区域,每个区域对应不同的类别。
- 人脸识别:用于检测和识别图像中的人脸。
- 视频分析:对视频帧进行处理,检测物体、动作等。
循环神经网络:
RNN的应用
由于RNN的结构可以保留过去的信息,它被广泛应用于各种序列预测和处理任务,包括但不限于:
- 自然语言处理:例如,文本生成、情感分析、机器翻译等。
- 时间序列预测:如股价预测、天气预测等。
- 语音识别:从语音信号中识别文字。
- 视频分析:对视频帧序列进行理解和分析。