HelloDNN，多层感知机MLP学习笔记

最新推荐文章于 2025-11-12 15:36:36 发布
原创 最新推荐文章于 2025-11-12 15:36:36 发布 · 2.2k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#神经网络 #技术

本文从感知机出发，介绍多层感知机（MLP）的基本概念，包括隐藏层、多输出及激活函数的扩展。通过Tensorflow实现了一个简单的MLP模型，用于MNIST数据集的分类任务，讲解了模型构建、优化过程以及训练验证的步骤，最终展示训练结果和损失函数变化。

前言
学那个技术第一步都是helloworld，AI也是一样，我们来吧

1、从感知机说起

这是一个3输入1输出的感知机模型

这里写图片描述

输入输出之间学到一个线性关系
这里写图片描述
然后一个神经元激活函数
这里写图片描述
但这类模型无法学习比较复杂的非线性模型，且只能做2元分类

2、引入多层感知机神经网络

MLP在对感知机进行的改进主要有3点
2.1 隐藏层
主要为了加强表达能力，层数越多自然表达能力高，当然参数也线性增多，训练时、前向时计算量也越大，所以找到一个合适需求的
这里写图片描述
2.2 多输出
输出层的神经元不止1个，根据需求设计出多个输出，一般的分类回归都是有多个输出的吧
这里写图片描述
2.3 激活函数的扩展
神经网络中一般使用的sigmoid，softmax，relu，tanx等等，比如一般会用softmax解决分类问题，隐层为了防止梯度消失会选用relu，回归问题会用sigmoid，如：
这里写图片描述
好了，我们最后看个一般的MLP模型，每层之间的节点做全连接，参数量爆多，难怪要用显卡
这里写图片描述

3、代码中学习MLP

这里使用tensorflow来做这个HelloWorld（mnist）
因为是HelloWorld所以用一个最简单的1个全连接层10个节点的结构
3.1 构建模型


                

                
                
        

    



  


        

            

                      
                        最低0.47元/天 解锁文章
                          
                      
            

        


    



                



	

		

			

				
					
机器学习笔记——感知机、多层感知机(MLP)、支持向量机(SVM)

				
			

			

				

					haopinglianlian的博客
				

				

					11-17
					
					2141
					
				

			

		

		

			
				
本笔记介绍机器学习中的感知机、MLP、SVM算法。

			
		

	



                

            
              



	

		

			

				
					
数据回归算法 | MLP多层感知机回归预测

				
			

			

				

					天天酷科研的博客
				

				

					11-05
					
					704
					
				

			

		

		

			
				
数据回归算法 | MLP多层感知机回归预测

			
		

	



              


  
              

                


	

		

			

				
					
七 多层感知机代码实例

				
			

			

				

					weixin_42373620的博客
				

				

					03-10
					
					591
					
				

			

		

		

			
				
文章目录
引包
import pandas as pd
import keras
import numpy as np

data = pd.read_csv('./dataset/tt/train.csv')##此次所用数据为之前逻辑回归实例所用数据
data.head()
data.info()

预处理数据集
y = data.Survived
x = data[['Pclass', 'Se...

			
		

	





	

		

			

				
					
深度神经网络DNN（一）——感知机

				
			

			

				

					weixin_45768638的博客
				

				

					09-10
					
					2万+
					
				

			

		

		

			
				
文章目录感知机的概念逻辑电路实现感知机的实现感知机的局限性多层感知机感知机与计算机小结
感知机的概念
感知机接收多个输入信号，输出一个信号。这里所说的“信号”可以想象成电流或河流那样具备“流动性”的东西。和实际的电流不同的是，感知机的信号只有“流/ 不流”（1/0）两种取值。0对应“不传递信号”，1 对应“传递信号”。
下图是一个接收两个输入信号的感知机的例子。x1、x2是输入信号，y是输出信号，w1、w2是权重。图中的○称为“神经元”或者“节点”。输入信号被送往神经元时，会被分别乘以固定的权（w1x1、w

			
		

	



		

			
		



	

		

			

				
					
机器学习背景知识和基础概念

					
最新发布

				
			

			

				

					Study996的博客
				

				

					11-12
					
					1347
					
				

			

		

		

			
				
本文摘要：机器学习（ML）是一门通过经验提升性能的技术，广泛应用于天气预报、问答系统、图像识别和产品推荐等领域。其核心包括数据、模型、目标函数和优化算法四大部分。监督学习通过特征-标签对进行预测，适用于回归、分类和序列学习等问题；无监督学习则处理无标签数据，如聚类和主成分分析。深度学习通过多层神经网络实现复杂数据转换，并借助注意力机制、生成对抗网络等新技术不断突破性能瓶颈。文章还提供了大模型学习路线图、书籍、项目和教程等资源，帮助读者系统入门AI领域。

			
		

	





	

		

			

				
					
keras多层感知器使用例子

				
			

			

				

					ljz2016的博客
				

				

					04-21
					
					1875
					
				

			

		

		

			
				
from keras.models import Sequential
from keras.layers import Dense
import numpy as np
# 多层感知器
np.random.seed(7)
dataset = np.loadtxt('diabetes.csv',delimiter=',')
x = dataset[:,0:8]
y = dataset[:,8]
#...

			
		

	





	

		

			

				
					
MLP和DNN的关联和区别

				
			

			

				

					weixin_45459911的博客
				

				

					09-20
					
					6097
					
				

			

		

		

			
				
MLP可以视为DNN的前身，大致可以分为三层：
输入层，隐藏层，输出层
MLP通常很浅，隐藏层就一二层。
DNN一般隐藏层大于二，而且激活函数的种类更多。



			
		

	





	

		

			

				
					
多层神经网络（MLP）与卷积神经网络（CNN）的区别

				
			

			

				

					直到世界的尽头
				

				

					04-07
					
					1883
					
				

			

		

		

			
				
多层神经网络（Multilayer Perceptron, MLP）与卷积神经网络（Convolutional Neural Network, CNN）是两种常用的神经网络结构，它们在设计理念、结构、应用场景和性能优化等方面有显著区别。通过理解这些区别，可以根据任务需求选择合适模型：若数据有显著的局部空间结构（如图像、语音），选择CNN；若数据是表格形式或无空间特征，则选用MLP或决策树等其他模型。

			
		

	





	

		

			

				
					
多层感知机MLP神经网络Python实现 反向传播算法详解

				
			

			

				

					09-21
				

			

		

		

			
				
# 多层感知机MLP神经网络Python实现 反向传播算法详解  一个完整的多层感知机（MLP）神经网络实现，包含详细的反向传播算法和丰富的可视化功能。本项目从零开始实现了神经网络的核心算法，适合学习和理解深度学习的...

			
		

	





	

		

			

          精选资源
				
					
MATLAB实现MLP多层感知机时间序列预测（完整源码和数据）

				
			

			

				

					10-21
				

			

		

		

			
				
标题中的“MATLAB实现MLP多层感知机时间序列预测”指的是使用MATLAB编程语言，通过多层感知机（Multilayer Perceptron, MLP）神经网络模型对时间序列数据进行预测的一种方法。多层感知机是一种前馈神经网络，具有...

			
		

	





	

		

			

				
					
多层感知机MLP——笔记

				
			

			

				

					l_aiya的博客
				

				

					08-10
					
					427
					
				

			

		

		

			
				
多层感知机使用隐藏层和激活函数来得到非线性模型

			
		

	





	

		

			

				
					
多层感知机（MLP）、全连接神经网络（FCNN）、前馈神经网络（FNN）、深度神经网络（DNN）与BP算法详解

					
热门推荐

				
			

			

				

					weixin_60737527的博客
				

				

					06-27
					
					3万+
					
				

			

		

		

			
				
多层感知机（MLP）、全连接神经网络（FCNN）、前馈神经网络（FNN）、深度神经网络（DNN）与BP算法详解。

			
		

	





	

		

			

				
					
实现预测多个输出的神经网络

				
			

			

				

					02-25
				

			

		

		

			
				
输入一组包含多个因变量和多个自变量的数据时，自训练估计因果关系，在输入另一组自变量时，预测多个因变量

			
		

	





	

		

			

				
					
多输入单输出的多层感知机（MLP）的回归预测：MATLAB实现

				
			

			

				

					YOLOv3333的博客
				

				

					09-13
					
					923
					
				

			

		

		

			
				
接下来，我们构建了一个包含10个隐藏层节点的MLP网络，并使用训练数据对其进行了训练。最后，我们使用训练好的模型对新的输入样本进行预测，并打印出预测结果。我们的目标是通过给定的多个输入变量来预测一个连续的输出变量。在本篇文章中，我们将学习如何使用MATLAB实现多输入单输出的多层感知机（MLP）进行回归预测。MLP是一种常用的人工神经网络模型，具有多个输入和一个输出，可以用于解决各种回归问题。请注意，以上代码仅仅是一个示例，用于演示如何使用MATLAB实现多输入单输出的MLP回归预测。

			
		

	





	

		

			

				
					
多层感知机 MLP

				
			

			

				

					这个人很懒什么都没有~
				

				

					10-19
					
					1672
					
				

			

		

		

			
				
对比期望值得到误差(网络在样本(xk,yk)上的均方误差)，然后将误差传递至隐藏神经元，将误差分摊给各层的各个单元，计算各层各个单元的误差信号，并将其作为修正各单元权值w的根据。多层网络的学习能力比单层感知机强得多，想要训练多层网络，M-P神经元通过y和y^调整w的方法就不够用了，需要更加强大的学习算法，误差逆传播算法(BP算法)是杰出和成功的代表。更一般的，给定训练集。非：取w1=-0.6，w2=,0，θ=-0.5，则y=f(-0.6*x1+0.5)，当x1=1时y=0，当x1=0时y=1。

			
		

	





	

		

			

				
					
深度学习基础--不同网络种类--多层感知机MLP

				
			

			

				

					wydbyxr的博客
				

				

					11-08
					
					1596
					
				

			

		

		

			
				
多层感知机MLP
  BP算法的方面掀起了基于统计模型的机器学习热潮，那时候人工神经网络被叫做“多层感知机”		
  可以摆脱早期离散传输函数的束缚，使用sigmoid或tanh等连续函数模拟神经元对激励的响应，在训练算法上则使用Werbos发明的反向传播BP算法。对，这货就是我们现在所说的神经网络NN。多层感知机给我们带来的启示是，神经网络的层数直接决定了它对现实的刻画能力——利用每层更少的神经...

			
		

	





	

		

			

				
					
深度学习打卡（1）------- 线性回归、SoftMax、多层感知机：MLP

				
			

			

				

					于小鱼的博客
				

				

					02-14
					
					2037
					
				

			

		

		

			
				
线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

一线性回归的基本要素

（一）模型

线性回归假设输出与各个输入之间是线性关系，

例如，我们假设房屋的价格与房子的面积和房龄有关，则房价与面积和房龄的关系可以用如下公式表示：



只有一个自变量的情况称为单变量回归，大于一个自变量情况的叫做多...

			
		

	





	

		

			

				
					
使用Pytorch库实现的简单的多层感知机（MLP）

				
			

			

				

					weixin_64123373的博客
				

				

					08-30
					
					388
					
				

			

		

		

			
				
这是一个通用的前馈神经网络，其中信息从输入层流向输出层。

			
		

	





	

		

			

				
					
回归预测：MATLAB实现多输入单输出的人工神经网络

				
			

			

				

					KdpdCode的博客
				

				

					09-20
					
					238
					
				

			

		

		

			
				
在这篇文章中，我们将使用MATLAB来实现一个多输入单输出的回归预测神经网络，并提供相应的源代码。接着，我们配置了神经网络的输入和输出，并使用训练数据对模型进行训练。训练完成后，我们使用训练好的模型对输入数据进行预测，并计算预测误差和性能指标。假设我们有N个样本，每个样本包含M个输入特征和一个输出标签。我们将训练数据表示为一个大小为N×(M+1)的矩阵，其中每一行表示一个样本，前M列是输入特征，最后一列是输出标签。接下来，我们将使用MATLAB中的神经网络工具箱来创建和训练我们的神经网络模型。

			
		

	





	

		

			

				
					
多层感知机MLP定义

				
			

			

				

					09-24
				

			

		

		

			
				
<think>
嗯，用户这次明确要求查找多层感知机（MLP）的定义，而且引用了三篇站内资料。虽然用户说引用仅供参考，但内容其实很相关，需要从中提取核心定义要素。

用户可能刚接触神经网络概念，需要最基础的定义解释。从引用看，[^1]提到MLP就是人工神经网络（ANN），包含输入输出层和至少一个隐层；[^2]补充了训练方式（反向传播）；[^3]则展示了PyTorch实现结构——这些正好构成完整的定义框架。

注意到上次对话历史是系统级指令，用户本次首次提问MLP定义。回复要严格分层：先用规范格式定义核心概念，再按指令补充相关问题。特别注意两点：
1. 数学表达需用$...$，比如激活函数$\sigma(w^Tx+b)$
2. 代码块保持引用[^3]的PyTorch示例风格

用户给出的三个引用中，定义部分集中在[^1][^2]，代码实现[^3]可作为实例佐证。考虑将定义拆解为三部分说明：结构特征（分层）、功能特性（非线性映射）、训练机制（反向传播），最后用代码示例锚定概念。

准备生成的问题需要覆盖MLP的延伸知识：结构设计（隐层/神经元数量）、激活函数选择、过拟合处理等，这些都是定义的自然引申。特别要避开引用未提及的内容如卷积操作，保持问题边界清晰。
</think>
根据引用内容，多层感知机（MLP）的定义可归纳如下：

### 多层感知机（MLP）定义
1. **基本结构**  
   多层感知机（Multilayer Perceptron, MLP）是一种**前馈人工神经网络**（Artificial Neural Network, ANN）。其核心结构包含：
   - **输入层**：接收原始数据
   - **至少一个隐藏层**：进行非线性特征变换
   - **输出层**：生成最终预测结果  
   最简单的MLP是三层结构（输入层+单隐藏层+输出层）[^1]。

2. **核心特性**  
   MLP通过以下机制实现复杂映射：
   - **全连接**：相邻层的神经元完全互连
   - **非线性激活函数**（如ReLU）：使网络能够学习非线性关系
   - **权重与偏置**：$\boldsymbol{W}$（权重矩阵）和$\boldsymbol{b}$（偏置向量）构成可学习参数

3. **数学表达**  
   对于含单隐藏层的MLP，输出计算为：
   $$
   \boldsymbol{y} = \sigma_2(\boldsymbol{W}_2 \cdot \sigma_1(\boldsymbol{W}_1 \boldsymbol{x} + \boldsymbol{b}_1) + \boldsymbol{b}_2)
   $$
   其中$\sigma_1, \sigma_2$为激活函数，$\boldsymbol{x}$是输入向量。

4. **训练机制**  
   使用**反向传播算法**（Backpropagation）：
   - 前向传播计算预测值
   - 通过损失函数（如MSE）计算误差
   - 误差反向传播更新权重与偏置，优化输入-输出映射关系[^2]

5. **代码实现示例**（基于引用[^3]）
```python
import torch.nn as nn

class MLP(nn.Module):
    def __init__(self, input_dim, hidden_dim, output_dim):
        super().__init__()
        self.linear1 = nn.Linear(input_dim, hidden_dim)  # 隐藏层
        self.linear2 = nn.Linear(hidden_dim, output_dim) # 输出层
        self.relu = nn.ReLU()  # 非线性激活函数
        
    def forward(self, x):
        x = self.relu(self.linear1(x))  # 隐藏层计算
        x = self.linear2(x)             # 输出层计算
        return x
```

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

  

	
    

      

      

      

        
        

          
          

            

              成就一亿技术人!
            

            

              拼手气红包6.0元
            

          

        

        

          

            还能输入1000个字符
          

          

             
          

          

            

              红包
              添加红包
            

            

              表情包
              插入表情
              

                

              

            

            

              表情包
              代码片
              

                
              

            

            

              
              
              
              
              
              
              
            

          

        

      

    

		

			

			

			

					 条评论被折叠 查看
			

			

				
			

		

	

	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值