Pytorch 之torch.nn初探第2关：线性--Linear layers

已于 2022-10-14 20:43:10 修改
阅读量1.5k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： educoder人工智能答案 文章标签： pytorch 深度学习 人工智能
于 2022-10-04 21:38:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/hacker_zrq/article/details/127166809
本文详细介绍了PyTorch中Linear层的使用，包括其基本形式、参数说明、维度大小、学习到的变量以及应用示例。通过创建线性层变量并输出其属性，读者将更深入地理解这一核心组件在深度学习模型中的作用。

说完了NN的构成元素Module，下面可以介绍如何使用PyTorch构建网络了，这部分主要使用了torch.nn包。让我们来看一下它到底是一个多么神奇的工具吧！

任务描述

本关介绍了利用module.weight，module.bias查询模块的权重和偏移量。

本关任务：

本关要求同学们创建一个线性层变量linear并输出linear的 type 属性。

相关知识

现在同学们autograd有了初步的了解，而nn建立在autograd的基础上来进行模型的定义和微分。

我们自定义的网络结构是由若干的layer组成的，我们将其设置为 nn.Module的子类，nn.Module中包含着神经网络的层，只要使用方法forward(input)就能够将output返回。

Linear是module的子类，是参数化module的一种，与其名称一样，表示着一种线性变换。

首先，先导入我们本次实训使用的包。

 

     
 
  1. import torch
    2. 


                

        

    

  


        

                

                  

                  

                  了解本专栏
                  
                  
                    
                  订阅专栏 解锁全文
                   
                  
                    
                    超级会员免费看
                  
                

            
            
            
        


    



                



	

		

			

				
					
Pytorch 之torch.nn初探第4关：卷积--Convolution Layers

				
			

			

				

					admin的博客
				

				

					10-05
					
					914
					
				

			

		

		

			
				
经过前几节的的学习，想必大家对torch.nn有了初步的了解。接下来，向大家介绍神经网络中的一种特殊的定义——卷积层！

			
		

	



                

            
              



	

		

			

				
					
Pytorch 之torch.nn初探--第1关：torch.nn.Module

				
			

			

				

					Martin-share的博客
				

				

					01-17
					
					2942
					
				

			

		

		

			
				
Pytorch 之torch.nn初探--第1关：torch.nn.Module

			
		

	



              


  
  
              

                


	

		

			

				
					
Pytorch 之torch.nn初探第3关：非线性--Nonlinearities

				
			

			

				

					admin的博客
				

				

					10-05
					
					1228
					
				

			

		

		

			
				
在实际应用中，非线性模型往往比线性模型更加适用，而torch.nn中也提供了许多非线性模型供大家使用。让我们一起来看一看吧！

			
		

	





	

		

			

				
					
Pytorch 之torch.nn初探 第1关：torch.nn.Module

				
			

			

				

					admin的博客
				

				

					10-04
					
					2997
					
				

			

		

		

			
				
神经网络可以使用torch.nn包构建。nn.Linearnn.Conv1dnn.Conv2dnn.Conv3dnn.Sigmoidnn.Tanhnn.ReLUnn.LSTMnn.GRUnn.Dropoutnn.MSELossnn.NLLLoss这些类的实例将具有一个内置的__call__函数，可通过图层运行输入。

			
		

	



		

			
		



	

		

			

				
					
Pytorch 之torch.nn初探

				
			

			

				

					Junds0的博客
				

				

					03-06
					
					3111
					
				

			

		

		

			
				
第1关：torch.nn.Module
本关要求利用nn.Linear()声明一个线性模型 l，并构建一个变量 net 由三个l序列构成。
import torch
import torch.nn as nn
from torch.autograd import Variable
#/********** Begin *********/
#声明一个in_features=2,out_features=3的线性模型 l并输出
l = nn.Linear(2, 2)
print(l)
#变量 net 由三个l

			
		

	





	

		

			

				
					
Pytorch 之torch.nn初探--第2关：线性--Linear layers

				
			

			

				

					Martin-share的博客
				

				

					01-17
					
					951
					
				

			

		

		

			
				
Pytorch 之torch.nn初探--第2关：线性--Linear layers

			
		

	





	

		

			

				
					
头歌Pytorch 之torch.nn初探参考答案

					
最新发布

				
			

			

				

					hs2254406096的博客
				

				

					06-03
					
					1510
					
				

			

		

		

			
				
改实验对输出格式有一定要求，写起来确实挺头疼尤其是没看清左侧要求。代码难度不大基本在左侧能找出答案，下面答案仅供参考。

			
		

	





	

		

			

				
					
LINEAR LAYERS

				
			

			

				

					trouble的博客
				

				

					12-03
					
					510
					
				

			

		

		

			
				
Linear层

Examples1：
import torch

x = torch.randn(128, 20)         # 输入的维度是（128，20）
m = torch.nn.Linear(20, 30)      # 维度 20,30
output = m(x)
print('m.weight.shape:\n ', m.weight.shape)
print('m.bias.shape:\n', m.bias.shape)
print('output.shape:\n', output

			
		

	





	

		

			

				
					
Pytorch 之torch.nn初探 torch.nn.Module与线性--Linear layers

				
			

			

				

					weixin_50917576的博客
				

				

					04-19
					
					1543
					
				

			

		

		

			
				
神经网络可以使用torch.nn包构建。它提供了几乎所有与神经网络相关的功能，例如：
线性图层 nn.Linear，nn.Bilinear
卷积层 nn.Conv1d，nn.Conv2d，nn.Conv3d，nn.ConvTranspose2d
非线性 nn.Sigmoid，nn.Tanh，nn.ReLU，nn.LeakyReLU
池化层 nn.MaxPool1d，nn.AveragePool2d
Recurrent网络 nn.LSTM，nn.GRU
标准化 nn.BatchNorm2d
...

			
		

	





	

		

			

				
					
深度学习之pytorch 中 torch.nn介绍

				
			

			

				

					qinbaby的专栏
				

				

					02-20
					
					2734
					
				

			

		

		

			
				
pytorch 中必用的包就是 torch.nn，torch.nn 中按照功能分，主要如下有几类：1. Layers（层）：包括全连接层、卷积层、池化层等。2. Activation Functions（激活函数）：包括ReLU、Sigmoid、Tanh等。3. Loss Functions（损失函数）：包括交叉熵损失、均方误差等。4. Optimizers（优化器）：包括SGD、Adam、RMSprop等。

			
		

	





	

		

			

				
					
Pytorch 之torch.nn初探第5关：池化--Pooling Layers

				
			

			

				

					admin的博客
				

				

					10-05
					
					1559
					
				

			

		

		

			
				
若输入大小: (N,C,L)，输出大小(N,C,Lout​)和池化窗口大小k的关系是如果填充不为零，则输入在两侧都会隐式填充零。参数，stride，padding可以是一个int或一个元素的元组。

			
		

	





	

		

			

				
					
pytorch之torch.nn

				
			

			

				

					qiu_huohuo
				

				

					04-25
					
					1139
					
				

			

		

		

			
				
PyTorch中的 torch.nn包提供了很多与实现神经网络中的具体功能相 关的类，这些类涵盖了深度神经网络模型在搭建和参数优化过程中的常 用内容，比如神经网络中的卷积层、池化层、全连接层这类层次构造的 方法、防止过拟合的参数归一化方法、Dropout 方法，还有激活函数部 分的线性激活函数、非线性激活函数相关的方法，等等。

首先先看一段代码：


import torch
from torc...

			
		

	





	

		

			

				
					
Pytorch 之torch.nn初探 卷积--Convolution Layers

				
			

			

				

					weixin_50917576的博客
				

				

					04-20
					
					1335
					
				

			

		

		

			
				
卷积的本质就是用卷积核的参数来提取原始数据的特征，通过矩阵点乘的运算，提取出和卷积核特征一致的值。卷积层是用一个固定大小的矩形块去席卷原始数据，将原始数据分成一个个和卷积核大小相同的小块，然后将这些小块和卷积核相乘输出一个卷积值（注意这里是一个单独的值，不再是矩阵了）。这里我们拿最常用的 conv1d举例说明卷积过程的计算。

			
		

	





	

		

			

				
					
pytorch 之torch.nn

				
			

			

				

					weixin_42797179的博客
				

				

					02-10
					
					322
					
				

			

		

		

			
				
CLASS torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True)
在由多个输入平面组成的输入信号上应用2D卷积
stride 控制互相关的步幅，单个数字或元组。
padding控制padding每个维度的点数的两侧隐式零填充量。
di...

			
		

	





	

		

			

				
					
PyTorch学习笔记之torch.nn

				
			

			

				

					格物致知的专栏 [音视频编解码 网络协议 计算机视觉 计算机图形学 图像理解 语音识别 机器学习 模拟电路 传感器]
				

				

					04-14
					
					697
					
				

			

		

		

			
				
这里主要概括性地讲解一下torch.nn中的几个函数的含义。

nn.Flatten() - 顾名思义，就是将张量的几个维度变成一维的，有点类似于matlab中的reshape函数。该函数一般后跟一个nn.Linear()即全连接层。

nn.Linear() - 用于构造一个全连接层，第三个参数bias默认为True，表示会学习一个附加的偏置。

nn.Conv2d() - 表示2维卷积，参数依次为输入通道，输出通道，卷积核尺寸，步长，填充。卷积前后会发生通道和特征尺度的改变。

nn.ReLU() - 

			
		

	





	

		

			

				
					
pytorch中的Linear Layer（线性层）

				
			

			

				

					weixin_30532973的博客
				

				

					01-30
					
					6792
					
				

			

		

		

			
				
LINEAR LAYERS

Linear

Examples:


>>> m = nn.Linear(20, 30)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([...

			
		

	





	

		

			

				
					
头歌pytorch 之torch.nn初探

				
			

			

				

					11-05
				

			

		

		

			
				
PyTorch是一个基于Python的科学计算库，主要针对深度学习任务。在PyTorch中，torch.nn是一个用于构建神经网络模型的模块。

torch.nn模块提供了一系列神经网络层和函数，方便用户构建自定义的神经网络。用户可以通过继承torch.nn.Module类来定义自己的神经网络模型。torch.nn模块中常用的类包括各种层（例如全连接层、卷积层、池化层和循环层等）、非线性激活函数和损失函数等。

在使用torch.nn模块构建神经网络时，用户需要实现模型的前向传播函数forward()。该函数定义了输入数据在神经网络中的流动方式，即通过层和函数的组合计算输出。在forward()函数中，用户可以使用已定义的层和函数进行计算，也可以实现自定义的操作。

torch.nn模块中的另一个重要概念是参数（parameter）。参数是模型中需要学习的变量，例如网络层的权重和偏置项。用户可以通过在模型中定义torch.nn.Parameter对象来创建参数，并在forward()函数中进行使用。

除了torch.nn模块外，PyTorch还提供了其他的工具和模块来辅助神经网络的训练和优化过程。例如torch.optim模块包含了各种优化算法，如随机梯度下降（SGD）、Adam等，用于更新模型中的参数。torch.utils.data模块提供了数据处理和加载的工具，方便用户使用自己的数据训练模型。

总之，torch.nn模块是PyTorch中用于构建神经网络模型的重要组成部分。通过使用torch.nn的各种类和函数，用户可以方便地创建自己想要的神经网络结构，并利用PyTorch强大的计算能力和优化算法来训练和优化模型。

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		
评论 2

	

  

	
    

      

      

      

        
        

          
          

            

              成就一亿技术人!
            

            

              拼手气红包6.0元
            

          

        

        

          

            还能输入1000个字符
          

          

             
          

          

            

              红包
              添加红包
            

            

              表情包
              插入表情
              

                

              

            

            

              表情包
              代码片
              

                
              

            

            

              
              
              
              
              
              
              
            

          

        

      

    

		

			

			

			
			

					 条评论被折叠 查看
			

			

				
			

		

	

	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
ad_m1n

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值