[神经网络]计算量GFLOPS和参数量#Params以及感受野计算

最新推荐文章于 2025-04-24 16:33:42 发布
最新推荐文章于 2025-04-24 16:33:42 发布
阅读量9.8k 收藏 18
点赞数 4
CC 4.0 BY-SA版权
分类专栏： 读书笔记 技巧 CODE Python 待处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/xiaolouhan/article/details/90169362
本文详细解析了FLOPS（每秒浮点运算次数）与FLOPs（浮点运算数）的概念，解释了它们在衡量硬件性能与算法复杂度上的应用。并给出了卷积核及全连接层网络的FLOPs计算公式。

FLOPS：floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。衡量硬件性能的指标。
FLOPs：floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。衡量算法/模型的复杂度。

假设采用滑动窗实现卷积且忽略非线性计算开销，则卷积核的FLOPs为，其中H、W和C_{in}分别为输入特征图（就是输入图片了）的高度、宽度和通道数，K为核宽度，C_{out}为输出通道数。

\textup{FLOPs}=2HW(C_{in}K^{2}+1)C_{out}

 

全连接层网络FLOPs为，其中，I为输入维数，O为输出维数。

\textup{FLOPs}=(2I-1)O

 

Ref: Molchanov P, Tyree S, Karras T, et al. Pruning Convolutional Neural Networks for Resource Efficient Inference[J]. 2016.

https://blog.youkuaiyun.com/zhaoyin214/article/details/83616164

 

https://blog.youkuaiyun.com/wangdongwei0/article/details/88389775

https://zhuanlan.zhihu.com/p/33992733

https://zhuanlan.zhihu.com/p/34475420

https://zhuanlan.zhihu.com/p/29024978

https://blog.youkuaiyun.com/peaceinmind/article/details/78079263

https://blog.youkuaiyun.com/warm_in_spring/article/details/79133459

https://blog.youkuaiyun.com/hzhj2007/article/details/80164909

https://blog.youkuaiyun.com/hzhj2007/article/details/80164909

https://blog.youkuaiyun.com/qian99/article/details/79008053

 

https://blog.youkuaiyun.com/wgx571859177/article/details/80983043

https://fomoro.com/projects/project/receptive-field-calculator

GFLOP、DMIPS、TOPS 到底有啥区别？这篇终于讲明白了！
weixin_43199439的博客
07-31 180
性能指标全称单位意义擅长什么GFLOP每秒可执行多少十亿次浮点运算浮点计算，如图像处理、物理仿真DMIPS基于 Dhrystone 基准测试的整数处理能力控制类任务，如 ECU、VCUTOPS每秒可执行多少万亿次操作（多为 INT8）AI推理，如图像识别、目标检测TOPS = 每秒万亿次操作（Tera Operations per Second）⚠️ 通常是INT8精度下的操作，专门用于 AI 推理加速。
YOLOv8算法优化：解决YOLOv8无法打印计算量（GFLOPs）的问题点
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
12-28 6007
本文内容：解决YOLOv8无法打印计算量的问题点；本文提供：1）训练阶段自动打印计算量；2）提供离线打印计算量的代码；
神经网络的计算量(FLOPs)、参数量(Params)、推理时间（FPS）的定义及实现方法
热门推荐
qq_43307074的博客
11-04 5万+
神经网络的计算量(FLOPs)和参数量(Params)的定义及实现方法
神经网络的利用率和
鸟恋旧林的博客
11-14 3232
1. 神经网络的利用率 当一个CNN网络做forward时，对于硬件资源的利用情况，称之为利用率。 如何计算利用率？ 计算网络的计算量，通常是乘累加的次数 测量网络运行耗时 乘累加次数除以耗时， 计算该网络的GFLOPS 用计算的网络GFLOPS除以硬件资源的理论GFLOPS，即利用率 2. GFLOPS 全称：float operations per second，每秒可做浮点操作的数量。用...
神经网络模型的参数量和FlOPS
qq_52053775的博客
01-10 4874
FLOPS：注意S是大写，是 “每秒所执行的浮点运算次数”（floating-point operations per second）的缩写。它常被用来估算电脑的执行效能，尤其是在使用到大量浮点运算的科学计算领域中。正因为FLOPS字尾的那个S，代表秒，而不是复数，所以不能省略掉。FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。
适用于任何神经网络的GFLPS，参数量的计算方法，即插即用，保姆式教学
我不想CV的博客
07-01 228
适用于任何网络的GFLOPS,以及参数量的计算方法。
Params and FLOPs
Billie使劲学的博客
07-05 1537
目录1.FLOPS、FLOPs和GFLOPs的辨析2.参数量的计算 3.FLOPs的计算卷积层： 其中，代表输入的通道数，代表输出的通道数，为卷积核的大小，若卷积核有偏置项（Bias）则＋1，没有则不加。若卷积核为方形则。简化为：池化层：池化层不需要计算参数量全连接层： 其中，表示输入通道；K表示卷积核大小；表示输出通道数。卷积层：​​​其中为一次卷积的乘法预算的计算量，为一次卷积加法运算的计算量，+1为偏置项，W与H为输出特征图的长和宽。 可简化为： 计算机视觉中常把一次乘法和加法合在一起，所以可以去掉前
YOLOv11改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点
Limiiiing的博客
10-18 2399
本文记录的是利用模块优化的目标检测网络模型。WTConv的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新C3k2，使模块更好地捕捉低频特征，增强网络性能。Wavelet Convolutions for Large Receptive Fields小波卷积及其改进的实现代码如下： 四、创新模块 4.1 改进点1⭐ 模块改进方法：加入（第五节讲解添加步骤）。添加后如下：基于的深度可分离模块。
RT-DETR改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点
Limiiiing的博客
11-26 826
本文记录的是利用模块优化的目标检测网络模型。的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新，使模块更好地捕捉低频特征，增强网络性能。Wavelet Convolutions for Large Receptive Fields小波卷积及其改进的实现代码如下： 四、创新模块 4.1 改进点1⭐ 模块改进方法：加入（第五节讲解添加步骤）。添加后如下：模块改进方法：基于的（第五节讲解添加步骤）
YOLOv8改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点
Limiiiing的博客
12-12 757
本文记录的是利用模块优化的目标检测网络模型。的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新C2f，使模块更好地捕捉低频特征，增强网络性能。Wavelet Convolutions for Large Receptive Fields小波卷积及其改进的实现代码如下： 四、创新模块 4.1 改进点1⭐ 模块改进方法：加入（第五节讲解添加步骤）。添加后如下：模块改进方法：基于的（第五节讲解添加
YOLOv10改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点
Limiiiing的博客
11-06 606
本文记录的是利用模块优化的目标检测网络模型。的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新C3k2，使模块更好地捕捉低频特征，增强网络性能。Wavelet Convolutions for Large Receptive Fields小波卷积及其改进的实现代码如下： 四、创新模块 4.1 改进点1⭐ 模块改进方法：加入（第五节讲解添加步骤）。添加后如下：基于的深度可分离模块。在深度卷积中
YOLOv8改进 | 模块缝合 | C2f 融合RFAConv增强感受野空间特征 【完整代码 + 自研创新】
kay_545
09-06 1909
YOLOv8，C2f融合，模块缝合
测试网络模型的FLOPs和params
1900的博客
08-08 1009
模型评估
深度学习基础之GFLOPS（2）
u013590327的博客
10-05 8293
神经网络的GFLOPS（Giga FLoating-Point Operations Per Second）代表了神经网络模型执行计算的速度和计算能力。想象你有两个数学家，他们都能够解决复杂的数学问题，但一个速度非常快，另一个速度较慢。GFLOPS就像用来衡量他们速度的标尺。数学家A的GFLOPS是10，这意味着他每秒钟可以解决10亿个数学问题。数学家B的GFLOPS是100，这意味着他每秒钟可以解决100亿个数学问题，比数学家A更快。
模型参数量（Params）和模型每秒浮点运算速度（Flops）
william_hehe的博客
09-12 4634
1.对卷积层而言，有： 模型参数量计算公式： （K_h * K_w * C_in）* C_out 模型每秒浮点运算速度计算公式： (K_h * K_w * C_in * C_out) * (H_out * W_out) 其中：K_h和K_w 代表了kernel的input_size, C_in是input feature map的channel数，C_out是output feat...
深度学习模型计算FLOPs和Params代码
Acmer_future_victor的博客
10-21 4683
本文为转载文章，在原文的基础上添加了个人的一些理解，https://blog.youkuaiyun.com/qq_40507857/article/details/118764782 接下来要分别概述以下内容： １　首先什么是参数量，什么是计算量 ２　如何计算　参数量，如何统计　计算量 ３　换算参数量，把他换算成我们常用的单位，比如:mb ４　对于各个经典网络，论述他们是计算量大还是参数两，有什么好处 ５　计算量，参数量分别对显存，芯片提出什么要求，我们又是怎么权衡 　　 深度学习中模型参数量和计算量
【计算机视觉】GFLOPs、FLOPS和FLOPs的区别和联系（含代码示例）
wzk4869的博客
12-28 2万+
【计算机视觉】GFLOPs、FLOPS和FLOPs的区别和联系（含代码示例）
目标检测算法——YOLOv5/YOLOv7改进|结合轻量型网络ShuffleNetV2
加勒比海带66——【YOLO魔法搭配&论文投稿咨询】
04-09 1万+
将YOLOv5算法与轻量级网络ShuffleNetV2相结合，在保证模型检测精度基本不变的情况下，大大降低计算量FLOPS，并明显提高网络推理速度！！！
在深度学习中FLOPs和GFLOPs的含义及区别
最新发布
m0_46256255的博客
04-24 1648
FLOPs越高，模型计算复杂度越高，训练和推理时间越长，对硬件资源的需求也越大。例如，ResNet50的FLOPs约为16.53 GFLOPs，而更复杂的模型（如ViT-Huge）可能达到数十万亿FLOPs。GFLOPs越高，硬件每秒能处理的浮点运算越多，适合需要高吞吐量的任务（如大规模训练）。表示硬件（如GPU）每秒能执行的浮点运算次数（单位为十亿次），用于评估硬件的计算性能。• 硬件选择：高GFLOPs的GPU（如H100）适合训练大模型，但推理场景可能更关注能效比（如TFLOPs/Watt）。
怎么统计计算量FLOPS和参数量params
04-14
<think>好的，我现在需要帮助用户解决如何在PyTorch中计算ResNet模型的FLOPS和参数量的问题。根据用户提供的引用内容，他们提到了两种方法：使用ptflops库和thop库，还有torchsummaryX。首先，我要确认这些方法的正确性和步骤。 首先，用户提到的第一个引用是关于ptflops的使用。他们导入了必要的库，加载模型，然后调用get_model_complexity_info函数。输入的尺寸是(3,320,320)，输出FLOPS和参数量。需要注意输入是元组类型，不需要batch大小。这个步骤看起来可行，但用户可能需要根据自己模型的输入尺寸调整参数，比如ResNet通常使用224x224的输入，所以可能需要修改为(3,224,224)。 第二个引用提到了thop库的profile方法和torchsummaryX的summary方法。使用thop的profile时，需要创建一个输入张量，然后调用profile函数。而torchsummaryX的summary方法则会输出每层的详细信息。用户注意到两种方法的结果可能有差异，这可能是因为计算方式不同，比如是否考虑某些层的操作。 接下来，我需要整理这两个方法的步骤，确保用户能清楚如何操作。首先，安装相应的库，比如ptflops、thop、torchsummaryX。然后，分别写出两种方法的示例代码，并指出注意事项，比如输入尺寸、是否需要预训练模型等。 用户的问题是关于ResNet的，所以需要确保示例中使用的是ResNet模型。例如，在ptflops的例子中，用户可能加载自己的ResNet模型，或者使用预训练的。需要提醒用户注意模型是否正确加载，以及输入尺寸是否匹配。 另外，用户可能对输出结果中的单位有疑问，比如FLOPS是GFLOPs，参数量的单位是百万（M）。需要明确说明这些单位，避免混淆。 还需要提到可能遇到的常见问题，比如输入尺寸错误、库的版本问题，或者模型结构不同导致的差异。例如，某些自定义的ResNet变体可能有不同的层结构，影响计算结果。 最后，应该比较两种方法的优缺点，帮助用户选择合适的方法。比如ptflops可能更简单直接，而thop和torchsummaryX提供更详细的每层信息。 总结步骤：安装库、加载模型、输入尺寸设置、调用函数、处理输出结果。同时注意可能的陷阱，如输入格式、模型状态（eval模式可能影响某些计算）等。 现在需要将这些思考整理成结构化的回答，分点说明两种方法，并给出示例代码，最后总结注意事项。确保语言清晰，步骤明确，用户能顺利跟随操作。</think>在PyTorch中计算ResNet模型的FLOPS（浮点运算次数）和参数量（Params）可通过以下两种主流方法实现： --- ### 方法一：使用`ptflops`库 #### 步骤说明 1. **安装库**：`pip install ptflops` 2. **加载模型**：支持自定义模型或官方预训练模型 3. **输入尺寸设置**：需匹配模型输入要求（ResNet通常为$3 \times 224 \times 224$） 4. **调用函数计算**：`get_model_complexity_info` ```python from ptflops import get_model_complexity_info from torchvision.models import resnet50 model = resnet50(pretrained=False) # 或加载自定义模型 flops, params = get_model_complexity_info( model, (3, 224, 224), # 输入尺寸 as_strings=True, # 返回易读单位 print_per_layer_stat=False # 是否打印每层信息 ) print(f"FLOPS: {flops}, Params: {params}") ``` #### 输出示例 ``` ResNet50 |4.11 GMac |25.56 M ``` --- ### 方法二：使用`thop`库 #### 步骤说明 1. **安装库**：`pip install thop` 2. **创建输入张量**：需指定与模型匹配的输入尺寸 3. **调用`profile`函数**：自动追踪计算图 ```python import torch from thop import profile from torchvision.models import resnet50 model = resnet50(pretrained=False) input = torch.randn(1, 3, 224, 224) # 输入张量 flops, params = profile(model, inputs=(input,)) print(f"FLOPS: {flops/1e9} G, Params: {params/1e6} M") ``` #### 输出示例 ``` Params: 25.56M, Gflops: 4.11 ``` --- ### 关键差异说明 | 方法 | 优点 | 注意事项 | |------------|---------------------------|------------------------------| | `ptflops` | 直接输出易读单位 | 需手动设置输入尺寸元组 | | `thop` | 自动追踪动态计算图 | 结果单位为原始数值需手动转换 | --- ### 注意事项 1. **输入尺寸匹配**：ResNet标准输入为$3 \times 224 \times 224$，若修改需同步调整[^1] 2. **模型状态**：计算前需调用`model.eval()`避免BN层影响 3. **结果差异**：不同工具对卷积/池化等操作的计算方式可能不同[^2] 4. **自定义模型**：若使用非标准ResNet，需确保所有层被正确识别 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值