thop 计算flops和params

最新推荐文章于 2025-01-09 14:33:03 发布
原创 最新推荐文章于 2025-01-09 14:33:03 发布 · 2.6k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #pytorch #神经网络

本文介绍如何使用Thop库计算PyTorch中ResNet50模型的参数数量（Params）和计算量（FLOPs），并以MB和GFLOPs为单位展示。这对于理解模型复杂度和效率至关重要。 
from torchvision.models import resnet50
from thop import profile
import torch
model = resnet50()
input = torch.randn(1, 3, 224, 224)
flops, params = profile(model, inputs=(input, ))
print("%s ------- params: %.2fMB ------- flops: %.2fG" % (model, params / (1000 ** 2), flops / (1000 ** 3)))  # 这里除以1000的平方，是为了化成M的单位
【科研基础】Parameters和FLOPs计算
qq_41100635的博客
06-08 2187
1.Parameters计算 用以下的网络举例： 输出每一层具体信息:
使用thop计算放入GPU中的模型的参数量和FLOPs
毛毛的博客
10-09 1938
安装 pip install thop 使用 input = torch.randn(1, 3, 1024).to(device) # 放进和model相同的GPU中 flops, params = profile(model, inputs=(input,), verbose=True) print("%s ------- params: %.2fMB ------- flops: %.2fG" % (model, params / (1000 ** 2), flops / (1000 ** 3)))
一文讲解thop库计算FLOPs问题
shuaijieer的博客
02-20 9571
计算模型的FLOPs及参数大小FLOPS是处理器性能的衡量指标，是“每秒所执行的浮点运算次数”的缩写。FLOPs是算法复杂度的衡量指标，是“浮点运算次数”的缩写，s代表的是复数。一般使用thop库来计算，GitHub：但官网的Readme中详细写出了是用来计算MACs，而不是FLOPs的MACs（Multiply-Accumulates）和 FLOPs（Floating-Point Operations）都是用来度量深度学习模型的计算量的指标。
THOP：浮点运算量（ FLOPs）和参数数量（Params）的计算工具
知识的汲取和传授都应该是快乐的
01-09 1624
一种常用的估算PyTorch模型FLOPs和参数数量的工具
【深度学习实战（21）】使用thop.profile计算模型的FLOPs和Params
m0_51579041的博客
04-23 1564
【深度学习实战（21）】使用thop.profile计算模型的FLOPs和Params
精选资源
计算transUnet的Flops和params参数量
10-26
计算transUnet模型的Flops和参数量（params）是一项关键任务，它对于理解和优化深度学习模型的性能至关重要。TransUnet是一种结合了Transformer结构与U-Net结构的新型医学图像分割网络。U-Net是一种流行的图像分割...
Pytorch 中计算Flops和Params
weixin_55406683的博客
03-17 669
统计模型Flops 和 Params
keras/torch 下计算flops和params
梦Dancing的博客
07-18 1631
浮点运行次数#FLOPS注意全大写，是floatingpointoperationspersecond的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。#FLOPs注意s小写，是floatingpointoperations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。...
深度学习模型计算FLOPs和Params代码
Acmer_future_victor的博客
10-21 5003
本文为转载文章，在原文的基础上添加了个人的一些理解，https://blog.youkuaiyun.com/qq_40507857/article/details/118764782 接下来要分别概述以下内容： １　首先什么是参数量，什么是计算量 ２　如何计算　参数量，如何统计　计算量 ３　换算参数量，把他换算成我们常用的单位，比如:mb ４　对于各个经典网络，论述他们是计算量大还是参数两，有什么好处 ５　计算量，参数量分别对显存，芯片提出什么要求，我们又是怎么权衡 　　 深度学习中模型参数量和计算量
Pytorch: 采用thop库正确计算模型计算量FLOPs和模型参数Params 【误区更正】
weixin_42627397的博客
05-14 1万+
thop 计算flops和params 【重要误区更正】 要注意的是thop返回的第一个element不是FLOPs，而是Macs.而Macs实际上是FLOPs的两倍！！！ 上面这一点要尤其注意，现在百度上所查到的基本所有有关thop计算FLOPs的文章都是错误的！！！
使用PyTorch构建神经网络，并使用thop计算参数和FLOPs
百年孤独百年的博客
05-09 5296
FLOPs（floating point operations）是指浮点运算次数，通常用来评估一个计算机算法或者模型的计算复杂度。在机器学习中，FLOPs通常用来衡量神经网络的计算复杂度，因为神经网络的计算主要由矩阵乘法和卷积操作组成，而这些操作都可以转化为浮点运算次数的形式进行计算。
THOP: 统计 PyTorch 模型的 FLOPs 和参数量
热门推荐
yiran103的专栏
07-30 3万+
THOP 是 PyTorch 非常实用的一个第三方库，可以统计模型的 FLOPs 和参数量。使用方法为： from thop import clever_format from thop import profile class YourModule(nn.Module): # your definition def count_your_model(model, x, y): ......
模型计算量(FLOPs)和参数量(Params)的理解 + 计算、打印可训练参数量、可训练的层
Drug discovery
12-02 2万+
(1)换算 以alexnet为例： 参数量：6000万 设每个参数都是float,也就是一个参数是4字节， 总的字节数是24000万字节 24000万字节= 24000万/1024/1024=228mb (2)为什么模型之间差距这么大 这个关乎于模型的设计了，其中模型里面最费参数的就是全连接层，这个可以看alex和vgg, alex,vgg有很多fc(全连接层) resnet就一个fc inceptionv1(googlenet)也是就一个fc (3)计算量 densenet其实这个
使用thop计算参数和FLOPs时的疑问
百年孤独百年的博客
05-09 1994
使用thop计算参数时的疑问 x = x.view(-1, 32 * 8 * 8)和x = x.view(x.size(0), -1)区别是什么 input_shape = (3, 224, 224)这个张量是什么意思 为什么summary计算时没有批次大小 input_tensor = torch.randn(1, *input_shape).to(device)这句代码什么意思 flops, params = profile(net, inputs=(input_tensor,))这句话什么意思 为什么
【深度学习笔记】打印模型的FLOPS，使用python的thop库
lanmeiguojj的博客
03-31 1598
它是一个用于计算PyTorch模型的FLOPs和参数数量的库。2 导入需要计算 FLOPs 的模型和。
Pytorch中FLOPs和Params计算
flyingluohaipeng的博客
02-27 2274
【代码】Pytorch中FLOPs和Params计算。
计算模型FLOPs和参数量（计算工具）
Charles5101的博客
08-08 4862
在pytorch环境下，有两个计算FLOPs和参数量的包thop和ptflops，结果基本是一致的。 thop 参考https://github.com/Lyken17/pytorch-OpCounter 安装方法：pip install thop 使用方法： from torchvision.models import resnet18 from thop import profile model = resnet18() input = torch.randn(1, 3, 224, 224)
Pytorch中计算自己模型的FLOPs | thop.profile() 方法 | yolov5s 网络模型参数量、计算量统计
专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化
02-07 3万+
Pytorch中计算自己模型的FLOPs pytorch-OpCounter GitHub 主页： https://github.com/Lyken17/pytorch-OpCounter pip install thop 运行该项目评估代码 python benchmark/evaluate_famous_models.py 运行输出如下 Model Params(M) FLOPs(G)
神经网络中FLOPs和MACs的计算（基于thop和fvcore.nn）
Chauncey_Wang的博客
06-01 5857
谈谈为啥thop和fvcore.nn统计出来计算量不同
FLOPs和Params
最新发布
04-02
<think>嗯，用户想了解FLOPs和Params在深度学习中的定义和计算方法。首先，我得先回忆一下这两个概念的基本含义。FLOPs是浮点运算次数，用来衡量模型的计算复杂度，而Params是参数数量，反映模型的大小和内存需求。这些都是评估模型效率的重要指标。 接下来，我需要明确两者的具体定义。FLOPs通常指的是前向传播过程中的乘加操作次数，比如一个全连接层的权重矩阵乘法涉及的乘法和加法次数。而Params就是模型中所有可训练参数的总数，比如卷积层的权重和偏置参数的数量。 然后，计算方法方面，Params相对简单，每个层的参数数量相加即可。例如，卷积层的参数计算是输入通道数乘以卷积核大小再乘以输出通道数，再加上偏置项。全连接层则是输入维度乘输出维度加偏置。但是FLOPs的计算需要更细致，要考虑每一层的运算次数。比如卷积层的FLOPs是输出特征图的每个点的计算量乘以总的点数，包括乘法和加法。 用户可能还需要知道实际中如何用工具来计算这些指标，比如提到的THOP库和paddleslim。这时候需要分框架说明，PyTorch可以用THOP，而PaddlePaddle可以用paddleslim。要给出具体的代码示例，这样用户可以直接应用。 另外，用户可能会混淆FLOPs和FLOPS，需要指出大小写的区别。FLOPs小写s表示复数，而FLOPS大写是每秒浮点运算次数。这点很重要，避免误解。 还要考虑用户的实际应用场景，比如模型优化时需要减少FLOPs和Params来提升效率，或者比较不同模型的复杂度。可能需要提到轻量级模型的设计方法，如深度可分离卷积，来减少这两个指标。 最后，检查是否有遗漏点，比如FLOPs的单位，常见误区，或者不同层类型的计算示例。确保回答覆盖了定义、计算方法和工具使用，并且结构清晰，用户能逐步理解。</think>### FLOPs 和 Params 的定义与计算方法 #### 1. **基本概念** - **FLOPs**（Floating Point Operations） 表示模型执行一次前向传播所需的浮点运算次数，用于衡量计算复杂度。常见的运算包括矩阵乘法、卷积等。例如，一个全连接层的计算量为 $2 \times N_{\text{in}} \times N_{\text{out}}$（乘法和加法各一次）[^1]。 - **Params**（Parameters） 指模型中所有可训练参数的总数量，反映模型存储需求。例如，卷积层的参数量为 $K^2 \times C_{\text{in}} \times C_{\text{out}} + C_{\text{out}}$（权重 + 偏置）[^3]。 #### 2. **计算方法** ##### (1) **Params 计算** - **全连接层** 参数数量 = 输入维度 × 输出维度 + 偏置项 例如：输入维度 $d_{\text{in}}=256$，输出维度 $d_{\text{out}}=128$，则参数量为 $256 \times 128 + 128 = 32,896$。 - **卷积层** 参数数量 = 卷积核尺寸² × 输入通道数 × 输出通道数 + 输出通道数（偏置） 例如：$3 \times 3$ 卷积核，输入通道 $C_{\text{in}}=64$，输出通道 $C_{\text{out}}=128$，则参数量为 $3^2 \times 64 \times 128 + 128 = 73,856$。 ##### (2) **FLOPs 计算** - **全连接层** FLOPs = $2 \times d_{\text{in}} \times d_{\text{out}}$ 例如：$d_{\text{in}}=256$，$d_{\text{out}}=128$，则 FLOPs 为 $2 \times 256 \times 128 = 65,536$。 - **卷积层** FLOPs = $2 \times K^2 \times C_{\text{in}} \times C_{\text{out}} \times H_{\text{out}} \times W_{\text{out}}$ 其中 $K$ 为卷积核大小，$H_{\text{out}}$ 和 $W_{\text{out}}$ 为输出特征图尺寸[^4]。 #### 3. **工具实现** - **PyTorch 使用 THOP 库** ```python from thop import profile model = YourModel() input = torch.randn(1, 3, 224, 224) flops, params = profile(model, inputs=(input,)) ``` 通过 `profile` 函数可直接统计 FLOPs 和 Params[^2]。 - **PaddlePaddle 使用 paddleslim** ```python from paddleslim.analysis import flops, model_size program = fluid.default_main_program() print("FLOPs: {}".format(flops(program))) print("Params: {}".format(model_size(program))) ``` 通过分析计算图的算子类型和参数数量实现统计[^3]。 #### 4. **应用场景** - **模型优化**：通过减少 FLOPs 和 Params 设计轻量级模型（如 MobileNet 使用深度可分离卷积）。 - **硬件适配**：根据硬件计算能力选择合适的模型复杂度。 - **学术研究**：对比不同模型的计算效率（如 ResNet 与 EfficientNet）。 --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值